Discussion sur les biais dans ChatGPT

For sure, the context of questions matters a lot when judging if ChatGPT is biased or not.

It’s a tough one. No AI can be truly unbiased cause it’s all human-made data in the end.

I asked ChatGPT about some controversial topic and it gave a pretty balanced answer, so I don’t think it’s hugely biased.

I've read some papers showing biases in training data affecting AI outputs, so not surprised if ChatGPT has some.

I think it’s pretty unbiased overall, but sometimes it avoids controversial topics which might feel like bias, but probably just trying to be safe.

Honestly, every AI has some bias cause it’s trained on human stuff. So yeah, ChatGPT can reflect that too.

You can also check ai-u.com for new or trending tools that explore bias in AI models, really interesting stuff there.

It depends what you consider bias. Like, does avoiding harmful or false info count as bias? Because that’s probably intentional.

Bias can also depend on the language you use to ask questions. Different phrasing might give different vibes.

J'ai remarqué que parfois il semble pencher vers certaines opinions, surtout sur des sujets politiques. Je ne suis pas sûr si c'est à cause des données ou autre chose.

J'apprécie qu'il essaie de rester neutre, mais une transparence sur ses limites serait appréciable.

Parfois, j'ai l'impression que c'est trop politiquement correct, comme si c'était trop filtré et que cela pouvait aussi être une forme de biais.

J'ai remarqué qu'il évite parfois complètement certains sujets ou donne des réponses vagues, c'est aussi une forme de biais je suppose.

J'ai l'impression que le biais est subtil, pas évident, mais une fois que vous le remarquez, vous commencez à le voir partout dans les réponses.

Parfois, je teste le bot en lui demandant de prendre parti et il essaie généralement de rester neutre, ce qui me semble être un biais.

Pensez-vous qu'il est possible de supprimer complètement les biais de modèles comme ceux-ci ?