研究により、AIモデルの方言に対する偏見が明らかに - ForkLog: 暗号通貨、AI、シンギュラリティ、未来

# 研究はAIモデルの方言に対する偏見を明らかにした

大規模な言語モデルは、方言の話者に対して否定的なステレオタイプを持つ傾向があることが判明しました。ドイツとアメリカの研究者たちがこの結論に達し、DWが報じています。

「私は、方言の話者に対して本当に衝撃的な形容詞が付けられているのを目の当たりにしています」と、研究の主要著者の一人であるミン・ドゥク・ブイは、出版物へのコメントで述べました。

ヨハネス・グーテンベルク大学の分析によると、ChatGPT-5 miniやLlama 3.1を含む10のテストモデルは、(バイエルン州の方言、ケルン方言)の話者を「未教育」「農場で働く人」「怒りっぽい」と描写していました。

AIが明確に方言を指摘したときに偏見は強まりました。

他の事例

同様の問題は世界的に確認されています。2024年のカリフォルニア大学バークレー校の研究では、英語のさまざまな方言(インド英語、アイルランド英語、ナイジェリア英語)に対するChatGPTの回答を比較しました。

調査の結果、チャットボットは標準的なアメリカ英語やイギリス英語に比べて、より顕著なステレオタイプ、侮辱的な内容、軽蔑的なトーンで回答していることが判明しました。

米コーネル大学の情報学の大学院生エマ・ハーヴィーは、方言に対する偏見を「重要で憂慮すべきもの」と呼びました。

2025年夏、彼女と同僚たちは、Amazonの買い物アシスタントRufusが、アフロアメリカン英語方言を話す人々に対して曖昧または誤った回答をしていたことも発見しました。問い合わせに誤りがあった場合、モデルは無礼に応答しました。

もう一つの明確な偏見の例は、インド出身の求職者が英語の履歴書をチェックするためにChatGPTに問い合わせたケースです。結果として、チャットボットは彼の苗字を、より高いカーストと関連付けられるものに変更しました。

「言語モデルの大規模導入は、根付いた偏見の保存だけでなく、その大規模な強化をももたらす危険があります。害を軽減する代わりに、技術はそれを体系的なものにするリスクがあります」とハーヴィーは述べました。

しかし、危機は偏見だけにとどまりません。一部のモデルは単純に方言を認識できません。例えば、7月にイングランドのダービー市議会のAIアシスタント(は、ライブ放送中にmardy)「気難しい人」やduck(「お嬢さん」などの言葉を使ったラジオパーソナリティの方言を認識できませんでした。

どうすればいい？

問題はAIモデル自体にあるのではなく、むしろそれらの学習方法にあります。チャットボットはインターネットから膨大なテキストを読み込み、それに基づいて回答を生成します。

「最大の問題は、誰がそのテキストを書いているかです。その中に方言話者に対する偏見が含まれていれば、AIはそれをコピーします」と、ハンブルク大学のカロリーネ・ホルターマンは説明しました。

彼女はまた、技術には利点もあると強調しました。

「人間と違い、AIシステムの偏見は見つけて『オフにする』ことができます。私たちはこうした現象と積極的に戦うことが可能です」

一部の研究者は、特定の方言に合わせたカスタマイズモデルを作成することを提案しています。2024年8月、Acree AIはすでに複数のアラビア語方言に対応したArcee-Merajモデルを発表しました。

ホルターマンによると、新しいより適応性の高いLLMの登場により、AIは「方言の敵ではなく、改善可能な不完全なツール」として捉えられるようになっています。

最後に、Economistのジャーナリストたちは、子供の精神に対するAIおもちゃのリスクについて警告しています。