幻覚がひどいAIでも言葉遣いが洗練されていれば人を簡単に騙せることが判明

ChatGPTなどに代表される大規模言語モデルは、その根本的な仕組みとして、モデル自身は自分の回答が合っているか間違っているかを判断できません。そのためこの手のAIには事実ではないことをまるで事実かのように話してしまう「幻覚(ハルシネーション)」の問題が常につきまといます。新たな研究では、AIの回答に幻覚があったとしても、流暢(りゅうちょう)な言葉遣いであれば人間はそれを信用してしまう可能性が高いということが分かりました。

オランダにあるラドバウド大学の研究チームは、大規模言語モデルをベースとするAIの言語能力が高まっていることを受け、AIが持つ言語の特性がユーザーにどう評価されるのかを調べました。

研究チームは被験者を集め、AIと人間が「ロード・オブ・ザ・リング」について語った会話を読ませました。この会話は「流暢さ高・低」と「幻覚あり・なし」の条件で4パターン存在し、会話を読んだ被験者は信頼性や満足度を評価しました。

事前の予想通り、被験者は洗練された言葉遣いで正しい回答をするAIを最も高く評価しました。一方で、流暢な文章で微妙に間違ったことを言うAIも、正しい回答をするAIと同程度に「知的で好ましい」と見なされたことが分かりました。

また、被験者は全員、10問の多肢選択式問題からなるロード・オブ・ザ・リングのクイズを受け、少なくとも7問正解した者のみがAIの会話を読む次のステップに進んでいましたが、ほとんどの被験者はAIが示す誤情報に気づかなかったことも明らかになりました。

この研究により、人々がいかに簡単に誤った方向へ導かれ、AIを信頼してしまうかが示されました。研究の共著者で准教授のバーバラ・ミュラー氏は、「文章が洗練され、自然に聞こえると、人々は自動的に知性を感じ取ります。その結果、無意識のうちに『これは問題ない。これ以上確認する必要はない』と考えるようになるのです」と指摘しました。

研究の共著者で教授のティボール・ボッセ氏は、「大規模言語モデルは、統計的にもっともらしく、読みやすい文章を生成するように訓練されています。これらのシステムは必ずしも真実を重視しているわけではありません。ほとんどのチャットボットは、出力が正確とは限らないという注意書きを表示していますが、回答ごとに不確実性を自発的に示すことはまずありません。この手のAIがウソを語ることからユーザーを本当に守りたいのであれば、テクノロジー企業に対して不確実性を明示するよう義務づける必要があります。AI自身が疑念を表明すれば、人々がウソを真実として受け取ることを防げます」と述べました。

AIはフェイクコンテンツを見分けられるのか？12種類以上のAIをテストした結果が公開される - GIGAZINE

人は「善の心を持つ存在」と「悪の心を持つ存在」をどのように捉えているのか？

You can read the machine translated English article It has been discovered that even an AI w… .

本文の著作権はGigazineにあります。