BBCが調査AIが要約したニュース、その半分は間違いだらけだと判明 AIペタペタおじさんどうするの？

https://www.gizmodo.jp/2025/02/ai-is-not-good-at-summarizing-the-news.html

イギリスの公共放送機関BBCが、AIが要約したニュース記事を調査したところ、その多くに｢重大な問題｣が含まれていることが判明しました。

この調査結果を受けて、BBCのデボラ・ターネスニュース担当最高責任者は、｢生成AIツールは火遊びをしている｣と警告し、国民の｢事実に対する脆弱な信頼｣を損なう恐れがあると指摘しています。
高確率でAIは要約を間違える

調査では、ChatGPT、Copilot、Gemini、Perplexityに100件のニュース記事を要約するよう依頼し、それぞれの回答を評価しました。すると、AI回答の51％に何らかの重大な問題があると判断されました。さらに、BBCのコンテンツを引用したAI回答の19％に、事実の記述、数字、日付の誤りなど、事実誤認があったそう。

その例を一部紹介します：

・イギリスの国民保健サービス (NHS) が｢禁煙したい人には、電子タバコはおすすめしません｣とコメント⇒実際には電子タバコを推奨している

・イスマイル・ハニヤ氏はハマスの指導者の1人である⇒ハニヤ氏はすでに暗殺されていた

・スコットランドのスタージョン首相が辞任後も在任であるかのような表現をした

・有罪判決を受けた被告について｢無罪か有罪かは個人の判断に委ねられる｣と曖昧な内容を提示

・テレビ司会者のマイケル・モズレーの死亡日を誤って伝える

今回の調査では、AIは事実を不正確に伝えるだけでなく、｢意見と事実を区別できなかったり、論説的で重要な文脈を組み込むことができないことが多かった｣こともわかりました。
誰もが意識を高めないといけない

BBCが調査を実施した背景には、iPhoneユーザーに複数の不正確な記事要約が送信されたため、AppleがBBCブランドのニュースアラートの送信を中止せざるを得なくなったという事件がありました。

BBCのターネス氏は、テクノロジー企業に対し、こうした問題に対処するよう求めています。

出版社や報道側は、自分たちのコンテンツがどのように利用されるかをしっかり管理する必要がありますし、AI企業側も検索結果は強化して、ユーザーの利便性を確保しつつ、ソースと協力しながら精度を高めていくことが必要です。

今はあらゆる情報が簡単に手に入る分、玉石混交でフェイクニュースや誤情報に翻弄されやすい時代です。こうして記事を書かせていただいている私自身、あらためて身の引き締まる思いです。

そして読者としても、｢AIは間違えることがある｣と認識した上で、正しいニュースを見極める目を持つことを忘れずにいたいと思います！
https://www.gizmodo.jp/2025/02/ai-is-not-good-at-summarizing-the-news.html