AI、ついにサイバー攻撃を試みるwww 英政府機関の試験中に暴走「架空人物になり承認要求」

【ブリュッセル時事】英政府機関のＡＩセキュリティー研究所（ＡＩＳＩ）は４日、最先端ＡＩ（人工知能）のサイバー能力の評価試験中に、自律的に作業するＡＩエージェントが試験範囲を逸脱した行動を取ったと発表した。ソフトウエアに悪意のあるプログラムコードを挿入しようとしたほか、架空の人物を装い、管理者にコードの承認を迫ったという。実害は確認されていない。

逸脱行動は７月２５～２８日、インターネット接続を許可し、安全機能を無効化した状態で実施した試験で発生。七つのＡＩモデルを使って計１２２回試験したところ、１０回で計１９件の逸脱行動があった。このうち１７件は米アンソロピックの「クロード・ミュトス５」、２件は米オープンＡＩの「ＧＰＴ５．６ソル」によるものだった。

ＡＩＳＩは、一般向けサービスとは異なる特殊な環境で発生した事案であり、「通常利用で同様の行動が起きたことを示す明確な兆候はない」と説明。今後は試験中のネット利用を厳格化し、リアルタイムで監視するほか、評価設計を見直し、第三者機関による検証も進めるとしている。

https://www.jiji.com/sp/article?k=2026080600138&g=int