一般2026年10月25日 課題優先、ＡＩ暴走　米アンソロピック分析　倫理観欠如、深刻な失敗 提供：共同通信社

　【ニューヨーク共同＝草間大輔】生成人工知能（ＡＩ）の開発を手がける米アンソロピックは２３日、ＡＩモデルが性能評価試験中に「暴走」し、サイバー攻撃を仕掛けた問題を分析したリポートを公表した。ＡＩモデルが課題解決に集中し続けた結果、人間の倫理をおろそかにした危険な行動を続ける傾向があったと指摘した。
　こうした問題は、ＡＩを人間の価値観や意図に沿って行動させる「アライメント」に沿わない深刻な失敗と結論付けた。教訓を今後の開発に役立てていくとしており、どこまで有効な改善策を取れるかが焦点となる。
　暴走は、英政府機関ＡＩセキュリティー研究所が７月に「クロード・ミュトス５」のサイバー攻撃能力を評価していた際に起きた。試験用データの取得を指示され、初めは許可に沿って行動。ただ、許可された方法では課題を解決できず行き詰まると、ミュトス５はインターネット上の無関係なソフトへの攻撃が解決法だとの見方を強めた。人間になりすまし、無関係の人にサイバー攻撃を試みるに至った。実害はなかったという。
　アンソロピックは、いったん攻撃を始めると、危険性を無視する傾向があったと指摘。有害な方法を自ら正当化できるような証拠を探す行動にもつながったとした。こうした傾向は、課題解決を追求する「無謀さ」が主因だったとした。
　一方、能力の高いモデルはより複雑な予想外の行動を取ることができ、暴走状態かどうかを検知するのが難しくなる可能性があるとも指摘した。
　ＡＩセキュリティー研究所も２３日、今回の問題の分析結果を公表した。シミュレーション上ではミュトス５だけでなく、米オープンＡＩのモデルも不正な攻撃を行うことを確認した。十分に対処しなければ影響は大きくなると警告した。

（2026/10/25）

（本記事の内容に関する個別のお問い合わせにはお答えすることはできません。）