一般2026年09月21日 ＡＩ反論、３割判断覆す　情報追加で人より説得力　世論工作など悪用懸念 提供：共同通信社

　正解のない道徳的な問いで生成人工知能（ＡＩ）に反論されると、３割以上の人が判断を覆したとの論文を、神戸大のチームが２０日までに発表した。海外では、個人情報を与えて対話させたＡＩが人を上回る説得力を示した研究も。ＡＩが人の価値観や判断にまで影響を及ぼしかねず、偽情報の拡散や世論工作などへの悪用も懸念される。
　神戸大の増本康平教授らは、日本在住の１９~２８歳の若年層５６人と６５歳以上の高齢層７４人に「トロッコ問題」を出題。暴走するトロッコの進路上に５人がおり、進路を切り替えれば５人は助かるが切り替えた先の別の１人が犠牲になる場合、１人を犠牲にするのが適切かどうか判断してもらった。
　参加者の回答に対し生成ＡＩ「チャットＧＰＴ」に論理的に反論させると、３割以上が自身の判断を覆した。同様のジレンマを含む別の問いでも同程度だった。判断に自信がない人や難しいと感じた人ほど覆しやすく、高齢層は若年層より判断を変える傾向にあった。
　増本教授によると、人が他人の助言内容を受け入れる程度は２~３割とされる。「３割が判断を正反対に変え、生成ＡＩが道徳的判断に無視できない影響を及ぼし得ることが示された」と話す。
　スイス連邦工科大ローザンヌ校などのグループは、米国で１８歳以上の９００人を対象に実験。賛否の分かれるテーマについて、相手がＡＩか人かを伏せて討論したところ、性別や年齢など参加者の個人情報を与えたＡＩが意見を最も動かした。
　同じ情報を人に与えても説得力は変わらず、情報を生かせたのはＡＩだけだった。グループは、交流サイト（ＳＮＳ）の投稿履歴のデータを与えれば説得力がさらに強まる可能性があるとして、悪用防止策の必要性を訴えている。
　増本教授は、ＡＩの反論で判断を変えること自体は悪くないが、考える負担が大きい問題では過度に影響されかねないと指摘。ＡＩは誤った内容でも正しそうに答えることがあり「内容を吟味し反論の根拠を確認する能力が重要だ」と語った。

　生成ＡＩと思考力

　生成人工知能（ＡＩ）と思考力　文章や画像を作り出す生成ＡＩの普及に伴い、人の思考力や判断への影響が危惧されている。人は、考える負担が大きい問題に直面すると、理解しやすい説明を信じる傾向があるとされる。ＡＩは大量のデータを基に自然な文章を生成できるため、こうした傾向を強め、誤った情報でも利用者が受け入れてしまいやすくなる可能性がある。専門家からは「認知的降伏」が起きていると指摘されている。

　トロッコ問題　暴走するトロッコの進路上に５人がいる状況で、他の１人を犠牲にして５人を助けるべきかどうかを問う思考実験。倫理学や心理学などで、人を犠牲にして多数を救うことの是非や、判断の在り方を考えるために用いられることが多い。レバーを操作してトロッコの進路を切り替えれば５人は助かるが、別の進路上の１人が犠牲になるとする問題や、線路の上の橋から１人を突き落としトロッコを止めれば５人が助かるといった問題がある。

（2026/09/21）

（本記事の内容に関する個別のお問い合わせにはお答えすることはできません。）