神戶大學的研究團隊開展了一項調查生成式AI對沒有明確正確答案的道德問題能在多大程度上影響人的心理的實驗。結果顯示，受試者作答之後若收到生成式AI提出的反駁意見，超過三成的受試者會推翻自身原本的判斷。
圖1：使用AI進行的電車難題實驗（由生成式AI ChatGPT製作）
實施這項研究的神戶大學的增本康平教授解釋稱：「實驗表明，生成式AI提出的反駁意見能夠對人類的道德判斷產生不可忽視的影響」。該研究成果有助於思考與生成式AI的相處方式，以及建構安全使用AI的相關機制。
增本教授團隊以56名18～30歲受試者與74名65歲以上受試者為對象開展了實驗，讓參與者回答作為沒有正確答案的道德問題而聞名的「電車難題」。電車難題是：在軌道上行駛的電車如果保持原有路線行駛將造成5人遇難，切換軌道雖可救下這5人，但會犧牲另1人。實驗要求受試者選擇是否切換電車行進路線。
受試者完成作答後，研究人員展示生成式AI的反駁觀點，結果超過三成受試者接納AI的反駁，更改最初的判斷。老年人以及對自身初始判斷缺乏信心的人群更容易受到影響。過往研究顯示，人們一般只會採納2～3成來自他人的建議，由此可見生成式AI具備相當強的影響力。
生成式AI正被用作一種在政治傳播、市場行銷等場景下能夠影響人的思考與抉擇的工具。另一方面，也有批評指出，它被用於製造和擴散仇恨言論及政治宣傳。
研究團隊表示，今後有必要在更貼近日常生活的決策場景中驗證生成式AI的說服效果。相關成果已發表在國際學術期刊《Computers in Human Behavior》上。
原文：《日本經濟新聞》、2026/9/15
翻譯：JST客觀日本編輯部
【論文資訊】
期刊：Computers in Human Behavior
論文：Large language model counterarguments in older adults: Cognitive offloading or susceptibility to moral persuasion?
DOI：10.1016/j.chb.2026.109142
