上接：【AI法上篇】如何對「將人生交給AI」保持危機感——中央大學平野晉教授專訪
AI（人工智慧）在為我們的生活帶來便利的同時，也潛藏著被其操控的風險。在哪些場景下應該使用AI，哪些場景下最好避免使用？就此，我們採訪了AI與法律領域的專家，同時持有美國紐約州律師資格的中央大學國際資訊學部的平野晉教授。
開設以電影為素材的課程，收穫學生們的新穎觀點
——您現在開設了以「電影與法律」為主題的課程吧。
我很喜歡電影（笑）。課堂上會講解《銀翼殺手》、《機械戰警》、《2001太空漫遊》等科幻作品。我會問學生：如何理解人造人所說的臺詞「為大義而死，才是我們所能做的最人性化的事」（《銀翼殺手》）；對於影片表達的機器人士兵相較人類士兵，在城市作戰中能精準區分平民更具人道主義有何看法（《機械戰警》）；名為哈爾（HAL）9000的AI，為何要除掉一眾宇航員（《2001太空漫遊》）等。很多學生沒看過這些電影，開展討論時，常常能聽到令人耳目一新的意見。
平野晉教授的著作《機器人法：邁向AI與人類的共生》。書中收錄了諸多以電影為素材的案例。本書為方便理工科讀者閱讀，做了特別設計，比如將法律書籍裡常用於指代當事人、企業的「甲方、乙方」改用「德爾塔（⊿）、派（π）」等來表示（供圖：弘文堂）
——AI的缺點是什麼？
首先，AI最嚴重的缺點是有可能做出違背開發者、提供者或使用者的設想或意圖的判斷和行動，也即「不可控性」。早在半個多世紀前的1968年上映的《2001太空漫遊》中，HAL9000正是這一問題的典型代表。
不透明性、「說明責任缺失」、商業秘密……
除此之外，AI還潛藏著諸多缺點。例如被稱為「opacity」的「不透明性」——通常也被稱作「黑箱」問題。由於運行機制過於複雜，或是訓練所用數據不明，導致人們無法知曉AI做出某個預測、建議或判斷（輸出）的機制與緣由，此類問題即為不透明性。HAL9000正是這一缺點的典型代表。
與不透明性相近的另一問題，「說明責任缺失」也被列為AI的缺點。即AI無法履行對自身輸出的結果作出說明的責任。其中一個原因還是因為不透明性——如果輸出的機制和理由不透明，自然也就無法說明。
此外，導致「說明責任缺失」的另一個原因是保護「商業秘密」的法律制度。例如，當因AI而受害的原告追究AI提供者的損害賠償責任時，若要查清AI可能存在的錯誤，可能需要對方公開原始碼等。然而，如果AI提供者以保護商業秘密等法律為盾牌予以拒絕，正義就無法實現，即無法履行說明責任——這一問題在美國已經被指出。
是人類駕馭AI，還是人類成為AI的僕從？在AI開始普及的當下，正是人類必須思考的課題。
人生重大事項上不應輕率使用
——您剛才說到涉及商業秘密……
關於商業秘密的問題，在美國休斯敦市發生的一起案件中，法院曾作出過禁止使用演算法的判決。在該案中，這座城市的獨立學區採用供應商提供的演算法，對被評為最低等級的教師不再續聘，但學區無法向這些教師說明其評級為最低的理由與演算法機制。
獨立學區無法解釋最低評價生成機制的原因在於，供應商以商業秘密為由，甚至對該學區都拒絕公開原始碼等資訊。遭到解聘的教師與工會，以校方違反憲法中保障說明義務的人權條款（正當法律程序保障）為由提起訴訟，要求永久禁止使用該演算法。法院隨後判決，認為對於無法履行說明責任的系統，除了禁止其使用之外別無選擇。如該案件所示，在將AI用於涉及人生重大事項或可能侵害權利的用途時，有必要考慮無法履行說明責任這一缺點可能存在違憲的風險。
此外，AI的不可控性加上不透明性，也是人們對使用AI機器人武器持謹慎態度的原因之一。一種無法控制、行為無從預判的事物，真的能用作武器嗎？它可能會攻擊平民，也可能會攻擊友軍。即便想要優化改良，受限於不透明性，其做出該類行為的底層邏輯都無從知曉，甚至無法進一步改進……國際紅十字委員會指出，這類存在缺陷的系統，根本無法用於事關人命的任務。
我認為，在關乎人生重大事項、涉及權益的場景中，不應輕率使用AI。而對於類似篩選黃瓜形狀、判斷網球或棒球是否出界等「機械性判斷」任務，可以使用AI，因為它比人類速度更快、精度更高，還能不間斷作業。但對於像上篇中提及的招聘活動那樣的「價值判斷」，我認為應當審慎使用AI。
平野晉教授講述AI應用具有左右人生、且個人無法反駁的風險（2026年4月，東京都新宿區）
大谷選手的價值僅憑數據無法概括
——能否請您再詳細說明一下關於「在左右人生、涉及個人權益的事情上不能輕易使用AI」的觀點？
例如，在晉升等人事評價中，作為判斷要素，還必須考慮「無法用數據量化的要素」——我認為這類任務很難交給AI。
如今盛行數據棒球，即便美國職業棒球大聯盟賽事的數據量化與數據分析技術已高度成熟，但像大谷翔平選手的言行舉止帶給隊友、乃至整個球隊的無形領導力這類價值，很難數值化。任何人都能看出他是「了不起的選手」，單看數據也足以證明他實力出眾，但他的價值遠不止於此。
同樣，日美兩國研究學者批評指出，企業在招聘環節藉助AI預判求職者日後能否為公司創造價值、獲得晉升，其準確性根本無法得到保障。企業並沒有落選求職者三十年後事業成敗的相關數據，因此招聘階段做出的這類預測根本無法驗證對錯，甚至可以說與「算命」無異。
也有觀點指出，即便有主張或宣傳宣稱那是正確的，甚至以「高效、省去麻煩」為誘餌，並煞有介事地宣揚「因為使用了數字和統計，所以準確」，連購買該服務的企業也都受騙，這是一個嚴重的問題。
將「以人為本」作為社會的原則
此外，對於新創企業，有時會看到「不應要求它們提供高水平服務」的主張。但不能因為是新創企業，就容許其提供劣質服務，在招聘這類關乎人生走向的關鍵事務中不當地左右他人命運、輕易造成他人權益受損。
在這類領域中，無論企業規模大小，若無法提供同等高品質服務，理應受到監管約束。不能因為對方是新創企業，求職者即便淪為其不準確、不公正判定下的受害者，也只能忍氣吞聲——這種觀點我完全無法認同。
產品責任法相關判例中體現出一項準則：不論經營者規模大小，均負有同等保障安全的義務。法院判決明確，即便是個體經營的小型餐飲店，一旦引發食物中毒，也和大型食品企業一樣無法免除損害賠償責任。站在受害者的角度來看，這是理所應當的判定。
內閣府發布的AI指南定名為「以人為本的AI社會原則」，由日本主導推動、最終形成理事會建議的「OECD AI原則」，目標也是打造「值得信賴的AI」。此外，去年頒佈並實施的「AI法」也明確規定，要「制定契合國際規範宗旨的相關指引，並落實其他必要配套舉措」。由此可見，絕不能出現因運用AI反而制約人的發展、或是投入使用缺乏可信度的AI這類情況。
平野晉
原文：瀧山展代、攝影·後藤芽吹 / JST Science Portal 編輯部
中文：JST客觀日本編輯部
