2023年，人工智慧（AI）在全球範圍引發了大量討論。「ChatGPT」等生成式AI在各國的應用迅速增加，AI的應用「熱潮」成爲了引發討論的重要契機。七國集團（G7）等也在推進新的規則的制定。在2023年12月6日舉行的一次線上會議上，G7領導人在「廣島AI進程」的基礎上對AI的利用和監管國際指導方針達成了一致。方針明確了從顯影器到使用者的「所有相關方」應承擔的責任，成爲全面性的一攬子國際規則。
各國使用生成式AI的人數在急劇增加，涉及到各種不同的應用場景。而與此同時，由生成式AI製作的虛假資訊、虛假影片和虛假新聞在社交媒體上不斷傳播，擾亂了人們的判斷依據和社會秩序，成爲一個深刻的問題。包括日本在内的各國政府高度重視這一現象，並採取了緊急措施。2024年，日本、歐洲等先進國家將繼續操作推進以「安全、安心、可信賴的AI」爲目標，推進討論人與AI的共存。
爲討論人工智慧對策等問題，G7領導人於2023年12月6日線上召開了會議（照片由日本内閣公報室提供）
「ChatGPT」的快速普及帶來期待與擔憂
ChatGPT是美國新興企業OpenAI於2022年11月公開的一款對話型軟體，是目前最具有代表性的生成式AI。它基於對網際網路上龐大資料進行AI學習得到的資料，根據客戶的需求生成本文、影像、音頻等，並提供給客戶。2023年該公司陸續發佈了改進版，其他科技公司也紛紛推出了自己的生成式AI，有人稱此爲「生成式AI大誕生時代」。
隨着客戶數量迅速增加，相關服務也相應增多，生成式AI在全球迅速普及。其應用領域廣泛，涵蓋商業、行政、教育等多個領域，人們對這一工具的期望也越來越高。但同時也出現了一些問題，例如在生成式AI的學習程序中，有未經許可使用文章、論文、照片等影像，甚至濫用個人資訊的情況。這不僅侵犯了著作權，還會導致虛假資訊和影片的傳播，成爲全球性的社會問題。在日本，隨着利用ChatGPT的企業和地方政府增加，對於其使用的贊成和反對之爭引起了熱烈的討論，一些大學爲了阻止學生過於輕率地使用生成式AI還制定了一些校規。
文部科學省於2023年7月公佈了關於在中小學使用生成式AI的指南。指南具體說明了在小組討論和程式設計學習等方面的有效運用方法，同時明確指出不能在考試和寫作文時使用。教育專家們對於在學校使用生成式AI的評價存在分歧，有人指出生成式AI可能對批判性思維和創造力的培養產生負面影響。
隨着ChatGPT的普及，人們對生成式AI的期待和擔憂開始混色在一起，歐洲各國迅速出臺了相關規定。G7也高度重視這一情況，2023年5月，日本在其擔任主席國的G7領導人會議（廣島峰會）上決定建立「廣島AI進程」，主導並召開了相關國際會議，推進相關工作。
OpenAI的ChatGPT的官方網站截圖
明確提出「應尊重人權和人類中心主義」
G7於2023年12月1日線上上召開了數位技術部長會議，會議基於廣島AI進程制定了國際指導方針，並透過了部長聲明。參加此次會議的有日本總務省、經濟產業省、數位廳等機構，還有經濟合作與發展組織（OECD）等國際機構。這一指導方針在2023年12月6日的領導人會議上最終達成一致。這是首次形成涉及AI的全面的國際指導方針。儘管沒有法律約束力，但預計會在今後各國制定關於AI應用和監管的法規時產生影響。
此次國際指導方針的最大特點是，它不僅針對顯影器或製作者，而是包括了利用者在内的「所有AI相關方」。具體由針對相關方的指導方針和顯影器應遵循的具體措施的行為準則組成。指導方針和行為準則各由12個要點構成。
指導方針明確指出，「這是以在全球普及安全、安心、可信賴的AI爲目的，爲開發和利用包括生成式AI在内的最先進的AI系統的組織提供的指導方針」，並提出「應尊重人權、多樣性、公平性、無歧視、民主主義、人類中心主義」。在此基礎上，要求採取適當措施來評估並降低與AI相關的風險，保存個人資訊和智慧財產權，制定濫用對策，並開發能讓客戶辨別出是AI生成的内容的技術。
指導方針的具活體內容包括：爲提高AI系統的安全和可信度，相關組織應進行資訊共用並向社會報告；推進技術開發，例如能讓客戶辨別出生成式AI建立的内容「電子水印」等；優先推進防止偏見和虛假資訊的研究等。
基於廣島AI進程制定的國際指導方針12專案（出自日本外務省/首相官邸）
基於廣島AI進程的國際指導方針開篇部分（出自日本外務省）
歐美各國和日本正在制定各自的規則
G7領導人就國際指導方針達成一致之後，各國紛紛開始推進各自的規則制定工作。歐洲共同體（EU）非常重視AI的倫理問題，在監管方面走在了前列。據共同通訊社布魯塞爾支局報導，歐洲共同體於12月9日就包括生成AI在内的AI全面監管法案的大致内容達成了一致。與不具備法律拘束力的G7的國際指導方針不同，歐洲共同體的該法案包括制裁手段，具有強制力。
預計該法案最早將在2026年實施，成爲全球首個最全面的人工智慧法規。違反規定的最嚴重情況會面臨高達3500萬歐元或年銷售額7％的鉅額罰鍰。歐洲共同體在像美國和中國一樣致力於AI開發的同時，對人權和民主主義可能受到的負面影響有着強烈的擔憂，於是儘量迅速制定了具體的法律法規。
對AI進行監管的趨勢是全球性的。美國總統拜登於10月簽署了一項總統令，要求可能涉及國家安全的先進AI技術的開發企業與政府分享相關資訊。英國政府於11月初舉辦了「全球AI安全峰會」，透過了《布萊奇利宣言》，日本首相岸田文雄線上參與了此次峰會。該宣言由日本、美國、中國、歐洲共同體等28個國家共同簽署，應答了加強國際合作，以降低AI風險防止濫用的方針。
日本方面，總務省和經濟產業省等機構一直在以政府的AI戰略會議爲中心，探討AI的應用和監管策略。在2023年12月21日的AI戰略會議上，提出了針對AI相關企業的指導方針草案。該草案沿襲G7國際指導方針，中心内容是圍繞對人權問題以及虛假資訊和僞造影片對策等的10個原則。日本政府計劃在2024年初向公衆徵求意見，並在3月正式發佈指導方針。出席會議的岸田首相明確表示，計劃在2024年1月設立「AI Safety Institute」（AI安全研究所），研究AI安全評估方法等。
2023年12月21日在首相官邸召開的AI戰略會議。最左爲日本首相岸田文雄（照片出自首相官邸／内閣廣報室）
日本政府AI戰略會議起草的AI企業指導方針草案概要（出自總務省／經濟產業省）
迫切需要防止濫用及防止被害措施
在AI的濫用中，目前最令人擔憂的是被稱爲「Deepfake」（深度僞造）的虛假影片。其危險度早在數年前就引起了關注，但隨着生成式AI的普及，從2022年開始，世界各國虛假影片的傳播急劇增加，國際社會的關注和擔憂也日益強化。
舉個例子，在俄羅斯烏克蘭衝突放大後，有一段烏克蘭總統澤連斯基呼籲烏克蘭軍隊投降的虛假影片被熱傳。最近的一個例子是在加沙地帶發生的哈馬斯組織與以色列軍隊的戰鬥的虛假影片在傳播。另據報導，與2024年美國總統選舉有關的虛假影片也已經開始在網上流傳。
在日本，2023年11月初，一段AI製作的以岸田首相的聲音和形象發表粗鄙言論的虛假影片在社交媒體上傳播。政府已決定由各相關部門合作制定相關對策，並在AI戰略會議等場合繼續操作討論此事。
利用生成式AI技術建立的虛假影片很難分辨。然而，對抗先進技術的唯一途徑就是使用更先進的技術。技術開發將成爲因應這一問題的關鍵。
東京大學研究生院資訊理工學研究科的一個團隊在2023年4月宣佈開發出了一種以全球最高水準檢測Deepfake的方法，獲得了國内外的關注。據稱，這種方法可以發現非常微小的僞造痕跡。目前，包括微軟在内的許多全球性AI巨頭也在緊急開發檢測軟體。
G7的國際指導方針中包括了針對虛假資訊傳播等問題的對策，其中也包括虛假影片。而今後的課題則是有效且具體的預防措施。對生成式AI的濫用是一個全球性問題，僅靠一個國家難以解決。各國需要儘可能地交換所研發的技術和資訊，國際合作至關重要。需要集結全球智慧，找到防止AI濫用和防止受害的具體措施。
隨着生成式AI的出現，許多人開始思考與AI相關的各種問題。如何明智地使用AI，如何與之共存共榮，這些問題不能靠生成式AI來回答，這是人類必須思考的問題。生成式AI火爆全球的2023年已經結束。2024年，我們應該基於國際指南，冷靜地思考人類與AI如何共存，並認真考慮如何巧妙地利用人類的智慧。
虛假影片示意圖
原文：內城喜貴／科學記者、共同通訊社客座評論委員/JST Science Portal 編輯部
翻譯：JST客觀日本編輯部
【相關鏈結】
G7首腦線上會議（概要）
日本内閣府「AI戰略會議」召開一覽
關於廣島AI進程的 G7首腦宣告
東京大學新聞發佈稿「成功實施世界最高水準的深度僞造檢測」
日本内閣府「AI戰略會議」第七次會議
日本首相官邸「AI戰略會議」第七次會議 網頁
