自美國人工智慧研究公司「OpenAI」發布「ChatGPT」以來，在不到半年的時間裏，圍繞生成式AI的動向令人目不暇接。5月在廣島召開的七國集團峰會（G7峰會）上，生成式AI也成為了主要議題之一。在生成式AI的開發和應用方面被認為較為落後的日本，政府的應對和專家的發言也終於變得引人矚目。那麼，科學家和技術人員匯集的學術界又是怎樣一番景象呢？日本工程院從一年前就開始推進討論包括生成式AI在内的AI應用擴大工作，並於6月6日在日本眾議院第二議員會館召開的「政治家與科學家對話會」上做了詳細彙報。
「政治家與科學家對話會」（6月6日，眾議院第二議員會館）
「政治家與科學家對話會」旨在讓立法機構與學術界合作，以便以科學根據為基礎地制定政策。在主要國家中，學術界（科學家團體）在政策制定中的作用非常小，特別是立法機構和學術界長期缺乏合作，該會議由對現狀抱有危機意識的日本工程院呼籲發起，並得到了對科學技術關注較高的自民黨和公明黨的國會議員的響應。自2020年12月第一次會議召開以來，此次為第7次，會議主題為「面向以生成式AI為代表的AI的社會實際應用及使用的共創」。
包括中途退席或中途參加者，共有7名自民、公明兩黨的國會議員參加了此次對話會。並且參加此次會議的議員在成為議員之前，在企業、大學或兩者都具有研究開發經驗，或在中央政府機構從事科學技術和財務政策相關工作經驗的政治家，大部分議員大學畢業於工學部或理工學部。會議首先由參與日本工程院去年5月啟動的「5G/6G時代的AI應用戰略」政策建言項目的研究者們報告了迄今為止的探討結果，並與國會議員、日本工程院的會員們進行了討論。
推出聰明安全的生成式AI
「5G/6G時代的AI應用戰略項目」提出以高速大容量資訊網路絡時代AI社會實際應用的形式，及必要的應對技術開發課題的措施等為目的，並於去年5月設立了研究團隊。由名古屋大學研究生院資訊研究科教授森健策擔任團隊領導，負責管轄項目的日本工程院政策建言委員會委員長中島義和（東京醫科齒科大學教授生體材料工學研究所教授）擔任事務局。
在預測了AI將在汽車自動駕駛和醫療領域的高級診斷輔助等領域快速發展的基礎上，森教授強調了高速大容量網路通信和AI數據庫的重要性。此外，他還列舉了「AI的決策過程清晰易懂」、「判斷的理由和過程可以說明」、「可以正確保護個人數據，防止AI本身的篡改」等「可信賴的AI」應具備的條件和對策。
名古屋大學研究生院資訊研究科森健策教授說明「5G/6G時代的AI應用戰略項目」的研究進展
與森教授同樣，中島教授在承認AI的巨大可能性的基礎上，強調了通過道德倫理和法律妥善管理超越人類能力和力量的技術的必要性。中島教授表示，從核能發電、人工化學品到基因體編輯到人造器官，至今為止的很多科技成果根據其使用方法既有可能對人類有益，也有可能對人類有害，由此提醒注意在AI等資訊領域，強大的數據整合和分析演算法也具有相似的兩面性。還在此基礎上，指出超越人類能力和力量的技術需要通過道德倫理和法律來管理，得到適當的管理和制約。提出「會熟練使用AI的人是即使沒有AI也能處理事情的人」的觀點，並主張「不使用AI也能工作的教育」及「熟練使用AI的教育」的兩種教育都很重要，該觀點引起了與會者的關注。
東京工業大學資訊理工學院的岡崎直觀教授和森教授、中島教授同樣，也強調了快速發展的生成式AI的驚人性能。去年11月30日「ChatGPT」發布僅5天后，客戶就達到了100萬人。另外，今年3月發布的「GPT-4」在很多專業測試中已被確認其性能已提升至能夠取得與人類相匹敵的成績的程度。在介紹了上述現狀，指出社會實際應用在各個領域取得進展的可能性的同時，還指出了謠傳和惡評等錯誤資訊和欺詐郵件的生成等不良影響。在此基礎上強調了「智慧安全的生成式AI構建高質量的數據並將其教授給AI將不可或缺。」
G7國家的政策手段存在差異
5月11日，在G7廣島峰會前夕召開的政府第一次「AI戰略會議」中，除了有必要立足於日本AI的開發、利用均滯後這一現實進行應對外，還列舉了需要應對的各種風險和擔憂。例如「用於侵犯個人隱私、犯罪等威脅人權和安全的行為」、「機密資訊洩漏、複雜的網路攻擊等安全風險」、「錯誤資訊、虛假資訊、歧視資訊等蔓延的問題」等。在此次會議上，岸田文雄首相表示：「AI在促進經濟和社會發展方面潛力與風險並存，重要的是對兩者進行適當的應對。這是超越國界的全球性課題，作為G7議長國，我們必須在促進共識和制定規則方面發揮領導作用。」
值得注意的是，在之後5月19日～21日召開的G7廣島峰會的首腦宣言中，AI相關的記述佔據了相當大的篇幅。作為未來的具體舉措，其中明確記載「將指示相關部長在年内通過G7的工作群組會議設立廣島AI項目組，以討論生成式AI」。這是基於G7廣島峰會之前在高崎市召開的「G7數字與技術部長會議」上的聯合聲明和更早開始的OECD（經濟合作開發機構）的内容而做出的。G7數字與技術部長會議的聯合聲明中提到，將推進「負責任的AI」，特別是針對以ChatGPT等為代表的生成式AI，G7將在今年下半年再次召開會議，以制定指導方針。
另一方面，G7廣島峰會的首腦宣言中還提道：「應該認識到，儘管快速的技術革新強化了社會和經濟，但新的數字技術的國際管理始終未能跟上步伐」、「須認識到實現可信賴AI這一共同目標的方法和政策手段在G7各國之間可能有所不同」。從上述首腦宣言的記述中可以看出，AI的應用在G7各國間存在相當大的差異，特別是日本明顯落後的現狀。
關於生成式AI，在G7廣島峰會後於6月9日召開的政府智慧財產權戰略本部會議上討論了其與著作權的關係。本次會議通過的「智慧財產權推進計劃2023」中包含了在促進AI技術進步的同時，對與保護創作者的權利、擴大AI在創作過程中的使用等專利審查實務相關的課題，及與AI自主發明的處理相關的課題進行整理和討論的内容。岸田首相在該會議上表示：「關於生成式AI和智慧財產權的存在方式，基於G7廣島峰會和AI戰略會議的討論，為推進負責任的AI和可信賴的AI，我們將考慮到促進AI技術的應用和維持智慧財產權創造激勵機制的兩個方面，考慮包括著作權相害作用等具體風險應對的必要措施。」
岸田文雄首相在智慧財產權戰略本部會議上發言（6月9日於首相官邸），圖片取自首相官邸網站
日本工程院將在9月進行政策建言
在6月6日舉行的「政治家與科學家對話會」上，針對森教授的報告，國會議員和日本工程院的其他成員表達了各自的意見。其中之一是擔心隨著AI應用的擴大，處理的數據量急劇增加，將導致伺服器運行所需的能源超過可供應的能源量。這是因為生成式AI的基礎在於大規模語言模型技術，隨著AI的社會實際應用擴大，大規模語言模型的耗電能也會大幅增加。對此，中島先生發表了「能源問題是不可避免的，不能放任不管」的意見。與會者似乎達成了選擇怎樣的AI社會實際應用將成為一大社會問題的共識。
日本工程院的「5G/6G時代的人工智慧應用戰略」項目旨在制定AI應用的具體戰略和規畫，以獲得不落後於AI發達國家歐美各國的數字競爭力。工程院由資訊通信技術和AI技術專家、介面、機器人、可穿戴設備等工程技術專家、推進AI技術應用和社會實際應用的企業家、AI倫理法規專家等相關領域的22名委員組成。目前為止已經召開了6次討論會，該項目領導森教授表示，今後在完成AI社會實際應用進展前如何獲得社會共識的討論工作後，將在9月内彙總制定政策建言。
代表出席對話會的國會議員最後發表致詞的眾議院議員大野敬太郎（自民黨）表示：「像今天這樣熱烈的討論如果發生在美國發布ChatGPT之前，效果會更好。創新是會令人感到恐懼的東西。雖然有意見表示生成式AI會導致失業的增加，但創新同樣會帶來新的工作機會。希望知道其可怕性的各位老師能像今天這樣通過坦率的對話不斷提出要求。」
主持對話會的日本工程院政策共創推進委員會委員長永野博回顧此次對話的成果表示：「迄今為止從來沒有機會在國會議員與日本工程院會員以及會員之間分享快速且複雜變化的關於AI的情況」。他還補充表示：「當新事物出現時，人們通常會感到害怕，但完全沒有必要害怕一切事物。我們要做的是與多領域的人廣泛討論應該注意什麼，並共享認知。與國會議員的對話將成為其中重要的一步」，明確了繼續擴大討論的看法。
日文：小岩井忠道（科學記者）
翻譯：JST客觀日本編輯部
【相關網站】
日本工程院政策共創推進委員會「第7次政治家與科學家對話會召開」
日本工程院「5G/6G時代的AI應用戰略項目」
内閣府「AI戰略會議」（第1次）
首相官邸「總理的一天 AI戰略會議」
【相關文章】
2023年05月25日 OECD司長為應用AI建言：「需從根本上重新審視教育和入學考試」
2023年02月13日 科技政策共創前進一步，國會議員向科學家提出問題
2022年10月27日 實現與生活者共創的社會——日本圍繞科學建言掀起熱烈討論
2021年04月09日 日本國會議員與年輕科學家交換意見，加深對共同制定政策的理解
2020年12月24日 日本國會議員與學術界合作，實現科學制定政策
2020年07月08日 日本將開啟國會議員與學術界共同制定政策
