客觀日本

【先驅科研人】用數學證明系統安全性,創造出構建可信賴AI的基礎技術

2025年09月18日 科學家訪談
title

Q1. 您選擇這一研究主題的契機是什麼?
A1. 機器人競賽中切身體會到安全的重要性

其實,直到大學畢業前,我並沒有強烈地想成為一名研究學者的意願。碩士期間我也參加過就職活動,但最終認為要實現自己的夢想,在大學做研究是最好的選擇,於是走到了今天。

之所以選擇現在的研究領域,源於我本科時參加機器人競賽的經歷。比賽中必須在挑戰機器人的性能極限的同時進行製作。然而,如果機器人撞到人可能造成傷害,也可能導致電機損壞或驅動零件的壓縮空氣爆炸。這與軟體的故障不同,是實體層面的危險。這段經歷讓我切身體會到了「讓系統安全運行」的重要性。

Q2. 您目前的研究內容是什麼?
A2. 探索能夠明確安全根據的方法

我的研究目標是「讓世上的系統安全運行」。相比普通軟體,自動駕駛汽車、機器人等在現實環境中運動的資訊物理融合系統(CPS)的內部如同黑箱,行為預測變得困難。我正在探索的是,如何用數學證明系統真的在安全運行、如何快速檢測異常、以及找到能明確說明安全根據的方法。通過數學手段,計算機能夠自動驗證自身的安全性。

例如自動駕駛汽車,「車速不能超過每小時60公里」、「急剎車後3秒內無法完全停止」等基本性能是已知的。結合這些資訊與實際行駛記錄,即便是記錄中斷的時段,也能證明「未發生事故」。

此外,我還在致力於安全性的說明工作。通過人能夠給出解釋的形式,使用經過學習訓練的近似模型,可以更高效地確認系統的安全性,並能夠向非專業人士解釋 「為什麼可以信賴」。這對信任並使用AI系統至關重要。

title

在2023年於法國巴黎舉辦的「CAV 2023」(國際計算機輔助驗證會議)上發表演講

Q3. 對有志成為研究人員的人有什麼寄語
A3. 做自己想做的研究是最好的選擇

這項研究的魅力在於涵蓋了從理論到應用的完整鏈條。我曾考慮過當個程序員,本身也喜歡程式設計,當使用了自己設計的驗證方法的軟體能夠如預期執行時,會讓人興奮不已。而在與產業界的合作研究中,聽到「讓工作效率提升了」的反饋也讓我充滿成就感。

長期目標是將數學驗證技術推廣開來,不僅能在大企業應用,也能被一般企業廣泛使用。近年來,因大語言模型(LLM)的發展,即使不精通程式設計的人,也能開發軟體。正因如此,從外部驗證安全性的機制將愈發重要。

我想對立志成為研究人員的人說,最終,還是選擇自己想做的研究才是最好的。我個人對構建可應用於多領域的通用方法的興趣大於熱門課題,但反過來說,社會也需要不斷推進前緣領域研究的人才。我認為,不同的人選擇不同的適合自己的研究,才能讓整個社會平衡發展。(TEXT:畑邊康浩)

title

高中時參加的是游泳社團。現在幾乎每年也都會去協助遠泳集訓

原文:JSTnews 2025年9月號
翻譯:JST客觀日本編輯部

日語原文