九州大學的研究團隊開發出了一種人工智慧（AI）計算過程視覺化的新方法。該方法有助於解決AI作出結論的依據不明的「黑箱問題」，這一問題的解決有望提高醫療領域的AI圖像診斷工具的精度。
研究成果有助於解決AI的「黑箱問題」。（供圖：九州大學）
對於模仿人類大腦的工作原理處理數據的「神經網路」AI技術，為了將AI整理數據的過程視覺化，通常使用「t-SNE」或「UMAP」等工具。
然而，這些工具存在當資訊量增加時，無法有效應對的問題。所以若需要準確掌握特定數據是如何被處理的，需要開發出更為精確的工具。
此次，研究團隊新開發出了一種名為「k*分佈」的方法，用於視覺化神經網路是如何整理數據。比如，當圖像中某些物體部分被遮擋時，AI可能無法正確辨別該物體。如果能夠將AI在判斷物體時的思維過程視覺化，就有可能開發出即使部分遮擋仍能準確識別圖像内容的AI系統。九州大學的Danilo Vasconcellos Vargas副教授強調了此次研究成果的意義並表示：「AI有時會因一些微小的差異，把公車的圖片誤認為是鴕鳥。」
隨著AI技術的快速發展，其應用範圍正在不斷擴大。在涉及醫療等關係到人類健康和生命的領域應用時，透明性尤為重要。為此，理解計算過程的手段成為必要條件。此次的研究成果已發表在神經網路領域的國際學術期刊《IEEE Transactions on Neural Networks and Learning Systems》上。
原文：《日本經濟新聞》、2025/1/7
翻譯：JST客觀日本編輯部
【論文資訊】
期刊：IEEE Transactions on Neural Networks and Learning Systems
論文：k* Distribution: Evaluating the Latent Space of Deep Neural Networks Using Local Neighborhood Analysis
DOI:10.1109/TNNLS.2024.3446509
