利用生成式AI進行網路攻擊和詐騙的惡意利用威脅正在不斷增加。安全領域巨頭——美國CloudStrike公司發佈了一款加入了生成式AI的防禦工具，一舉受到市場矚目。系統方該如何活用AI技術？就此，我們採訪了該公司的執行長（CEO）喬治·卡茨（George Kurtz），請他展望了AI的應用前景。
喬治·卡茨，畢業於美國西頓霍爾大學，創辦了從事資訊安全的美國Foundstone公司。該公司後被美國McAfee公司收購，喬治先後擔任首席技術官（CTO）和執行副總裁等職務。2011年，與合作夥伴共同建立了CloudStrike公司。
——您認爲企業面臨的主要網路威脅是什麼？
「根據我們在2023年的調查，攻擊者侵入企業資訊系統的平均時間爲79分鐘，比2022年縮短了5分鐘，侵入速度逐年加快。在網際網路黑市上，有大量企業員工的身份驗證資訊被出售，惡意利用這些資訊，攻擊者可以輕鬆接觸到企業内部的敏感資訊。」
——生成式AI的迅速隊形變換將如何影響網路威脅？
「ChatGPT等正規工具，已經對製作惡意程式（malware）等以惡意利用爲目的指令具備拒絕機制。但現在，攻擊者正在開發一種即使是惡意指令也會遵從的‘黑暗AI’。」
「攻擊者利用‘蟲GPT（WormGPT）’等工具，應用生成式AI的技術，即便是非法指令也會執行，按照攻擊者的要求製作惡意程式等程式。雖然目前它還無法進行ChatGPT那樣的高級處理，但隨着學習的深入，它遲早會成爲實際應用的一種威脅。」
——面對這種動向，您對安全領域2024年的預測是怎樣的？
「目前廣泛使用的、監督和檢測安全資訊的‘SIEM’方案遲早會消亡。這是因爲，攻擊執行的門檻降低，導致向負責人報告攻擊事件的警告數量激增，要檢測所有事件將成爲一個沉重的負擔」
——CloudStrike公司於2023年6月發佈了加入了生成式AI的防禦工具「夏洛特AI」。它具備了哪些功能？
「簡而言之，它被設計成一個‘虛擬安全分析師’。它以CloudStrike公司過去積累的攻擊和攻擊者等資訊作爲學習資料，對檢測到的安全事件進行解釋，說明具體是怎樣的威脅，並提供推薦的處理方法。它甚至還可以代替人類執行處理操作。」
——「夏洛特AI」可以用於哪些安全業務？
「舉例來說，如果企業負責人詢問‘目前最新的威脅是什麼？’，它可以從全球範圍内發生的攻命中總結出各個行業的典型威脅。進而，如果詢問‘這將對公司造成哪些風險？’，它會從公司的資訊資產和現存漏洞等方面檢測出相關内容，並判斷是否需要應用修補程式（補丁）。最後，它還能生成一份向領導彙報的報告。」
「在分析師的日常業務方面，可以透過AI代工實施自動化，縮短工作時間。經測試，準備好適當的提示後，AI可以將手動操作需8小時才能完成的例行工作縮短至僅需10分鐘。」
——使用生成式AI實施網路防禦時，應注意哪些？
「如果讓AI代替人類進行對策處理，必須確保其處理的安全。因爲AI執行非預期的處理可能會對公司業務造成影響。」
日文：網路安全編輯/岩澤明信、《日經產業新聞》、2024/1/29
中文：JST客觀日本編輯部
