微軟警告國家支持的威脅行為者正在使用人工智慧進行攻擊

與俄羅斯、北韓、伊朗和中國有聯繫的民族國家行為體正在探索人工智慧 (AI) 和大語言模型 (LLM) 的整合，以增強其現有的網路攻擊行動。

微軟和 OpenAI 共同發布的一份報告顯示，這兩個組織透過終止五個從事惡意網路活動的國家附屬行為者的資產和帳戶，破壞了他們的努力。

微軟向《駭客新聞》表示，語言支援是法學碩士的固有特徵，這使得它們對專注於社會工程和其他策略的威脅行為者俱有吸引力，這些策略涉及針對目標的專業網絡、工作和其他關係量身定制的虛假和欺騙性通信。

儘管迄今尚未發現利用 LLM 的重大或新穎的攻擊，但人工智慧技術的對抗性探索已經在攻擊鏈的不同階段取得進展，包括偵察、編碼協助和惡意軟體開發。

駭客利用人工智慧幫助編寫程式碼、抓取訊息

報告稱，國家相關行為者主要尋求利用 OpenAI 服務來執行查詢開源資訊、翻譯、查找編碼錯誤和執行基本編碼任務等任務。

以下是其他威脅行為者濫用人工智慧的一些例子：

• 名為 Forest Blizzard（或 APT28）的俄羅斯民族國家組織利用 OpenAI 服務進行衛星通訊協定、雷達成像技術和腳本任務的開源研究。
• 北韓威脅行為者 Emerald Sleet（或 Kimusky）聘請法學碩士來識別專注於亞太地區國防問題的專家、智庫和組織，以及為潛在的網路釣魚活動編寫腳本任務和起草內容。
• 伊朗威脅攻擊者 Crimson Sandstorm（或 Imperial Kitten）使用法學碩士創建與應用程式和 Web 開發相關的程式碼片段、生成網路釣魚電子郵件以及研究惡意軟體逃避檢測的方法。
• 中國威脅行為者木炭颱風（或水生熊貓）和鮭魚颱風（或特立獨行的熊貓）利用法學碩士執行各種任務，包括研究公司和漏洞、生成腳本、翻譯技術論文以及檢索情報機構的資訊。

Microsoft 正在製定一套原則，以減輕與國家高級持續威脅 (APT)、高級持續操縱者 (APM) 和網路犯罪集團惡意使用 AI 工具和 API 相關的風險。這些原則旨在圍繞人工智慧模型建立有效的護欄和安全機制。