英國網路安全機構警告人工智慧將幫助勒索軟體實施者和詐騙者

英國網路安全機構國家網路安全中心 (NCSC) 警告稱，人工智慧的興起將使識別真實電子郵件與詐騙者和惡意行為者的電子郵件變得更加複雜，特別是請求重置密碼的郵件。

NCSC 警告說，人工智慧工具的複雜性，特別是能夠產生令人信服的文字、語音和圖像的生成式人工智慧，將使個人難以辨別欺騙用戶洩露密碼或個人資訊的網路釣魚企圖。

生成式人工智慧以 ChatGPT 等聊天機器人和開源模型等技術為代表，可以根據簡單的提示創建真實的內容。 GCHQ 間諜機構下屬的 NCSC 在最新評估中表示，人工智慧可能在未來兩年內增加網路攻擊的頻率和影響。

該機構強調了生成式人工智慧和大型語言模型（聊天機器人的基礎技術）在使識別各種攻擊類型（包括欺騙訊息和社會工程（一種操縱個人洩露機密資訊的方法））複雜化方面的作用。

人工智慧驅動的詐騙指日可待

該報告強調，到2025 年，生成式人工智慧和大型語言模型的盛行將使個人（無論其網路安全專業知識如何）評估電子郵件或密碼重置請求的真實性以及識別網路釣魚、欺騙或社會工程嘗試變得充滿挑戰。

NCSC 也預計勒索軟體攻擊將會激增，理由是業餘網路犯罪分子和駭客利用系統的障礙降低了。人工智慧的複雜性被認為有助於為潛在受害者提供更令人信服的方法，創建虛假文檔，而不會出現與網路釣魚攻擊相關的典型錯誤。然而，該報告澄清，雖然生成式人工智慧可以增強網路釣魚嘗試的說服力，但它不一定會提高勒索軟體程式碼的有效性。

該機構警告說，國家行為者可能處於有利位置，可以在先進的網路操作中利用人工智慧，並有可能訓練能夠創建逃避安全措施的新程式碼的人工智慧模型。此外，NCSC 承認人工智慧作為防禦工具的潛力，能夠偵測攻擊並設計更安全的系統。