マイクロソフト、国家支援の攻撃者が攻撃に AI を使用していると警告

ロシア、北朝鮮、イラン、中国と関係のある国家主体は、既存のサイバー攻撃作戦を強化するために人工知能（AI）と大規模言語モデル（LLM）の統合を模索している。

Microsoft と OpenAI が共同で発表した報告書では、両組織が資産とアカウントを停止することで、悪意のあるサイバー活動に従事する 5 つの国家関連主体の取り組みを妨害したことが明らかになりました。

Microsoft は The Hacker News に対し、言語サポートは LLM の固有の機能であり、ターゲットの職業ネットワーク、仕事、その他の関係に合わせた偽の欺瞞的なコミュニケーションを伴うソーシャル エンジニアリングやその他の戦術に焦点を当てた攻撃者にとって LLM が魅力的であると共有しました。

これまでのところ、LLM を利用した重大な攻撃や新規の攻撃は確認されていませんが、AI テクノロジーの敵対的探索は、偵察、コーディング支援、マルウェア開発など、攻撃チェーンのさまざまな段階を通じて進んでいます。

AIを利用して暗号化を支援し、情報をスクレイピングするハッカー

報告書によると、国家関係者らは主に、オープンソース情報のクエリ、翻訳、コーディングエラーの発見、基本的なコーディングタスクの実行などのタスクにOpenAIサービスを活用しようとしたという。

AI を悪用する追加の脅威アクターの例を以下に示します。

• Forest Blizzard (または APT28) として知られるロシアの国民国家グループは、衛星通信プロトコル、レーダー画像技術、スクリプト タスクに関するオープンソースの研究に OpenAI サービスを利用しました。
• 北朝鮮の脅威攻撃者 Emerald Sleet (または Kimusky) は、アジア太平洋地域の防衛問題に焦点を当てた専門家、シンクタンク、組織を特定するため、また潜在的なフィッシング キャンペーンのタスクのスクリプト作成やコンテンツの草案作成のために LLM を採用しました。
• イランの脅威攻撃者 Crimson Sandstorm (または Imperial Kitten) は、アプリや Web 開発に関連するコード スニペットの作成、フィッシングメールの生成、マルウェアの検出を回避する方法の研究に LLM を使用しました。
• 中国の脅威アクターであるチャコール タイフーン (またはアクアティック パンダ) とサーモン タイフーン (またはマーベリック パンダ) は、企業や脆弱性の調査、スクリプトの生成、技術文書の翻訳、諜報機関に関する情報の取得など、さまざまなタスクに LLM を利用しました。

Microsoft は、国家の高度持続的脅威 (APT)、高度持続的マニピュレーター (APM)、およびサイバー犯罪シンジケートによる AI ツールと API の悪意のある使用に関連するリスクを軽減するための一連の原則の開発を進めています。これらの原則は、AI モデルの周りに効果的なガードレールと安全メカニズムを確立することを目的としています。