英国サイバーセキュリティ庁、AIがランサムウェア攻撃者や詐欺師を支援すると警告

英国のサイバーセキュリティ機関である国家サイバーセキュリティセンター（NCSC）は、人工知能の台頭により、本物の電子メールと詐欺師や悪意のある行為者からの電子メール、特にパスワードのリセットを要求するメッセージの識別が複雑になると警告した。

NCSCは、AIツール、特に説得力のあるテキスト、音声、画像を生成できるジェネレーティブAIの高度化により、ユーザーがだまされてパスワードや個人情報を漏らすフィッシング行為を個人が見分けることが困難になると警告した。

ChatGPT などのチャットボットやオープンソース モデルなどのテクノロジーに代表される生成 AI により、単純なプロンプトから現実的なコンテンツを作成できます。 GCHQ 諜報機関の一部である NCSC は、最新の評価の中で、AI により今後 2 年間でサイバー攻撃の頻度と影響が増加する可能性が高いと述べています。

同庁は、チャットボットの基盤技術である生成AIと大規模言語モデルが、なりすましメッセージやソーシャルエンジニアリング（個人を操作して機密情報を開示させる手法）など、さまざまな種類の攻撃を特定する取り組みを複雑化する上での役割を強調した。

AIを利用した詐欺がすぐそこまで来ている

この報告書は、2025 年までに、生成 AI と大規模言語モデルの普及により、サイバーセキュリティの専門知識に関係なく、電子メールやパスワード リセット要求の信頼性を評価し、フィッシング、なりすまし、またはソーシャル エンジニアリングの試みを認識することが個人にとって困難になるだろうと強調しました。 。

NCSC はまた、アマチュアのサイバー犯罪者やハッカーがシステムを悪用する障壁が低くなったとして、ランサムウェア攻撃の急増を予測しました。 AI の高度な機能により、潜在的な被害者に対するより説得力のあるアプローチが容易になり、フィッシング攻撃に伴う典型的なエラーを発生させずに偽の文書を作成できることが注目されています。ただし、レポートでは、生成 AI はフィッシング攻撃の説得力を高める可能性はあるものの、必ずしもランサムウェア コードの有効性を向上させるわけではないことを明らかにしています。

同庁は、国家関係者は高度なサイバー作戦でAIを活用するのに有利な立場にある可能性が高く、セキュリティ対策を回避する新しいコードを作成できるAIモデルをトレーニングできる可能性があると警告した。さらに、NCSC は、攻撃を検出し、より安全なシステムを設計できる防御ツールとしての AI の可能性を認めました。