Brytyjska Agencja ds. Cyberbezpieczeństwa ostrzega, że sztuczna inteligencja pomoże uczestnikom oprogramowania ransomware i oszustom

Brytyjska agencja ds. cyberbezpieczeństwa, Narodowe Centrum Bezpieczeństwa Cybernetycznego (NCSC), przestrzegła, że rozwój sztucznej inteligencji skomplikuje identyfikację prawdziwych e-maili w porównaniu z wiadomościami od oszustów i złośliwych podmiotów, zwłaszcza wiadomościami z prośbą o zresetowanie hasła.

NCSC ostrzegło, że zaawansowanie narzędzi sztucznej inteligencji, zwłaszcza generatywnej sztucznej inteligencji zdolnej do generowania przekonującego tekstu, głosu i obrazów, utrudni indywidualnym osobom rozpoznanie prób phishingu, w ramach których użytkownicy są oszukiwani w celu ujawnienia haseł lub danych osobowych.

Generatywna sztuczna inteligencja, której przykładem są technologie takie jak chatboty, takie jak ChatGPT i modele typu open source, umożliwia tworzenie realistycznych treści na podstawie prostych podpowiedzi. NCSC, część agencji szpiegowskiej GCHQ, stwierdziła w swojej najnowszej ocenie, że sztuczna inteligencja prawdopodobnie zwiększy częstotliwość i wpływ cyberataków w ciągu najbliższych dwóch lat.

Agencja podkreśliła rolę generatywnej sztucznej inteligencji i dużych modeli językowych, stanowiących podstawę technologii chatbotów, w utrudnianiu wysiłków mających na celu identyfikację różnych typów ataków, w tym fałszywych wiadomości i inżynierii społecznej, czyli metody manipulowania osobami w celu ujawnienia poufnych informacji.

Oszustwa wykorzystujące sztuczną inteligencję tuż za rogiem

W raporcie podkreślono, że do 2025 r. powszechność generatywnej sztucznej inteligencji i dużych modeli językowych sprawi, że dla poszczególnych osób, niezależnie od ich wiedzy specjalistycznej w zakresie cyberbezpieczeństwa, ocena autentyczności e-maili lub próśb o zresetowanie hasła oraz rozpoznawanie prób phishingu, fałszowania lub socjotechniki będzie stanowić wyzwanie .

NCSC spodziewało się również wzrostu liczby ataków ransomware, powołując się na obniżenie barier utrudniających cyberprzestępcom amatorom i hakerom wykorzystywanie systemów. Zauważono, że zaawansowanie sztucznej inteligencji ułatwia bardziej przekonujące podejście do potencjalnych ofiar, tworzenie fałszywych dokumentów bez typowych błędów związanych z atakami phishingowymi. Jednak w raporcie wyjaśniono, że chociaż generatywna sztuczna inteligencja może zwiększyć skuteczność prób phishingu, niekoniecznie poprawi skuteczność kodu oprogramowania ransomware.

Agencja ostrzegła, że podmioty państwowe prawdopodobnie są dobrze przygotowane do wykorzystania sztucznej inteligencji w zaawansowanych operacjach cybernetycznych, co może potencjalnie wytrenować modele sztucznej inteligencji zdolne do tworzenia nowego kodu omijającego środki bezpieczeństwa. Ponadto NCSC uznała potencjał sztucznej inteligencji jako narzędzia obronnego, zdolnego do wykrywania ataków i projektowania bezpieczniejszych systemów.