UK Cybersecurity Agency varnar för att AI kommer att hjälpa ransomware-aktörer, bedragare

Storbritanniens cybersäkerhetsbyrå, National Cyber Security Center (NCSC), har varnat för att ökningen av artificiell intelligens kommer att komplicera identifieringen av äkta e-postmeddelanden jämfört med de från bedragare och illvilliga aktörer, särskilt meddelanden som begär lösenordsåterställning.

NCSC varnade för att sofistikeringen av AI-verktyg, särskilt Generativ AI som kan producera övertygande text, röst och bilder, kommer att göra det utmanande för individer att urskilja nätfiskeförsök där användare luras att avslöja lösenord eller personlig information.

Generativ AI, exemplifierad av teknik som chatbots som ChatGPT och modeller med öppen källkod, möjliggör skapandet av realistiskt innehåll från enkla uppmaningar. NCSC, en del av GCHQ spionbyrå, uppgav i sin senaste bedömning att AI sannolikt skulle öka frekvensen och effekten av cyberattacker under de kommande två åren.

Byrån lyfte fram rollen av generativa AI och stora språkmodeller, underliggande teknologier för chatbots, för att komplicera ansträngningarna att identifiera olika attacktyper, inklusive falska meddelanden och social ingenjörskonst, en metod för att manipulera individer att avslöja konfidentiell information.

AI-drivna bedrägerier precis runt hörnet

Rapporten betonade att före 2025 skulle förekomsten av generativ AI och stora språkmodeller göra det utmanande för individer, oavsett deras expertis inom cybersäkerhet, att bedöma äktheten av e-postmeddelanden eller förfrågningar om lösenordsåterställning och att känna igen nätfiske, spoofing eller sociala ingenjörsförsök. .

NCSC förutsåg också en ökning av ransomware-attacker, med hänvisning till sänkningen av barriärerna för amatör-cyberbrottslingar och hackare att utnyttja system. AI:s sofistikering noterades för att underlätta mer övertygande tillvägagångssätt för potentiella offer, skapa falska dokument utan typiska fel associerade med nätfiskeattacker. Rapporten klargjorde dock att även om generativ AI kunde förbättra övertalningsförmågan hos nätfiskeförsök, skulle det inte nödvändigtvis förbättra effektiviteten av ransomware-kod.

Byrån varnade för att statliga aktörer sannolikt är väl positionerade för att utnyttja AI i avancerade cyberoperationer, med potential att träna AI-modeller som kan skapa ny kod som undviker säkerhetsåtgärder. Dessutom erkände NCSC AI:s potential som ett defensivt verktyg, som kan upptäcka attacker och designa säkrare system.