UK Cybersecurity Agency waarschuwt dat AI ransomware-actoren en oplichters zal helpen

De Britse cyberveiligheidsdienst, het National Cyber Security Centre (NCSC), heeft gewaarschuwd dat de opkomst van kunstmatige intelligentie de identificatie van echte e-mails ten opzichte van die van oplichters en kwaadwillende actoren zal bemoeilijken, vooral berichten waarin om het opnieuw instellen van wachtwoorden wordt gevraagd.

Het NCSC waarschuwde dat de verfijning van AI-tools, met name generatieve AI die overtuigende tekst, stem en afbeeldingen kan produceren, het voor individuen een uitdaging zal maken om phishing-pogingen te onderscheiden waarbij gebruikers worden misleid om wachtwoorden of persoonlijke informatie vrij te geven.

Generatieve AI, geïllustreerd door technologie zoals chatbots zoals ChatGPT en open-sourcemodellen, maakt het mogelijk om realistische inhoud te creëren op basis van eenvoudige aanwijzingen. Het NCSC, onderdeel van het spionagebureau GCHQ, stelde in zijn laatste beoordeling dat AI de frequentie en impact van cyberaanvallen de komende twee jaar waarschijnlijk zal vergroten.

Het bureau benadrukte de rol van generatieve AI en grote taalmodellen, onderliggende technologieën voor chatbots, bij het compliceren van pogingen om verschillende soorten aanvallen te identificeren, waaronder spoof-berichten en social engineering, een methode om individuen te manipuleren om vertrouwelijke informatie vrij te geven.

AI-aangedreven oplichting net om de hoek

Het rapport benadrukte dat de prevalentie van generatieve AI en grote taalmodellen het tegen 2025 voor individuen een uitdaging zou maken, ongeacht hun expertise op het gebied van cyberbeveiliging, om de authenticiteit van e-mails of verzoeken om wachtwoordherstel te beoordelen en om phishing-, spoofing- of social engineering-pogingen te herkennen. .

Het NCSC anticipeerde ook op een toename van het aantal ransomware-aanvallen, daarbij verwijzend naar het verlagen van de barrières voor amateur-cybercriminelen en hackers om systemen te exploiteren. Er werd opgemerkt dat de verfijning van AI een overtuigendere benadering van potentiële slachtoffers mogelijk maakte, waardoor valse documenten werden gecreëerd zonder de typische fouten die gepaard gaan met phishing-aanvallen. Het rapport verduidelijkte echter dat hoewel generatieve AI de overtuigingskracht van phishing-pogingen zou kunnen vergroten, dit niet noodzakelijkerwijs de effectiviteit van ransomware-code zou verbeteren.

Het agentschap waarschuwde dat statelijke actoren waarschijnlijk goed gepositioneerd zijn om AI in te zetten bij geavanceerde cyberoperaties, met het potentieel om AI-modellen te trainen die in staat zijn nieuwe code te creëren die beveiligingsmaatregelen omzeilt. Bovendien erkende het NCSC het potentieel van AI als defensief instrument, dat aanvallen kan detecteren en veiliger systemen kan ontwerpen.