L'Agenzia per la sicurezza informatica del Regno Unito avverte che l'intelligenza artificiale aiuterà gli attori del ransomware e i truffatori

L'agenzia di sicurezza informatica del Regno Unito, il National Cyber Security Center (NCSC), ha avvertito che l'ascesa dell'intelligenza artificiale complicherà l'identificazione di e-mail autentiche rispetto a quelle di truffatori e attori malintenzionati, in particolare i messaggi che richiedono la reimpostazione della password.

L’NCSC ha avvertito che la sofisticazione degli strumenti di intelligenza artificiale, in particolare l’intelligenza artificiale generativa in grado di produrre testo, voce e immagini convincenti, renderà difficile per le persone discernere i tentativi di phishing in cui gli utenti vengono ingannati nel divulgare password o informazioni personali.

L’intelligenza artificiale generativa, esemplificata da tecnologie come chatbot come ChatGPT e modelli open source, consente la creazione di contenuti realistici da semplici istruzioni. L’NCSC, parte dell’agenzia di spionaggio GCHQ, ha dichiarato nella sua ultima valutazione che l’intelligenza artificiale probabilmente aumenterà la frequenza e l’impatto degli attacchi informatici nei prossimi due anni.

L’agenzia ha evidenziato il ruolo dell’intelligenza artificiale generativa e dei grandi modelli linguistici, tecnologie alla base dei chatbot, nel complicare gli sforzi per identificare vari tipi di attacco, inclusi messaggi spoof e ingegneria sociale, un metodo per manipolare gli individui per divulgare informazioni riservate.

Truffe basate sull'intelligenza artificiale proprio dietro l'angolo

Il rapporto sottolinea che entro il 2025, la prevalenza dell’intelligenza artificiale generativa e dei modelli linguistici di grandi dimensioni renderebbe difficile per gli individui, indipendentemente dalla loro esperienza in materia di sicurezza informatica, valutare l’autenticità delle e-mail o delle richieste di reimpostazione della password e riconoscere tentativi di phishing, spoofing o ingegneria sociale. .

L’NCSC ha inoltre previsto un aumento degli attacchi ransomware, citando l’abbassamento delle barriere che impediscono ai criminali informatici e agli hacker amatoriali di sfruttare i sistemi. È stato notato che la sofisticatezza dell'intelligenza artificiale facilita approcci più convincenti alle potenziali vittime, creando documenti falsi senza errori tipici associati agli attacchi di phishing. Tuttavia, il rapporto chiarisce che, sebbene l’intelligenza artificiale generativa possa aumentare la persuasività dei tentativi di phishing, non migliorerebbe necessariamente l’efficacia del codice ransomware.

L’agenzia ha avvertito che gli attori statali sono probabilmente ben posizionati per sfruttare l’intelligenza artificiale nelle operazioni informatiche avanzate, con il potenziale per addestrare modelli di intelligenza artificiale in grado di creare nuovo codice che elude le misure di sicurezza. Inoltre, l’NCSC ha riconosciuto il potenziale dell’intelligenza artificiale come strumento difensivo, in grado di rilevare attacchi e progettare sistemi più sicuri.