Agência de segurança cibernética do Reino Unido alerta que a IA ajudará atores e golpistas de ransomware
A agência de segurança cibernética do Reino Unido, o Centro Nacional de Segurança Cibernética (NCSC), alertou que a ascensão da inteligência artificial complicará a identificação de e-mails genuínos em comparação com os de golpistas e atores mal-intencionados, especialmente mensagens que solicitam redefinições de senha.
O NCSC alertou que a sofisticação das ferramentas de IA, especialmente a IA generativa, capaz de produzir texto, voz e imagens convincentes, tornará um desafio para os indivíduos discernirem tentativas de phishing em que os utilizadores são enganados e divulgam palavras-passe ou informações pessoais.
A IA generativa, exemplificada por tecnologias como chatbots como ChatGPT e modelos de código aberto, permite a criação de conteúdo realista a partir de prompts simples. O NCSC, parte da agência de espionagem GCHQ, afirmou na sua última avaliação que a IA provavelmente aumentaria a frequência e o impacto dos ataques cibernéticos nos próximos dois anos.
A agência destacou o papel da IA generativa e dos grandes modelos de linguagem, tecnologias subjacentes aos chatbots, na complicação dos esforços para identificar vários tipos de ataques, incluindo mensagens falsas e engenharia social, um método de manipulação de indivíduos para divulgar informações confidenciais.
Golpes baseados em IA estão chegando
O relatório enfatizou que, até 2025, a prevalência da IA generativa e de grandes modelos de linguagem tornaria um desafio para os indivíduos, independentemente da sua experiência em segurança cibernética, avaliar a autenticidade de e-mails ou solicitações de redefinição de senha e reconhecer tentativas de phishing, spoofing ou engenharia social. .
O NCSC também antecipou um aumento nos ataques de ransomware, citando a redução das barreiras para cibercriminosos amadores e hackers explorarem os sistemas. Observou-se que a sofisticação da IA facilita abordagens mais convincentes para vítimas em potencial, criando documentos falsos sem erros típicos associados a ataques de phishing. No entanto, o relatório esclareceu que, embora a IA generativa pudesse aumentar o poder de persuasão das tentativas de phishing, não melhoraria necessariamente a eficácia do código de ransomware.
A agência alertou que os intervenientes estatais estão provavelmente bem posicionados para aproveitar a IA em operações cibernéticas avançadas, com potencial para treinar modelos de IA capazes de criar novos códigos que escapam às medidas de segurança. Além disso, o NCSC reconheceu o potencial da IA como ferramenta defensiva, capaz de detectar ataques e conceber sistemas mais seguros.
