Die britische Cybersecurity-Agentur warnt davor, dass KI Ransomware-Akteuren und Betrügern helfen wird
Die britische Cybersicherheitsbehörde, das National Cyber Security Centre (NCSC), hat gewarnt, dass der Aufstieg der künstlichen Intelligenz die Identifizierung echter E-Mails im Vergleich zu denen von Betrügern und böswilligen Akteuren erschweren wird, insbesondere Nachrichten, in denen das Zurücksetzen von Passwörtern gefordert wird.
Das NCSC warnte davor, dass die Ausgereiftheit der KI-Tools, insbesondere der generativen KI, die überzeugende Texte, Stimmen und Bilder erzeugen kann, es für Einzelpersonen schwierig machen wird, Phishing-Versuche zu erkennen, bei denen Benutzer dazu verleitet werden, Passwörter oder persönliche Informationen preiszugeben.
Generative KI, am Beispiel von Technologien wie Chatbots wie ChatGPT und Open-Source-Modellen, ermöglicht die Erstellung realistischer Inhalte aus einfachen Eingabeaufforderungen. Das NCSC, Teil der Spionageagentur GCHQ, erklärte in seiner jüngsten Einschätzung, dass KI in den nächsten zwei Jahren wahrscheinlich die Häufigkeit und Wirkung von Cyberangriffen erhöhen werde.
Die Agentur betonte die Rolle generativer KI und großer Sprachmodelle, die zugrunde liegenden Technologien für Chatbots, bei der Erschwerung der Bemühungen, verschiedene Angriffstypen zu identifizieren, einschließlich gefälschter Nachrichten und Social Engineering, einer Methode zur Manipulation von Personen, um vertrauliche Informationen preiszugeben.
KI-gestützte Betrügereien stehen vor der Tür
Der Bericht betonte, dass es bis 2025 aufgrund der Verbreitung generativer KI und großer Sprachmodelle für Einzelpersonen unabhängig von ihrer Cybersicherheitsexpertise schwierig werden würde, die Authentizität von E-Mails oder Anfragen zum Zurücksetzen von Passwörtern zu beurteilen und Phishing-, Spoofing- oder Social-Engineering-Versuche zu erkennen .
Das NCSC rechnete auch mit einem Anstieg von Ransomware-Angriffen und verwies auf die Senkung der Hürden für Hobby-Cyberkriminelle und Hacker, Systeme auszunutzen. Es wurde festgestellt, dass die ausgereifte KI eine überzeugendere Herangehensweise an potenzielle Opfer ermöglicht und gefälschte Dokumente ohne typische Fehler im Zusammenhang mit Phishing-Angriffen erstellt. Der Bericht stellte jedoch klar, dass generative KI zwar die Überzeugungskraft von Phishing-Versuchen steigern könnte, sie jedoch nicht unbedingt die Wirksamkeit von Ransomware-Code verbessern würde.
Die Behörde warnte, dass staatliche Akteure wahrscheinlich gut positioniert seien, um KI in fortgeschrittenen Cyberoperationen einzusetzen, mit dem Potenzial, KI-Modelle zu trainieren, die in der Lage seien, neuen Code zu erstellen, der Sicherheitsmaßnahmen umgeht. Darüber hinaus erkannte das NCSC das Potenzial von KI als Verteidigungsinstrument an, das in der Lage ist, Angriffe zu erkennen und sicherere Systeme zu entwickeln.
