Η Υπηρεσία Κυβερνοασφάλειας του Ηνωμένου Βασιλείου προειδοποιεί ότι η τεχνητή νοημοσύνη θα βοηθήσει τους ηθοποιούς και τους απατεώνες Ransomware

Η υπηρεσία κυβερνοασφάλειας του Ηνωμένου Βασιλείου, το Εθνικό Κέντρο Κυβερνοασφάλειας (NCSC), προειδοποίησε ότι η άνοδος της τεχνητής νοημοσύνης θα περιπλέξει την αναγνώριση των γνήσιων μηνυμάτων ηλεκτρονικού ταχυδρομείου έναντι αυτών από απατεώνες και κακόβουλους παράγοντες, ειδικά μηνύματα που ζητούν επαναφορά κωδικού πρόσβασης.

Το NCSC προειδοποίησε ότι η πολυπλοκότητα των εργαλείων AI, ιδιαίτερα η Generative AI ικανή να παράγει πειστικό κείμενο, φωνή και εικόνες, θα καταστήσει δύσκολο για τα άτομα να διακρίνουν απόπειρες phishing όπου οι χρήστες εξαπατούν να αποκαλύψουν κωδικούς πρόσβασης ή προσωπικές πληροφορίες.

Το Generative AI, με παράδειγμα τεχνολογίας όπως τα chatbots όπως το ChatGPT και τα μοντέλα ανοιχτού κώδικα, επιτρέπει τη δημιουργία ρεαλιστικού περιεχομένου από απλά μηνύματα. Το NCSC, μέρος της υπηρεσίας κατασκοπείας GCHQ, δήλωσε στην τελευταία του αξιολόγηση ότι η τεχνητή νοημοσύνη πιθανότατα θα αυξήσει τη συχνότητα και τον αντίκτυπο των κυβερνοεπιθέσεων τα επόμενα δύο χρόνια.

Το πρακτορείο τόνισε τον ρόλο της τεχνητής νοημοσύνης και των μεγάλων γλωσσικών μοντέλων, των υποκείμενων τεχνολογιών για chatbots, στην περιπλοκή των προσπαθειών εντοπισμού διαφόρων τύπων επιθέσεων, συμπεριλαμβανομένων των πλαστών μηνυμάτων και της κοινωνικής μηχανικής, μιας μεθόδου χειραγώγησης ατόμων για την αποκάλυψη εμπιστευτικών πληροφοριών.

Απάτες με τεχνητή νοημοσύνη προ των πυλών

Η έκθεση υπογράμμιζε ότι έως το 2025, η επικράτηση της τεχνητής νοημοσύνης και των μεγάλων γλωσσικών μοντέλων θα καθιστούσε πρόκληση για τα άτομα, ανεξάρτητα από την τεχνογνωσία τους στον κυβερνοχώρο, να αξιολογήσουν την αυθεντικότητα των email ή αιτημάτων επαναφοράς κωδικού πρόσβασης και να αναγνωρίσουν απόπειρες ηλεκτρονικού ψαρέματος, πλαστογράφησης ή κοινωνικής μηχανικής. .

Το NCSC προέβλεψε επίσης μια αύξηση των επιθέσεων ransomware, επικαλούμενη τη μείωση των φραγμών για τους ερασιτέχνες εγκληματίες του κυβερνοχώρου και τους χάκερ για την εκμετάλλευση συστημάτων. Η πολυπλοκότητα του AI σημειώθηκε ότι διευκολύνει πιο πειστικές προσεγγίσεις στα πιθανά θύματα, δημιουργώντας πλαστά έγγραφα χωρίς τυπικά σφάλματα που σχετίζονται με επιθέσεις phishing. Ωστόσο, η έκθεση διευκρίνισε ότι ενώ η γενετική τεχνητή νοημοσύνη θα μπορούσε να ενισχύσει την πειστικότητα των προσπαθειών phishing, δεν θα βελτίωνε απαραίτητα την αποτελεσματικότητα του κώδικα ransomware.

Ο οργανισμός προειδοποίησε ότι οι κρατικοί φορείς είναι πιθανόν σε καλή θέση να αξιοποιήσουν την τεχνητή νοημοσύνη σε προηγμένες επιχειρήσεις στον κυβερνοχώρο, με τη δυνατότητα να εκπαιδεύσουν μοντέλα τεχνητής νοημοσύνης ικανά να δημιουργήσουν νέο κώδικα που αποφεύγει τα μέτρα ασφαλείας. Επιπλέον, το NCSC αναγνώρισε τις δυνατότητες του AI ως αμυντικού εργαλείου, ικανό να ανιχνεύει επιθέσεις και να σχεδιάζει πιο ασφαλή συστήματα.