JK kibernetinio saugumo agentūra perspėja, kad dirbtinis intelektas padės išpirkos programų aktoriams, sukčiams
JK kibernetinio saugumo agentūra Nacionalinis kibernetinio saugumo centras (NCSC) perspėjo, kad dirbtinio intelekto augimas apsunkins tikrų el. laiškų atpažinimą, palyginti su sukčių ir kenkėjiškų veikėjų el. laiškų atpažinimu, ypač pranešimais, kuriuose prašoma iš naujo nustatyti slaptažodį.
NCSC perspėjo, kad dėl sudėtingų dirbtinio intelekto įrankių, ypač generatyvaus AI, galinčio sukurti įtikinamą tekstą, balsą ir vaizdus, asmenims bus sunku atpažinti sukčiavimo bandymus, kai vartotojai apgaudinėjami atskleisti slaptažodžius ar asmeninę informaciją.
Generatyvusis dirbtinis intelektas, kurio pavyzdys yra tokios technologijos kaip pokalbių robotai, pvz., „ChatGPT“, ir atvirojo kodo modeliai, leidžia sukurti tikrovišką turinį iš paprastų raginimų. NCSC, priklausanti GCHQ šnipinėjimo agentūrai, naujausiame savo vertinime nurodė, kad dirbtinis intelektas greičiausiai padidins kibernetinių atakų dažnumą ir poveikį per ateinančius dvejus metus.
Agentūra pabrėžė generatyvaus dirbtinio intelekto ir didelių kalbų modelių, pagrindinių pokalbių robotų technologijų, vaidmenį apsunkinant pastangas identifikuoti įvairius atakų tipus, įskaitant suklastotus pranešimus ir socialinę inžineriją, manipuliavimo asmenimis būdą atskleisti konfidencialią informaciją.
Dirbtinio intelekto valdomi sukčiai visai šalia
Ataskaitoje pabrėžta, kad iki 2025 m. dėl generatyvaus dirbtinio intelekto ir didelių kalbų modelių paplitimo asmenims, nepaisant jų kibernetinio saugumo patirties, bus sudėtinga įvertinti el. laiškų autentiškumą arba slaptažodžio nustatymo iš naujo užklausas ir atpažinti sukčiavimo, klastojimo ar socialinės inžinerijos bandymus. .
NCSC taip pat numatė išpirkos reikalaujančių programų atakų antplūdį, nurodydamas sumažėjusias kliūtis kibernetiniams nusikaltėliams mėgėjams ir įsilaužėliams išnaudoti sistemas. Buvo pastebėta, kad dirbtinio intelekto sudėtingumas palengvina įtikinamesnį požiūrį į galimas aukas, sukuriant netikrus dokumentus be tipiškų klaidų, susijusių su sukčiavimo atakomis. Tačiau ataskaitoje paaiškinta, kad nors generatyvus AI gali padidinti sukčiavimo bandymų įtikinamumą, tai nebūtinai pagerintų išpirkos reikalaujančio kodo efektyvumą.
Agentūra perspėjo, kad valstybės veikėjai greičiausiai yra gerai pasirengę panaudoti dirbtinį intelektą pažangiose kibernetinėse operacijose ir gali išmokyti dirbtinio intelekto modelius, galinčius sukurti naują kodą, kuris išvengtų saugumo priemonių. Be to, NCSC pripažino AI, kaip gynybinės priemonės, galinčios aptikti atakas ir kurti saugesnes sistemas, potencialą.
