A Microsoft arra figyelmeztet, hogy az állam által támogatott fenyegetés szereplői mesterséges intelligenciát használnak támadásokhoz

Az Oroszországgal, Észak-Koreával, Iránnal és Kínával kapcsolatban álló nemzetállami szereplők a mesterséges intelligencia (AI) és a nagy nyelvi modellek (LLM) integrációját vizsgálják meglévő kibertámadási műveleteik fokozása érdekében.

A Microsoft és az OpenAI által közösen közzétett jelentésből kiderül, hogy mindkét szervezet megzavarta öt, rosszindulatú kibertevékenységet folytató, államilag érdekelt szereplő erőfeszítéseit azáltal, hogy megszüntette vagyonát és fiókját.

A Microsoft megosztotta a The Hacker News-szal, hogy a nyelvi támogatás az LLM-ek velejárója, így vonzóvá teszik azokat a fenyegetések szereplői számára, akik a szociális tervezésre és más, a célpontjaik szakmai hálózataihoz, munkáihoz és egyéb kapcsolataihoz szabott hamis és megtévesztő kommunikációs taktikákra összpontosítanak.

Bár ez idáig nem azonosítottak jelentős vagy újszerű, LLM-eket használó támadásokat, az AI-technológiák ellenséges feltárása a támadási lánc különböző szakaszaiban haladt előre, beleértve a felderítést, a kódolási segítségnyújtást és a rosszindulatú programok fejlesztését.

Hackerek mesterséges intelligencia segítségével kódkóddal, információk lekaparásával kapcsolatban

A jelentés szerint az állami kötődésű szereplők elsősorban az OpenAI szolgáltatásokat igyekeztek kihasználni olyan feladatokra, mint a nyílt forráskódú információk lekérdezése, fordítás, kódolási hibák keresése és alapvető kódolási feladatok végrehajtása.

Íme néhány példa az MI-vel visszaélő további fenyegetés szereplőire:

• A Forest Blizzard (vagy APT28) néven ismert orosz nemzetállami csoport OpenAI-szolgáltatásokat használt a műholdas kommunikációs protokollok, radarképalkotási technológia és szkriptelési feladatok nyílt forráskódú kutatására.
• Emerald Sleet (vagy Kimusky) az észak-koreai fenyegetésekkel foglalkozó szereplők LLM-eket alkalmazott az ázsiai-csendes-óceáni térség védelmi kérdéseivel foglalkozó szakértők, agytrösztök és szervezetek azonosítására, valamint a lehetséges adathalász kampányokhoz szükséges forgatókönyvírási feladatokra és tartalom kidolgozására.
• Az iráni fenyegetések szereplője, Crimson Sandstorm (vagy Imperial Kitten) LLM-eket használt arra, hogy alkalmazás- és webfejlesztéssel kapcsolatos kódrészleteket hozzon létre, adathalász e-maileket generáljon, és kutassa a rosszindulatú programok elkerülésének módjait.
• A kínai fenyegetettség szereplői, a Charcoal Typhoon (vagy Aquatic Panda) és a Salmon Typhoon (vagy a Maverick Panda) LLM-eket használtak különféle feladatokhoz, beleértve a vállalatok és sebezhetőségek felkutatását, a szkriptek generálását, a műszaki dokumentumok fordítását és a hírszerző ügynökségekkel kapcsolatos információk lekérését.

A Microsoft olyan alapelveket dolgoz ki, amelyek csökkentik a mesterséges intelligencia-eszközök és API-k nemzetállami fejlett állandó fenyegetések (APT), fejlett tartós manipulátorok (APM) és kiberbűnözők általi rosszindulatú használatával kapcsolatos kockázatait. Ezen elvek célja hatékony védőkorlátok és biztonsági mechanizmusok kialakítása az AI-modellek körül.