Microsoft varnar statligt stödda hotaktörer använder AI i attacker

Nationella aktörer kopplade till Ryssland, Nordkorea, Iran och Kina undersöker integrationen av artificiell intelligens (AI) och stora språkmodeller (LLM) för att förbättra sina befintliga cyberattacker.

En rapport publicerad gemensamt av Microsoft och OpenAI avslöjar att båda organisationerna störde ansträngningarna från fem statligt anslutna aktörer som engagerar sig i skadliga cyberaktiviteter genom att avsluta deras tillgångar och konton.

Microsoft delade med The Hacker News att språkstöd är en inneboende egenskap hos LLM, vilket gör dem tilltalande för hotaktörer fokuserade på social ingenjörskonst och annan taktik som involverar falsk och vilseledande kommunikation skräddarsydd för deras måls professionella nätverk, jobb och andra relationer.

Även om inga betydande eller nya attacker med hjälp av LLM har identifierats hittills, har motståndskraftig utforskning av AI-teknik avancerat genom olika stadier av attackkedjan, inklusive spaning, kodningshjälp och utveckling av skadlig programvara.

Hackare som använder AI för hjälp med kodkod, skrapa information

Enligt rapporten sökte de statligt anslutna aktörerna främst att utnyttja OpenAI-tjänster för uppgifter som att söka information med öppen källkod, översättning, hitta kodningsfel och utföra grundläggande kodningsuppgifter.

Några exempel på ytterligare hotaktörer som missbrukar AI är nedan:

• Den ryska nationalstatsgruppen känd som Forest Blizzard (eller APT28) använde OpenAI-tjänster för forskning med öppen källkod om satellitkommunikationsprotokoll, radarbildteknik och skriptuppgifter.
• Den nordkoreanska hotskådespelaren Emerald Sleet (eller Kimusky) anställde LLM:er för att identifiera experter, tankesmedjor och organisationer fokuserade på försvarsfrågor i Asien-Stillahavsområdet, såväl som för skriptuppgifter och utarbetande av innehåll för potentiella nätfiskekampanjer.
• Den iranska hotskådespelaren Crimson Sandstorm (eller Imperial Kitten) använde LLM:er för att skapa kodavsnitt relaterade till app- och webbutveckling, generera nätfiske-e-postmeddelanden och undersöka hur skadlig programvara kan undvika upptäckt.
• De kinesiska hotaktörerna Charcoal Typhoon (eller Aquatic Panda) och Salmon Typhoon (eller Maverick Panda) använde LLM för olika uppgifter, inklusive att undersöka företag och sårbarheter, generera skript, översätta tekniska papper och hämta information om underrättelsebyråer.

Microsoft håller på att utveckla en uppsättning principer för att minska riskerna förknippade med skadlig användning av AI-verktyg och API:er av nationella avancerade ihållande hot (APT), avancerade ihållande manipulatorer (APM) och cyberkriminella syndikat. Dessa principer syftar till att etablera effektiva skyddsräcken och säkerhetsmekanismer runt AI-modeller.