Kaip taisyklių failo užpakalinės durys išnaudoja dirbtinio intelekto kodo redaktorius

Kai turime dirbtinį intelektą (AI), sukeliantį revoliuciją programinės įrangos kūrime, saugumo rizikos vystosi taip pat greitai. Kitas neatskleistas atakos metodas, žinomas kaip taisyklių failo „Backdoor“ , atskleidė AI valdomų kodavimo asistentų, tokių kaip „GitHub Copilot“ ir „Cursor“, pažeidžiamumą. Ši technika leidžia užpuolikams subtiliai įterpti kenkėjišką kodą į projektus, pažeidžiant programinės įrangos vientisumą kūrėjams to nesuvokiant.

Kas yra taisyklių failo užpakalinės durys?

Iš esmės taisyklių failo „Backdoor“ yra sudėtinga tiekimo grandinės ataka, kuri išnaudoja konfigūracijos failus, dažniausiai naudojamus geriausiai praktikai ir projektų struktūroms apibrėžti, kad įtrauktų paslėptus pažeidžiamumus kuriant AI padedamą kodą. Įterpdami apgaulingas instrukcijas šiuose taisyklių failuose, užpuolikai gali manipuliuoti dirbtinio intelekto įrankiais, kad sukurtų pažeistą kodą, efektyviai ginkluodami technologiją, skirtą padėti kūrėjams.

Šis atakos metodas naudoja paslėptus unikodo simbolius, pvz., nulinio pločio jungiklius ir dvikrypčius teksto žymeklius , kurie lieka nematomi standartiniame teksto rengyklėje, tačiau daro įtaką AI interpretuoja ir apdoroja taisykles. Todėl net patyrę kūrėjai gali nepastebėti, kad taisyklių failas buvo sugadintas, todėl kenkėjiškas kodas gali nepastebimai plisti keliuose projektuose.

Ko siekiama šiuo puolimu?

Pagrindinis taisyklių failo „Backdoor“ tikslas yra įterpti išnaudojamus trūkumus į programinę įrangą be tiesioginės žmogaus užpuoliko sąveikos. Užuot rankiniu būdu įvedę kenkėjišką kodą, grėsmės veikėjai gali subtiliai nukreipti AI generuojant nesaugias funkcijas arba loginius trūkumus. Tai reiškia, kad kiekvienas kūrėjas, kuris naudoja pažeistą AI įrankį, nesąmoningai prisideda prie pažeidžiamumo plitimo.

Naudodami šią techniką, užpuolikai gali pasiekti kelis tikslus:

• Nuolatinis kodo kompromisas: Kadangi AI pakartotinai generuoja klaidingą kodą remdamasis sugadintomis taisyklėmis, užpakalinės durys išlieka per kelias kodavimo sesijas.
• Tiekimo grandinės įsiskverbimas: projektai, kurie paveldi taisyklių failus iš pažeistos saugyklos, gali nesąmoningai sukelti priklausomų sistemų saugos trūkumus, o tai turi įtakos paskesnėms programoms ir vartotojams.
• Saugumo peržiūrų vengimas: tradicinių saugos auditų metu pagrindinis dėmesys skiriamas aiškių rankiniu būdu įrašyto kodo pažeidžiamumui aptikti. Tačiau kai dirbtinio intelekto asistentas generuoja kenkėjišką kodą vadovaudamasis paslėptu instrukcijų rinkiniu, tampa sunkiau atskirti ketinimą nuo atsitiktinės kodavimo klaidos.

Kodėl tai yra didelė rizika?

Skirtingai nuo įprastų kibernetinių atakų, kai kenkėjiškas kodas sąmoningai įterpiamas į projektą, šis metodas manipuliuoja AI, kad šis atliktų darbą užpuoliko vardu. Tai iš esmės pakeičia grėsmių aplinką, nes dirbtinio intelekto pagrįstos kūrimo priemonės tampa ir produktyvumo didinimu, ir galimu įsipareigojimu.

Kai kurios iš pagrindinių pasekmių yra šios:

1. Netyčinis kūrėjo komplikavimas: kadangi dažnai manoma, kad dirbtinio intelekto sukurtas kodas yra teisingas, kūrėjai ne visada gali atidžiai išnagrinėti kiekvieną pasiūlymą, todėl kenkėjiškos instrukcijos gali prasiskverbti nepastebėtos.
2. Ilgalaikės tiekimo grandinės grėsmės: kai užnuodytas taisyklių failas yra integruotas į projektą, kyla pavojus kiekvienai būsimai kodo kartai, kuri paveiks ne tik pradinį projektą, bet ir visas šakes ar priklausomybes, kurios paveldi suteptas taisykles.
3. Sunkus aptikimas ir pašalinimas: kadangi ataka yra įterpta į konfigūracijos failus, o ne į tikrąjį šaltinio kodą, ji gali apeiti įprastus saugos įrankius, skirtus įprastiems pažeidžiamumui nuskaityti.

Ką gali padaryti kūrėjai?

Tiek „GitHub“, tiek „Cursor“ pareiškė, kad vartotojai yra galiausiai atsakingi už AI sukurto kodo peržiūrą ir priėmimą. Nors tai pabrėžia budrumo svarbą, papildomos priemonės gali padėti sumažinti taisyklių failo galinių durų keliamą riziką:

• Rankiniu būdu tikrinti taisyklių failus: kūrėjai turėtų atidžiai peržiūrėti taisyklių failus prieš integruodami juos į projektą. Jei taisyklės failas yra iš nepatikimo šaltinio, jis turi būti patikrintas, ar nėra paslėptų simbolių ar neįprastų nurodymų.
• Naudokite statinio kodo analizės įrankius: į saugą orientuoti kodo analizės įrankiai gali padėti aptikti subtilius pažeidžiamumus, kurie gali atsirasti dėl AI sugeneruotų pasiūlymų.
• Įgalinti AI saugos funkcijas: jei AI asistentas suteikia galimybę apriboti potencialiai pavojingo kodo generavimą, šios apsaugos priemonės turėtų būti įjungtos ir stebimos.
• Stebėkite projekto priklausomybes: komandos turėtų žinoti apie paveldėtas konfigūracijas iš išorinių saugyklų ir periodiškai tikrinti, ar nėra netikėtų pakeitimų.

Paskutinės mintys

Taisyklių failo „Backdoor“ parodo, kaip net patys pažangiausi AI valdomi įrankiai gali tapti kibernetinių grėsmių keliu, jei jie nėra kruopščiai valdomi. Ši ataka nėra nukreipta tiesiogiai į atskirus kūrėjus, o išnaudoja pasitikėjimą dirbtinio intelekto kodavimo įrankiais. Kadangi dirbtinis intelektas ir toliau vaidina esminį vaidmenį kuriant programinę įrangą, kartu su juo turi vystytis ir saugumu grindžiama kodavimo praktika.

Būdamos informuotos ir įgyvendindamos griežtus peržiūros procesus, kūrimo komandos gali sumažinti riziką nesąmoningai įtraukti pažeidžiamumą į savo projektus ir užtikrinti, kad dirbtinis intelektas išliktų galingas inovacijų įrankis, o ne paslėpta atsakomybė.