Tehisintellekti turvalisuse paradoks tuli juulis teravalt esile: samal ajal kui OpenAI teatas oma mudelite võimest teisi süsteeme rünnata, leidis turvafirma Hacktron viisi OpenAI enda privaatse koodi juurde pääsemiseks. Ettevõtte sõnul kasutati rünnaku koostamisel Anthropic’u Claude’i.

Hacktron teatas, et nende kolmeliikmeline meeskond jõudis OpenAI süsteemidesse vähem kui 72 tunniga. Teadlased ütlesid, et andsid leitud probleemist OpenAI-le teada ning said vastutasuks 6500 dollari suuruse turvatasu.

Kuidas ligipääs tekkis?

Allika kirjelduse järgi algas rünnak OpenAI kogukonnafoorumis olnud pildi üleslaadimisega seotud veast. Teine haavatavus võimaldas töötajate sisselogimislubadel avada juurdepääsu ka ChatGPT kontodele.

Hacktroni väitel võeti selle kaudu üle töötajakontosid ning jõuti OpenAI privaatse koodibaasini. Tõendina jätsid teadlased ettevõtte sisemisse dokumentatsiooni soovitatud muudatuse, mis oli allkirjastatud Hacktroni meeskonna kontseptsioonitõendina. Seejärel teatasid nad leiust vastutustundliku avalikustamise korras.

Rünnaku eri etappides aitas allika sõnul koodi kirjutada Anthropic’u Claude. Uuem Claude Opus 5 versioon lõpetas rünnaku väidetavalt ühe päeva jooksul, jätkates tööd, millega varasem, küberjulgeolekule suunatud Opus 4.8 versioon hakkama ei saanud.

Väike meeskond, suur julgeolekuküsimus

Hacktroni kirjeldus ei tähenda, et OpenAI süsteemid oleksid täielikult kompromiteeritud või et kõik rünnaku üksikasjad oleksid sõltumatult kinnitatud. Tegemist on turvafirma enda avaldusega, mille kohaselt leiti mitu omavahel seotud puudust.

Ettevõtte sõnul võisid sama pilditöötlustarkvaraga seotud vead mõjutada ka Slacki, Meta ja GitHub Enterprise’i keskkondi. Allikas ei täpsusta, milliseid andmeid nendes teenustes nähti või kas teised organisatsioonid jõudsid rünnakuteni enne nende peatamist.

Juhtum tõstatab siiski laiema küsimuse: kui väikese ressursiga meeskond suudab tehisintellekti abil keeruka ründeprotsessi lõpule viia, võivad sarnased tööriistad suurendada ka suuremate ja pahatahtlike ründajate võimekust. Claude’i või mõne muu mudeli kasutamine ei asenda iseenesest turvateadmisi, kuid see võib vähendada koodi kirjutamise ja katsetamisega seotud ajakulu.

Miks see on AI kasutajatele oluline?

Ettevõtete jaoks näitab juhtum, et turvalisust ei saa hinnata ainult ühe rakenduse või mudeli tasandil. Pildi üleslaadimine, foorumikonto, töötajate identiteedid ja sisemised teenused võivad olla omavahel seotud viisil, mis muudab ühe väikese vea mõju palju suuremaks.

AI-arendajad ja organisatsioonid peavad seetõttu tähelepanu pöörama ka agentide ning koodi genereerimisega seotud töövoogudele. Kui mudel suudab kirjutada, testida ja parandada ründe jaoks vajalikku koodi, muutub olulisemaks ligipääsude piiramine, sisselogimislubade eraldamine ning ebatavaliste tegevuste kiire tuvastamine.

Mida edasi jälgida?

Jälgida tasub, kas OpenAI, Anthropic või teised asjaosalised avaldavad haavatavuste kohta täpsema tehnilise kirjelduse ning milliseid muudatusi tehakse kontode, märkide ja kolmandate osapoolte teenuste kaitseks.

Algallikas: therundown.ai