The Guardianis avaldatud lugejakirjad käsitlevad hiljuti PHP programmeerimiskeelest leitud vigu ja nende avalikustamisega seotud riske. Üks autor peab AI kasutamist lähtekoodi kontrollimiseks heaks näiteks tehnoloogia praktilisest väärtusest, teine hoiatab aga laiemalt selle eest, et ühiskond sõltub süsteemidest, mida inimesed sageli ei mõista ega kontrolli.

Kirjad ei keskendu niivõrd sellele, et vead üldse olemas olid, vaid sellele, mis juhtus pärast nende avastamist. Arutelu keskne küsimus on, kuidas tasakaalustada turvanõrkuste läbipaistvust ja vajadust anda tarkvara arendajatele aega probleemid enne avalikustamist parandada.

AI aitas leida seni märkamata vead

David Gibsoni hinnangul on PHP juhtumis põhjust tunnustada AI-d. Tema sõnul ei avastanud vigu häkkerid, vaid need tulid esile siis, kui AI-tööriista kasutati PHP lähtekoodi kontrollimiseks. Kirja järgi olid probleemid olnud kaua olemas, kuid need olid väga raskesti märgatavad ega olnud seni kahju põhjustanud.

See näide osutab ühele AI praktilisele kasutusviisile: olemasoleva koodi süstemaatiline analüüs. Selline töö ei tähenda automaatselt, et kõik leitud probleemid kujutavad endast kohe aktiivset ohtu. Samuti ei asenda avastus parandamist, testimist ega vastutustundlikku avalikustamist.

Parandamata vea avalikustamine suurendab riski

Gibsoni kriitika keskendub asjaolule, et vigade üksikasjad lekkisid enne, kui neid jõuti parandada. Ta peab seda suuremaks probleemiks kui vigade endi pikka aega kestnud märkamatust ning leiab, et sellise tegevuse eest peaksid kehtima piisavad õiguslikud tagajärjed, kui see pole juba ebaseaduslik.

Kirjas ei esitata tehnilist kirjeldust selle kohta, milles PHP vead täpselt seisnesid. Küll aga tõstatatakse laiem põhimõte, mida tarkvaraturbes sageli arvesse võetakse: haavatavuse avastaja, arendaja ja avalikkuse teavitamise ajastus mõjutab seda, kas paranduse tegemiseks jääb piisavalt aega.

Tehnoloogiasõltuvus muudab turvalisuse juhtimisküsimuseks

Charles MacKinnon seob juhtumi ühiskonna kasvava sõltuvusega tehnoloogiast. Ta viitab murele, et inimesed kasutavad igapäevaselt süsteeme ja tööprotsesse, mille toimimisest neil puudub selge arusaam ning mille üle neil on vähe kontrolli.

MacKinnoni hinnangul on paljud tehnoloogilised lahendused kujunenud järk-järgult, ühendades vanemaid süsteeme, vahevara ja uusi tööriistu. Selline kihiline ülesehitus võib tema arvates raskendada süsteemide turvalisuse ja hoolduse terviklikku korraldamist. Samuti seostab ta tehnoloogia arenguga muret töökohtade ja teenuste kvaliteedi pärast. Need on kirja autori hinnangud, mitte algallikas eraldi tõendatud järeldused.

Miks see on AI kasutajale oluline?

Ettevõtete ja arendustiimide jaoks näitab arutelu, et AI abil tehtav koodianalüüs vajab selget protsessi. Vea leidmine on alles esimene samm: järgmiseks tuleb hinnata selle tegelikku mõju, piirata info levikut kuni paranduse valmimiseni ning otsustada, kuidas ja millal kasutajaid teavitada.

Samuti tuletavad kirjad meelde, et AI ei muuda tehnoloogilist vastutust automaatseks. Tööriist võib aidata probleeme avastada, kuid otsused prioriteetide, paranduste, avalikustamise ja võimalike tagajärgede kohta jäävad inimestele ja organisatsioonidele.

Mida edasi jälgida?

Jälgida tasub, kuidas kujunevad AI-põhised tarkvara turvakontrollid, vastutustundliku haavatavuste avalikustamise praktikad ning arendajate ja kasutajate rollijaotus selliste juhtumite lahendamisel.

Algallikas: The Guardian AI