Tehisintellekti aruteludes domineerivad sageli hoiatused superintelligentsi ja inimkonna võimaliku väljasuremise eest. The Guardianis avaldatud arvamusloos väidavad Timnit Gebru ja Emily M. Bender, et vahetum risk võib olla palju maisem: ebatäpsete tekstirobotite kasutamine olukordades, kus eksimusel võivad olla väga rasked tagajärjed.

Autorid viitavad CNN-i 18. septembri loole, mille kohaselt jõudis USA sõjavägi väidetavalt Hiina laeva kinnipidamise ettevalmistamiseni, tuginedes luureteabele, mis oli koostatud vestlusroboti abil. CNN-i kirjeldust ei olnud kokkuvõtte järgi teised suured väljaanded sõltumatult kinnitanud. Edasise kontrolli käigus leiti väidetavalt, et raport sisaldas laeva lasti kohta ekslikku infot.

Väidetav juhtum näitab kontrollimata info hinda

Arvamusloo autorite hinnangul oleks USA ja Hiina sõjaline kokkupõrge võinud kiiresti eskaleeruda. Nende keskne väide on, et sellise stsenaariumi jaoks ei ole vaja niinimetatud „mässavat” või inimkonnast targemat masinat. Piisab sellest, kui inimesed annavad vigase süsteemi koostatud analüüsile suurema kaalu, kui see väärib.

Autorid rõhutavad, et keelemudelid genereerivad tõenäolisena näivat teksti, lähtudes treeningandmetes õpitud mustritest. Kui mudel on kohandatud näiteks luureraporti stiilile, võib selle väljund näida ametlik, veenev ja professionaalne ka siis, kui selles esineb sisulisi vigu.

Superintelligentsi narratiiv võib varjutada praktilised ohud

Gebru ja Bender kritiseerivad tehnoloogiaettevõtete ning nende juhtide väiteid, mille järgi liigub tööstus kiiresti enesetäiustuva superintelligentsi poole. Nende hinnangul suunavad sellised hoiatused tähelepanu hüpoteetilistele tulevikustsenaariumidele, samal ajal kui juba kasutatavate süsteemide dokumenteeritud puudused jäävad vähem märgatavaks.

Autorid seostavad sama probleemi ka teiste valdkondadega. Nad toovad näidetena välja AI-põhised haigladiktaadid, mis võivad patsiente valesti liigitada, ning süsteemid, mille analüüs võib ekslikult pidada tsiviilobjekte sõjalisteks sihtmärkideks. Need näited on artiklis esitatud väidetena automatiseeritud tarkvara väärkasutuse ja liigse usaldamise tagajärgede kohta, mitte ühe universaalse tehnilise seaduspärasusena.

Mida tähendaks vastutustundlik kasutus?

Arvamusloo autorid kutsuvad üles reguleerima eelkõige selliste süsteemide kasutust, mitte käsitlema AI-d kui müstilist või iseseisva tahtega üksust. Nende ettepaneku keskmes on nõue hinnata automaatikat konkreetses kasutuskohas, kehtestada selged kasutusreeglid ning säilitada otsustusvastutus inimestel, kellel on tegelik pädevus otsuseid teha.

See on oluline ka ettevõtete ja AI-kasutajate jaoks. Teksti veenvus, ametlik vorm või süsteemi turunduslik kuvand ei tõenda tulemuse õigsust. Eriti tundlikes protsessides tuleb kontrollida, millistele andmetele väljund tugineb, kuidas vigu avastatakse ja kes vastutab siis, kui süsteem annab eksliku soovituse.

Arvamuse põhisõnum ei ole, et kõik AI-süsteemid oleksid kasutud, vaid et nende võimeid tuleb hinnata konkreetse ülesande ja riski järgi. Mida suurem on võimaliku vea mõju, seda vähem saab tugineda üksnes automatiseeritud tekstile või kasutaja esmamuljele.

Mida edasi jälgida?

Jälgida tasub, kas CNN-i kirjeldatud juhtumi kohta ilmneb täiendavat sõltumatut infot ning kuidas valitsused, sõjaväed ja teised kriitiliste teenuste pakkujad kehtestavad AI-väljundite kontrolli, auditite ja inimliku vastutuse reegleid.

Algallikas: The Guardian AI