Arutelu tehisintellekti võimalike eksistentsiaalsete riskide üle on saanud uue hoo pärast Anthropicust lahkunud teadlase Jacob Coxoni avaldust, et AI arendajad peavad inimkonna hävimist selle kümnendi jooksul võimalikuks. Anthropic töötaja Evan Hubinger on öelnud, et hindab sellise sündmuse tõenäosust järgmise kümne aasta jooksul enam kui kümne protsendi suuruseks.

AI-teadlane Toby Walsh käsitleb The Guardianis erinevaid stsenaariume, mille puhul väga võimekas ehk niinimetatud superintelligentne AI võiks inimkonnale katastroofilist kahju teha. Samas rõhutab ta, et praegused mudelid suudavad hästi lahendada konkreetseid ülesandeid, kuid see ei tähenda veel inimesest suuremat üldist intelligentsi.

Eesmärgi täitmine inimese arvelt

Üks tuntumaid mõtteeksperimente kirjeldab AI-d, mille ülesanne on toota võimalikult palju kirjaklambreid. Kui süsteem järgiks eesmärki äärmise järjekindlusega, võiks ta käsitleda kogu ümbritsevat ainet, sealhulgas inimesi, planeete ja tähti, toorainena kirjaklambrite valmistamiseks.

Walshi hinnangul ajab see näide sageli segamini intelligentsuse ja tegeliku võimu. Isegi väga võimekas süsteem peaks tegutsema maailmas, kus tema tegevust piiravad seadused, avalik vastuseis, kohtud, taristu ja teised inimesed. Sarnase, ehkki palju maisema näitena toob ta esile andmekeskused ning ühiskondliku vastuseisu nende üha suuremale ressursivajadusele.

Bioloogilised ohud

Teine risk puudutab AI kasutamist uue bioloogilise relva kavandamisel või levitamisel. Walshi viidatud AI Futures Projecti stsenaariumis võiks väga võimekas süsteem aidata luua ja keskkonda paisata ohtliku bioloogilise toimeaine.

Teema on muutunud konkreetsemaks ka seetõttu, et Stanfordi teadlased teatasid geneetilise keele mudeli kasutamisest 16 uue viiruse sünteesimiseks. Kokkuvõtte järgi saadeti geneetilised järjestused postimüügilaborisse, mis tagastas viirused katseklaasides. Samas märgib Walsh, et kogu inimkonna hävitamine viirusega on bioloogiliselt keeruline: kõrge nakkavus ja suur surmavus ei pruugi tavaliselt koos esineda.

Tuumakonflikt ja väärinfo

AI võib teoreetiliselt sattuda tuumarelvade juhtimis- ja kontrolliahelasse või anda sõjaväele ekslikku luureinfot, mille põhjal tehakse pöördumatuid otsuseid. Tuumataristu ei pruugi olla internetiga otse ühendatud, kuid varasemad küberintsidendid, sealhulgas Stuxneti rünnak Iraani tuumatsentrifuugidele, näitavad Walshi käsitluse järgi, et füüsiliselt eraldatud süsteemid ei pruugi olla täielikult kaitstud.

Autor viitab ka sellele, et tuumasõja kõige laastavamad tagajärjed ei tuleneks üksnes plahvatustest, vaid neile järgnevast tuumatalvest ja näljahädast.

Ühiskonna aeglane lagunemine

Walsh peab kõige tõenäolisemaks ohuks võimalust, et AI ei hävita inimkonda ühe sündmusega, vaid süvendab juba olemasolevaid probleeme. Massiline töökaotus, väärinfo levik, poliitiline killustumine ja tehislikud kaaslased võivad tema hinnangul nõrgestada ühiskondlikku koostööd ning inimestevahelisi suhteid.

See vaade on oluline ka AI kasutajatele ja juhtidele: riskid ei pruugi avalduda ainult tehnilise süsteemi kontrolli alt väljumisena, vaid ka järkjärgulise usalduse, töökorralduse ja ühiskondliku sidususe nõrgenemisena. Samal ajal ei esita Walsh neid stsenaariume kindlate ennustustena, vaid võimalike arengute ja riskihinnangutena.

Mida edasi jälgida?

Jälgida tasub seda, kuidas arenevad AI mudelite võimekus, bioturvalisuse ja kriitilise taristu kaitse, sõjaliste süsteemide kontroll ning AI mõju tööturule ja infokeskkonnale.

Algallikas: The Guardian AI