Tehisintellekti valdkonna tuntud teadlased ja suuremate AI-ettevõtete juhid hoiatavad, et tehisintellekti teadus- ja arendustöö automatiseerimine võib vallandada niinimetatud intelligentsiplahvatuse. Nende hinnangul võib see tähendada olukorda, kus AI-süsteemid hakkavad oma arengut kiiresti ise kiirendama ning aastatepikkune tehnoloogiline edasiminek surutakse kuudesse või veel lühemasse ajavahemikku.

Üle 20 autori koostatud raportis kutsutakse valitsusi tegutsema enne, kui selline areng algab. Autorite sõnul võib pärast intelligentsiplahvatuse käivitumist otsustamiseks jäänud aeg kiiresti väheneda.

Mis on intelligentsiplahvatus?

Raportis kirjeldatakse intelligentsiplahvatust kui AI-st lähtuvat järsku kiirenemist AI enda arengus. Keskne mehhanism oleks automatiseeritud AI-uuringute ja -arenduse kasv: süsteemid aitaksid luua paremaid mudeleid, mis omakorda suudaksid veelgi tõhusamalt uusi AI-süsteeme arendada.

Seda protsessi seostatakse sageli mõistega „rekursiivne enesetäiendamine“, kuid raport kasutab laiemalt automatiseeritud AI teadus- ja arendustöö mõistet. Autorite hinnangul võiks ekspertasemel AI-arendus viia selleni, et üks arendaja juhiks tööjõudu, mille võimekus võrduks miljonite tipptasemel inimteadlastega.

Raporti autorite hulka kuuluvad teiste seas tehisintellekti arengus olulist rolli mänginud Geoffrey Hinton ja Yoshua Bengio, samuti Anthropicuga seotud Jack Clark ning OpenAI peateadlane Jakub Pachocki. Tegemist on nende hinnangute ja prognoosidega, mitte kinnitusega, et intelligentsiplahvatus on vältimatult saabumas.

Võimalikud kasud ja riskid

Autorid märgivad, et AI-arenduse järsk kiirenemine võiks tuua kaasa uusi meditsiinilisi läbimurdeid ja tehnoloogilisi edusamme. Samal ajal võivad riskid areneda kiiremini kui nende maandamiseks loodud vastumeetmed.

Raportis tõstetakse esile võimalust, et väga võimekad süsteemid kiirendavad bioloogiliste ja küberohtude tekkimist. Samuti võivad inimesed jääda AI arenduses üha vähem osalema, mistõttu väheneks nende võimalus süsteemide käitumist suunata ja kontrollida. Riigid võiksid niisugust arengut kasutada selleks, et muuta piiratud edumaa näiteks küberruumis otsustavaks eeliseks.

Raport rõhutab siiski, et mõju ja ajakava on ebakindlad. Isegi kiire tarkvaraline areng võib rakendamisel takerduda tarneahelate, erimaterjalide, infrastruktuuri või regulatiivsete nõuete taha. Autorid lisavad, et sama tehnoloogia võiks aidata ka riske kiiremini tuvastada ja leevendada.

Milliseid samme raport soovitab?

Raporti autorid soovitavad valitsustel nõuda AI-ga seotud teadus- ja arendustegevuse kohta läbipaistvaid eduaruandeid ning kaaluda sõltumatute audiitorite kaasamist ettevõtetesse. Lisaks peetakse vajalikuks uurida võimalusi AI arenduse tempo piiramiseks ja teha andmekeskustega koostööd, et teatud arendusprojektide peatamine oleks vajadusel võimalik.

Samuti soovitatakse automatiseeritud AI-arendussüsteemid rangelt isoleerida, et need ei pääseks inimeste kontrolli alt, ning koostada eri stsenaariumide jaoks hädaolukorra plaanid. Raportis mainitud poliitikavalikud on suunatud eelkõige nähtavusele, kontrollitavusele ja reageerimisvõimele.

Miks see on AI kasutajatele oluline?

Ettevõtete ja organisatsioonide jaoks tähendab arutelu seda, et AI kasutuselevõtul ei vaadata enam ainult tootlikkuse kasvu, vaid ka seda, kuidas hinnata süsteemide sõltumatust, auditeeritavust ja peatamise võimalust. Eriti tähtsaks võib muutuda ülevaade sellest, milliseid AI-süsteeme kasutatakse uute mudelite, tarkvara või tööprotsesside arendamisel.

Raporti kohaselt toodab Anthropic juba suure osa oma koodist AI abil ning OpenAI kasutab autonoomseid agente muu hulgas uute mudelite treenimisega seotud töödes. Autorid märgivad, et AI-arenduse automatiseerimine ei ole nende hinnangul veel jõudnud intelligentsiplahvatuse käivitamiseks vajalikule tasemele, kuid uuemate süsteemide areng võib sellele läheneda.

Mida edasi jälgida?

Jälgida tasub AI-süsteemide võimekuse muutumist teadus- ja arendustöös, sõltumatute hindamiste kasutamist ning seda, milliseid läbipaistvuse, isolatsiooni ja hädaolukorra meetmeid ettevõtted ja valitsused tegelikult rakendavad.

Algallikas: The Guardian AI