Tehisintellekti loodud ebatäpne luureinfo viis USA sõjaväe väidetavalt olukorrani, kus Hiina laeva peatamine oleks võinud vallandada kahe riigi vahel tõsise vastasseisu. CNN-i kajastatud juhtumi järgi sisaldas raport valeväiteid Hiina laeva kohta, kuid jõudis enne põhjalikumat kontrolli mõjutada operatiivseid plaane.

Samal ajal on USA meedias levinud teated, et president Donald Trump võib teha Hiinale ettepaneku luua tehisintellekti puudutav infotelefon. Algallikas seostab seda võimalikku sammu laiemalt vajadusega vähendada AI kasutamisest tekkivaid riske, kuid otsest seost konkreetse juhtumiga ei ole kinnitatud.

Kontrollimata raport jõudis sõjalisse otsustusprotsessi

CNN-i andmetel kirjeldas USA sõjaväe sees liikunud raport Hiina laeva, mis väidetavalt vedas Lähis-Idas tuumarelvaprogrammiga seotud komponente. Raport tekitas viivitamata häire ning sõjaväes alustati ettevalmistusi laeva pealtkuulamiseks ja pardaleminekuks.

Alles enne kavandatud operatsiooni uurisid ametnikud raportit põhjalikumalt. Siis ilmnes, et erioperatsioonide väejuhatuse analüütiku koostatud materjal oli valminud tehisintellekti abiga ning allika hinnangul täielikult vale. CNN-i käsitluses võis selline tegevus viia USA ja Hiina relvastatud konfliktini, sest Hiina laeva vastu suunatud operatsioon oleks võinud kiiresti eskaleeruda.

AI kasutamine ei asenda kontrolli

Juhtum tõstab esile niinimetatud AI-hallutsinatsioonide probleemi: süsteem võib esitada veenvalt kõlava, kuid tegelikkusele mittevastava info. Risk suureneb siis, kui tehisintellekti väljund liigub otse otsusteni ilma sõltumatu kontrolli, allikate võrdlemise ja selge vastutuseta.

Algallikas seob sama mure ka ettevõtete, veebipõhise otsingu ja teadustööga. Ehkki nende valdkondade tagajärjed erinevad sõjalisest otsustusest, on põhimõte sarnane: AI loodud vastust ei saa automaatselt käsitleda kontrollitud faktina.

Miks see on oluline AI kasutajatele?

Ettevõtjatele ja juhtidele on juhtum meeldetuletus, et AI kasutuselevõtt peaks hõlmama ka töötajate oskust tulemusi hinnata. Eriti tundlikes protsessides tuleb määratleda, milliseid otsuseid võib AI toetada, millal on vajalik inimese kinnitus ning kuidas väiteid algallikatest üle kontrollida.

Üksnes tööriistade kasutusele võtmine ei lahenda usaldusväärsuse küsimust. Vajalikud on ka protseduurid, mis aitavad tuvastada ebatäpsusi enne, kui need mõjutavad julgeolekut, äritegevust või suhteid teiste osapooltega.

Mida edasi jälgida?

Jälgida tasub, kas USA ja Hiina vahelise võimaliku AI-infotelefoni ettepanek saab ametliku kuju ning milliseid kontrollimehhanisme riigid ja organisatsioonid generatiivse AI kasutamisel kehtestavad.

Algallikas: Reddit Artificial