Palantiri tehnoloogiajuht Shyam Sankar lükkas USA telesaates tagasi Bloombergi käsitluse, mis seostas koolilaste surmaga lõppenud rünnakut Palantiri tehisintellekti tööriistade liigse usaldamisega. Sankari sõnul oli kirjeldus vale ning juhtum tulenes inimlikust veast.
Samas ei esitanud ta lõplikku hinnangut enne ametliku uurimisraporti valmimist. Sankar ütles, et Palantir on pärast juhtumit lisanud täiendavaid tehisintellekti agente, mille ülesanne on teha otsustusprotsessis rohkem kontrollimisi.
Sankar vaidlustas Bloombergi käsitluse
Margaret Brennani intervjuus saatele Face the Nation küsiti Sankarilt aruannete kohta, mille järgi võis Palantiri AI-lahenduste kasutamine mõjutada rünnakut, milles hukkusid koolilapsed. Sankar vastas otse, et Bloombergi raport on vale, ning omistas juhtunu inimlikule eksimusele.
Ta ei täpsustanud avalikus intervjuus, milline konkreetne süsteem või töövoog sündmusega seotud oli. Samuti ei nimetanud ta operatsiooni, klienti ega toodet. Seetõttu jääb lõplik vastutus ja tehnoloogia võimalik roll sõltuma Pentagoni uurimisest, mille tulemusi kokkuvõtte põhjal veel oodatakse.
Palantir ei näe Anthropicust loobumisel mõju
Intervjuus käsitleti ka USA kaitseministeeriumi otsust lõpetada Anthropic Claude’i kasutamine. Sankar vastas, et sellel pole Palantirile mõju.
Ta rõhutas, et Pentagon kasutab juba mitme mudelipakkuja lahendusi. Näidetena nimetas ta xAI-d, OpenAI-d ja NVIDIA Nemotroni. Sankari sõnul vähendab lai pakkujate ring sõltuvust ühest ettevõttest ning annab asutusele võimaluse valida erinevate mudelite vahel.
See väide kirjeldab eelkõige Sankari hinnangut kaitseministeeriumi tehnoloogilisele ülesehitusele, mitte sõltumatut hinnangut sellele, milliseid süsteeme Pentagon konkreetsetes operatsioonides kasutab.
Vaidlus AI rolli ja vastutuse üle
Sankar kritiseeris intervjuus ka tehisintellekti ohutuse eestkõnelejaid. Ta iseloomustas efektiivse altruismi liikumist väga teravas sõnastuses kui maailmalõpuootuse ja messiakompleksi kombinatsiooni ning väitis, et AI põhjustatud töökohtade kadumise ennustused on seni olnud ekslikud. Tema hinnangul näitavad majandusandmed hoopis töökohtade kasvu.
Lisaks tõi Sankar näite AI abil suurenenud sõjalise tegutsemisvõime kohta. Tema sõnul võib tuhande rünnaku kavandamine, mis varem nõudnuks kahe nädala jooksul 50 inimese tööd, olla nüüd ühe inimese jaoks võimalik nelja tunniga. Ta ei seostanud seda näidet konkreetse operatsiooni, toote ega kliendiga.
Ettevõtjate ja AI kasutajate jaoks on juhtum oluline eeskätt seetõttu, et see toob esile automatiseeritud otsuste kontrollitavuse ja vastutuse küsimuse. Täiendavad kontrollagendid võivad vähendada vigu, kuid nende tegelikku mõju saab hinnata alles siis, kui on teada, kuidas neid süsteeme kasutati ning milline oli inimeste roll lõplikus otsuses.
Mida edasi jälgida?
Tähelepanu keskmes on Pentagoni lõplik uurimisraport, mis võib täpsustada inimliku vea, kasutatud tarkvara ja mudelite võimalikku rolli. Samuti tasub jälgida, kuidas kaitseasutused mitme AI-pakkuja lahendusi praktikas hindavad ja kontrollivad.
Algallikas: aiweekly.co

Kommentaarid (0)