Ühendkuningriigi siseministeerium kasutab tehisintellekti mitmes immigratsiooni ja piirikontrolliga seotud tegevuses, kuid selle rakendamise kohta on avalikult vähe teavet, väidab õigusteühendus Open Rights Group (ORG). Organisatsiooni raporti järgi võib tehnoloogia mõjutada nii varjupaigataotlejate andmete töötlemist kui ka juhtumite prioriseerimist.

Raport „Automated Discrimination: Unpacking the Digital Hostile Environment“ hoiatab, et tehisintellekt võib muuta keerulised inimeste lood andmepunktideks ning korrata ühiskonnas juba olemasolevaid eelarvamusi. Ühendkuningriigi siseministeerium lükkab samal ajal tagasi väite, et tehisintellekt asendaks inimotsustajaid.

AI kasutus ulatub vanuse hindamisest piirikontrollini

ORG kogutud info põhineb siseministeeriumi piiratud avalikustamistel, teabenõuetel ja parlamendiliikmete küsimustel. Raporti järgi kasutatakse või katsetatakse tehisintellekti muu hulgas varjupaigataotlejate vanuse hindamisel, võimalike fiktiivabielude tuvastamisel ning uute saabujate telefonide sisu kontrollimisel.

Piiride jälgimisel nimetab raport otseülekandega näotuvastust ning tehisintellektil põhinevaid droone ja satelliite. Tehnoloogiat kasutatakse väidetavalt ka varjupaigaintervjuude ja riikide olukorda käsitleva info kokkuvõtmiseks. Seda materjali võidakse kasutada intervjuude käigus tõendusmaterjalina.

Lisaks viitab raport tööriistale Identify and Prioritise Immigration Cases ehk Ipic, mida kasutatakse juhtumite prioriseerimiseks ja hindamiseks. ORG peab selle toimimist läbipaistmatuks ning leiab, et selliste süsteemide mõju võib olla eriti suur inimestele, kellel on menetluses vähe võimalusi otsuseid mõjutada.

Peamine kriitika puudutab läbipaistvust ja vastutust

Open Rights Groupi hinnangul on tehisintellekti kasutuselevõttu saatnud peaaegu täielik saladus. Organisatsiooni sõnul on ametnikud teabenõuetele vastates korduvalt viidanud riiklikule julgeolekule ning jätnud osa teabest avalikustamata või redigeerinud seda.

Raport seab kahtluse alla eelduse, et tehisintellekt on automaatselt neutraalne ja täpne. ORG väidab, et süsteemid võivad võimendada diskrimineerivaid mustreid, eriti juhul, kui neid rakendatakse poliitilises keskkonnas, kus immigratsiooni piiramine on oluline eesmärk.

Raportil on parlamendis erakondadeülene toetus. Töö autorid kutsuvad valitsust üles kehtestama rangemaid reegleid, keelama demokraatiat ja inimõigusi ohustavad kasutusviisid ning looma valitsuse AI-tööriistade avaliku registri. Samuti soovitakse tugevamaid teabevabaduse reegleid ja kitsamat riikliku julgeoleku määratlust.

Ministeerium rõhutab inimeste rolli otsustes

Ühendkuningriigi siseministeeriumi pressiesindaja sõnul on tehisintellekt üks piirikaitses kasutatavatest tööriistadest ega asenda inimotsustajaid. Ministeeriumi väitel teevad varjupaigaotsuseid väljaõppe saanud ametnikud ning AI aitab neil navigeerida intervjuude salvestistes ja poliitikainfos.

Pressiesindaja kinnitas, et neid tööriistu ei tohi kasutada iseseisvalt ning need ei tee varjupaigataotluste kohta otsuseid. Ministeerium ütles ka, et jälgib süsteemide toimimist koos seniste kvaliteedikontrolli protsessidega ning on lubanud avaldada nende kasutuselevõtu kohta uuendatud hindamisi.

Teema on oluline laiemalt kõigile organisatsioonidele, kes kasutavad tehisintellekti inimeste õigusi, teenuseid või võimalusi mõjutavates protsessides. Ühendkuningriigi juhtum näitab, et lisaks tehnilisele täpsusele tuleb hinnata ka süsteemi läbipaistvust, otsuste vaidlustatavust ja vastutuse jaotust inimese ning tarkvara vahel.

Mida edasi jälgida?

Jälgida tasub Ühendkuningriigi siseministeeriumi lubatud hindamiste avaldamist, teavet kasutatavate tööriistade kohta ning seda, kas valitsus vastab raporti üleskutsetele läbipaistvuse, regulatsiooni ja inimõiguste kaitse osas.

Algallikas: The Guardian AI