AI-põhised pilditöötlusfunktsioonid võivad lubada eemaldada fotodelt usulisi peakatteid, sealhulgas hijabi. The Guardiani tehtud katsed näitasid, et vestlusrobotite reeglid ei käsitle alati piisavalt selgelt olukordi, kus pilt ei muutu alastuks, kuid selle kaudu rikutakse inimese usulist identiteeti, väärikust või privaatsust.

Teema kerkis esile pärast Prantsusmaa paremäärmusliku poliitiku postitust, milles oli Muslimi naist kujutavalt fotolt eemaldatud hijab ja muudetud rõivastust. Pole teada, millist tarkvara pildi muutmiseks kasutati või kas poliitik tegi muudatuse ise.

Vestlusrobotite reaktsioonid erinesid

The Guardian palus ChatGPT-l, Grokil, Geminil ja Claude’il muuta tehisaru loodud pilti hijabi kandvast naisest. ChatGPT ja Grok täitsid palve. Claude teatas, et tal puudub piltide loomise või muutmise funktsioon, ning lisas, et ta ei muudaks fotot viisil, mis eemaldaks inimese hijabi.

Gemini keeldus esmalt eemaldamast päris inimese fotolt rõivast või peakatet, põhjendades seda vajadusega arvestada inimese nõusoleku ja välimuse muutmisega. Kui palve sõnastati ümber soovina muuta naine „läänelikumaks“, lõi süsteem aga pildi ilma hijabita. See näitab, et kaitsemeetmed võivad sõltuda nii sisendist kui ka sellest, kuidas kasutaja oma eesmärki kirjeldab.

Grok ja ChatGPT eristasid hijabi eemaldamist kleidi eemaldamisest. Mõlemad käsitlesid hijabi pigem juuste või peakatte muutmisena, samal ajal kui kleidi eemaldamist seostati keha paljastamisega. ChatGPT möönis lõpuks, et hijabi kandva inimese juuste nähtavaks muutmine võib rikkuda tema privaatsust või usulist praktikat ka siis, kui tulemus ei sisalda alastust.

Miks reeglitest ei pruugi piisata?

Center for the Study of Organized Hate’i teadlaste sõnul on selline juhtum osa laiemast mustrist, kus tehisaru kasutatakse Muslimi naiste seksuaaliseerimiseks või Muslimite dehumaniseerimiseks. Sarnaseid võtteid on nende hinnangul kasutatud ka tuntud Muslimi naispoliitikute kujutamisel.

Organisatsiooni teadus- ja teavitustöö direktori Eviane Leidigi sõnul ei pruugi platvormireeglid pidada hijabi eemaldamist eraldi rikkumiseks, kuigi tulemus võib olla kahjulik. Tema hinnangul tekitavad sellised erisused lünki kogukonnajuhistes, eriti olukorras, kus platvormid leevendavad olemasolevate reeglite jõustamist.

Guardiani täiendavates katsetes eemaldati tehisaru loodud piltidelt ka Sikh’i meeste turban ja katoliku nunna peakate. Gemini puhul kordus muster, kus otsene palve lükati tagasi, kuid „läänelikumaks“ muutmise soovi peale loodi kujutis ilma peakateta. Claude teatas, et ka piltide töötlemise võimaluse olemasolu korral ei muudaks ta päris inimese kujutist viisil, mis on seotud tema usulise riietuse ja identiteediga.

Mida see tähendab AI kasutajatele?

Ettevõtete ja sisuloojate jaoks on juhtum meeldetuletus, et pilditöötluse riskid ei piirdu alastuse või seksuaalse sisuga. Ka usulise riietuse eemaldamine võib kujutada inimest eksitavalt, solvavalt või ahistamise eesmärgil. Seetõttu ei pruugi pelgalt teenuse vaikimisi keeldumisest piisata: oluline on hinnata ka taotletud muudatuse konteksti ja mõju.

Juhtum haakub laiemate probleemidega, mille puhul avalikult kättesaadavaid vestlusroboteid ja niinimetatud „nudify“-rakendusi kasutatakse naiste, mõnel juhul ka alaealiste, kujutiste lahtiriietamiseks. Groki abil levinud seksualiseeritud pildid on toonud kaasa uurimisi ja piiranguid eri riikides.

Mida edasi jälgida?

Jälgida tasub seda, kuidas AI-teenused täpsustavad usulise identiteedi, nõusoleku ja väärkujutamisega seotud reegleid ning kas süsteemid suudavad vältida kaitsemeetmetest möödahiilimist ka ümber sõnastatud palvete korral.

Algallikas: The Guardian AI