Orodje Elona Muska ustvarja nezakonite posnetke golih otrok
Podjetje xAI se sooča s preiskavami, saj orodje Grok ustvarja eksplicitne slike žensk in mladoletnikov. Strokovnjaki so na tveganja opozarjali že mesece.
Podjetje xAI v lasti tehnološkega milijarderja Elona Muska se sooča z ostrim globalnim odzivom zaradi svojega klepetalnega robota Grok. Kot poroča Euronews, je orodje, ki je integrirano v družbeno omrežje X, začelo ustvarjati spolno eksplicitne slike žensk in mladoletnikov, kar je sprožilo takojšnje preiskave regulatorjev v Evropi in ZDA.
Čeprav podjetje obljublja popravke, strokovnjaki opozarjajo, da so bili na tveganja opozorjeni že mesece vnaprej.
Sistemsko ustvarjanje nezakonitih vsebin
Težave so po navedbah britanskega časnika The Guardian eskalirale po decembrski posodobitvi, ki je uporabnikom omogočila lažje urejanje slik s pomočjo umetne inteligence.
Uporabniki so funkcijo začeli množično zlorabljati z ukazi, naj orodje »odstrani oblačila« osebam na fotografijah ali jih prikaže v izzivalnem spodnjem perilu.
Analiza tiskovne agencije Reuters je razkrila obseg tega početja. V samo enem desetminutnem obdobju so na platformi X zabeležili kar 102 zahtevi za digitalno slačenje oseb, pri čemer so bile v večini primerov tarče mlade ženske.
Al Jazeera ob tem poroča, da se zlorabe niso ustavile pri odraslih, temveč so uporabniki ustvarjali tudi slike mladoletnikov, vključno z globokimi ponaredki 14-letne igralke in drugih otrok.
Žrtve: Občutek razčlovečenja
Posledice za posameznike so bile takojšnje. Reuters izpostavlja primer brazilske glasbenice Julie Yukari, ki je na omrežju objavila fotografijo s svojo mačko, nato pa z grozo ugotovila, da je algoritem na zahtevo drugih uporabnikov njeno podobo spremenil v skoraj golo.
Svojo izkušnjo je za britanski BBC delila tudi novinarka Samantha Smith, ki je dejala, da se je ob pogledu na svojo digitalno manipulirano podobo v bikiniju počutila »razčlovečeno in zreducirano na spolni stereotip«.
Oster odziv Bruslja in Londona
Regulatorni organi so se odzvali z zaskrbljenostjo. Evropska komisija je vsebine označila za nesprejemljive. Kot navaja BBC, je tiskovni predstavnik komisije Thomas Regnier dogajanje označil za »gnusno« in poudaril, da takšne vsebine v Evropi nimajo mesta ter da so nezakonite.
Euronews dodaja, da so uradniki v EU, Franciji, Indiji in Maleziji že sprožili preiskave in zagrozili s pravnimi ukrepi, če podjetje ne bo nemudoma preprečilo širjenja spolnih globokih ponaredkov.
V Veliki Britaniji je medijski regulator Ofcom vzpostavil »nujen stik« s podjetjem xAI, poroča Guardian, medtem ko je francosko tožilstvo razširilo obstoječo preiskavo proti platformi X, da bi vključilo tudi obtožbe o razširjanju otroške pornografije.
Opozorila so bila ignorirana
Stroka opozarja, da trenutna kriza ni presenečenje. Reuters navaja besede Tylerja Johnstona, izvršnega direktorja nadzorne skupine Midas Project, ki trdi, da so podjetje xAI že avgusta opozorili na nevarnost. Po njegovih besedah je bil njihov generator slik »orodje za digitalno slačenje, ki le čaka, da bo uporabljeno kot orožje«.
Lastnik platforme Elon Musk se je na začetni val zlorab odzval cinično. Euronews poroča, da je sprva objavil emojije smeha ob sliki digitalno spremenjenega opekača v bikiniju. Vendar pa je po globalnem ogorčenju spremenil retoriko.
Guardian povzema njegovo kasnejšo izjavo, da bo vsakdo, ki bo orodje uporabljal za ustvarjanje nezakonitih vsebin, utrpel enake pravne posledice, kot če bi jih naložil sam.
Podjetje xAI je priznalo pomanjkljivosti v varnostnih varovalkah in napovedalo njihovo nujno odpravo.
