Profimedia

Spletna platforma Tiktok ima več kot milijardo dnevnih uporabnikov, ki pa so vse pogosteje izpostavljeni vsebini, ustvarjeni s pomočjo orodij umetne inteligence (UI). Dokler je ta kot takšna tudi označena in so objave v skladu z določenimi pravili, težav načeloma ne bi smelo biti, a kaj, ko ustvarjalci teh vsebin uporabnikom vse pogosteje zamolčijo, da objave niso resnične.

Dodatno skrb povzroča dejstvo, da tovrstne vsebine niso nujno ustvarjene za zabavo, ampak tudi za širjenje laži in sovraštva, uporabniki pa so jim vse pogosteje izpostavljeni ne da bi vedeli, da gre za umetno ustvarjeno vsebino.

V mesecu dni do 4,5 milijarde ogledov

Raziskovalci neprofitne organizacije AI Forensics so tako odkrili, da je na Tiktoku na stotine računov, ki ustvarijo na tisoče objav, kreiranih s pomočjo UI. Natančneje - v obdobju meseca dni je 354 računov, osredotočenih predvsem na vsebino, ustvarjeno s pomočjo UI, ustvarilo 43.000 objav ter z njimi zabeležilo 4,5 milijarde ogledov, je ugotovitve raziskovalcev povzel Guardian.

Ugotovili so, da je kar nekaj teh računov poskušalo pretentati Tiktokov algoritem, ki odloča, katero vsebino uporabniki vidijo. Objavili so veliko število vsebin z upanjem, da bodo te postale viralne, posamezni računi – večina jih je bila ustvarjenih v začetku leta - pa so imeli tudi do 70 objav na dan ali so jih celo objavili hkrati, kar kaže na to, da so avtomatizirani.

Objave, ustvarjene s pomočjo UI, vključujejo tudi vsebino, ki je uperjena proti priseljencem, pogosto tudi vsebino, ki objektivizira žensko telo. Te »UI-ženske« so vedno stereotipno privlačne, pogosto v privlačnih oblačilih ali z globokimi dekolteji, v objavah so prikazana tudi dekleta, ki so videti kot mladoletnice, so pojasnili.  Določene vsebine so predstavljene kot lažne novice, pri čemer so nekatere celo nosile oznako znanih medijskih hiš, kot na primer Sky news.

Slovenija

Anksiozni vse pogosteje že otroci ob koncu prve triade osnovne šole

Označen je majhen delež objav

Minuli mesec so pri Tiktoku objavili, poroča Guardian, da je na platformi vsaj 1,3 milijarde objav, generiranih z UI. A glede na to, da je vsak dan na platformo naloženih več kot 100 milijon objav, to pomeni,  da nosi oznako »z UI ustvarjena vsebina« le majhen delež. Tiktok uporabnikom sicer omogoča, da sami omejijo število objav, ustvarjenih s pomočjo z UI.

Po ugotovitvah AI Forensics polovica vsebine ni bila primerno označena, kar zagotovo poveča možnost zavajanja uporabnikov, poleg tega so se računi izogibali moderatorjem Tiktoka in objavljali vsebino, ki je pogoji platforme ne dovoljujejo. Številni računi so bili medtem sicer že izbrisani, nekatere naslove pa je Tiktok ukinil.

Pri najhitreje rastoči platformi na svetu so pojasnili, da škodljivo vsebino, ustvarjeno s pomočjo UI, odstranjujejo, blokirajo na milijone tako imenovanih bot računov (ki samodejno izvajajo obsežne, ponavljajoče se naloge), vlagajo v tehnologijo za označevanje vsebin, ustvarjenih z UI, ter hkrati opremljajo uporabnike z orodji in jih izobražujejo, kako naj prepoznajo tovrstno vsebino, kako naj jo uporabljajo.

Na seznamu tudi Reddit

Avstralija z decembrom prepoveduje družabna omrežja otrokom

Meja med avtentično in UI-generirano vsebino vse bolj zabrisana

Tiktok sicer ni edina platforma, kjer se vsebina, ustvarjena s pomočjo UI, nezadržno širi. Tako je Guradian že avgusta poročal, da prikazuje eden od vsakih deset najhitreje rastočih youtube kanalov zgolj vsebino, ustvarjeno z UI, te je vedno več tudi na Instagramu.

Gre za to, da se vsebina, ustvarjena s pomočjo UI, vse bolj integrira v različne platforme in širši viralni ekosistem. Meja med avtentično vsebino, ki jo je ustvaril človek, in vsebino, ki jo generira UI, je vse bolj zabrisana in pred uporabniki je vse več vsebine, ustvarjene z UI.

Raziskovalci so pozdravili odločitev Tiktoka, da lahko uporabnik omeji količino vsebine, generirane z uporabo UI, a dodali, da je hkrati nujno potrebno izboljšati označevanje tovrstne vsebine. Kot so dodali, bi lahko pri Tiktoku razmislili tudi o tem, da povsem ločijo vsebino, generirano z UI, od tiste, ki jo ustvari človek.