Ste že kdaj preizkušali aplikacije, kjer svoj obraz nalepite superjunaku iz filma in namesto njega odigrate kultni prizor? Ali pa menjavali obraze z domačimi? Morda je kak tak video prišel do vas po družbenih omrežjih ali elektronski pošti. Zabavno je. Kako pa bi reagirali, če bi vam prijatelj poslal posnetek, na katerem smrtno resni predsednik vlade razlaga, da je Evropski seizmološki center Sloveniji v prihodnjih dneh napovedal rušilen potres? Kaj bi storili, če bi Joe Biden poslal svetu nujno opozorilo, da je Rusija sprožila jedrski napad na Ukrajino? Takšne posnetke je s sodobno tehnologijo preprosto ponarediti. Povzročijo pa lahko nepredstavljivo škodo.
Preprosto razloženo, so globoki ponaredki slike ter zvočni in videoposnetki narejeni s pomočjo umetne inteligence oziroma tehnologije globokega učenja, na katerih ljudje prepričljivo govorijo ali počnejo stvari, ki jih nikoli niso, ali pa prikazujejo ljudi in situacije, ki nikoli niso obstajali. Ti posnetki delujejo izredno pristni, čeprav so popolnoma lažni. Globoke ponaredke je mogoče ustvariti z različnimi tehnikami, vključno z algoritmi strojnega učenja, programsko opremo za obdelavo slik in videa ter tehnologijo za prepoznavanje obraza. Z analizo in manipuliranjem obstoječih slik in posnetkov lahko algoritem globokega ponarejanja ustvari novo vsebino, ki je dovolj prepričljiva, da gledalce zavede in verjamejo, da je resnična.
Še težje bomo vedeli, kaj je res in kaj ne
Globoki ponaredki so uporabni marsikje. V filmski industriji jih uporabljajo za ustvarjanje realističnih likov ali za »oživitev« pokojnih igralcev. Tako so v videoigri posthumno uporabili Brucea Leeja, na primer. So si pa s tem dejanjem prislužili tožbo njegovih naslednikov, ki jim to ni bilo povšeči. Policija je, denimo, pri svojem delu že uporabila lažen video pogrešane osebe, da bi jo javnost lažje prepoznala. V spletnih trgovinah lahko z tehnologijo globokih ponaredkov kupci pomerjajo oblačila v virtualnih garderobah ali pa obiščejo muzej. Z globokimi ponaredki usposabljajo reševalce, medicinsko osebje, pilote in vojake, saj z njimi lahko ustvarijo realistična virtualna okolja. Na primer simulacijo pristanka letala v hudem neurju ali simulacijo okvare med letom. Globoki ponaredki postajajo tudi priljubljeno orodje oglaševalcev. Z njimi ustvarjajo posameznim skupinam potrošnikov prilagojena sporočila, ki se spreminjajo glede na lokacijo gledalca, zgodovino brskanja po spletu in oglase, ki jih je kliknili kdaj prej. Zanimivo kampanjo ozaveščanja, poimenovano Globoko sočutje, so pripravili na univerzi MIT v sodelovanju z Unicefom, in sicer so s pomočjo globokih ponaredkov razdejanje iz sirskega mesta Homs na fotografijah prenesli v ameriški Boston, da bi se ljudje lažje poistovetili z grozotami vojne.
Temna stran globokih ponaredkov
Kako zelo so globoki ponaredki uporabni v industriji zabave in videoigrah, verjetno ni treba posebej razlagati, prav pridejo pa tudi v politiki. Ne le za simulacijo prepričljivih govorov, tudi za umazane igre. Ni boljšega za diskreditacijo nasprotnika kot ponarejen posnetek, ki zbudi zgražanje javnosti, naj bo v zvoku ali sliki. Tu pa preidemo na temno stran globokih ponaredkov, ki je zelo, ZELO skrb vzbujajoča. S tehnologijo globokih ponaredkov namreč lahko vsakega »pripravimo«, da počne ali reče kar koli. To je, med drugim, doletelo Nancy Pelosi, eno najvidnejših predstavnic ameriške demokratske stranke. Na spletu se je širil posnetek, na katerem vidno vinjena nerazločno momlja. Greta Thunberg je v globokem ponaredku zanikala obstoj klimatskih sprememb, ustanovitelj Tesle Elon Musk je oglaševal poslovno goljufijo, ukrajinski predsednik Volodomir Zelenski pa je svojim vojakom ukazal, naj se predajo.
Zlonamerna uporaba globokih ponaredkov praktično ne pozna meja. To tehnologijo globokega ponarejanja lahko uporabijo za ustvarjanje lažne identitete, lažnih bančnih računov ali potnih listov. S ponaredki govora vodilnih so bila za milijone oškodovana mnoga podjetja, ko je »direktor« po telefonu naročil takojšnje nakazilo denarja na določen račun, na primer.
Z lažnimi fotografijami in posnetki lahko vsakogar izmed nas nadlegujejo in izsiljujejo. Z njimi se lahko diskreditira posameznika ali celotne družbene skupine. Lahko se jih predloži na sodišču kot lažni dokaz, z njimi se lahko spodbuja nasilje. Lažne novice s pomočjo globokih ponaredkov dobijo mnogo ostrejše kremplje in zobe. Tako veliko lažje vodijo v politično nestabilnost in družbeni razkol. Vedeti, kaj je res in kaj ne, pa v času globokih ponaredkov praktično ne bo več mogoče.
Morda največ škode navadnemu človeku, praviloma ženskam, so globoki ponaredki doslej naredili z najbolj pritlehnim in obsojanja vrednim pristopom – maščevalno pornografijo. Pornografski posnetki, ki prikazujejo zvezdnice in zvezdnike v vseh mogočih scenarijih in kombinacijah, niso nič novega, krožijo že kar nekaj let. S tem ko tehnologija napreduje in lahko posnetke in fotografije ponaredi že skoraj kdor koli, pa je tovrstna zloraba dobila krila. Ocenjujejo, da gre število obrazov navadnih žensk, ki jih je nekdo v svoje veselje ali iz maščevalnosti nalepil na pornografske prizore, že v sto tisoče. Že pomisliti, da si lahko nekdo ustvari pornič z vašim obrazom za lastno uporabo, je skrajno neprijetno. Pa si predstavljajte, da ga pošlje vašemu možu, šefu ali objavi na družbenih omrežjih?! Govorimo o uničenih življenjih. Zahteve po regulaciji in kaznovanju ustvarjalcev takšne pornografije so zato vse glasnejše.
Kako se boriti proti globokim ponaredkom? Več o tem pa si lahko preberete v reviji Jana, št. 10, 7. 03. 2023.
