Sredinca, ki ju ni bilo, in visoke kazni, ki prihajajo
Od 2. avgusta 2026 bo treba deepfake vsebine jasno označiti. Pri vplivnežih in političnih profilih ostaja veliko odprtih vprašanj.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Ko so na dan parlamentarnih volitev stranke prihajale v državni zbor, se je na Instagramu pojavila objava, ki je delovala kot neprijetno razkritje iz povolilnega zakulisja. Na njej naj bi Asta Vrečko in Luka Mesec v medijskem središču nekomu pokazala sredinec.
Prizor je imel vse, kar potrebuje viralna politična objava: znane obraze, napet večer, gesto prezira in dovolj prepričljivo podobo, da se je zdela resnična. Nekateri uporabniki so jo tako tudi razumeli.
Toda objava ni bila pristna. Vrečko je pozneje javno opozorila, da gre za globoki ponaredek (angl. »deepfake«), torej za umetno ustvarjeno oziroma zmanipulirano podobo.
Vplivnež, ki je bil simpatizer takratne opozicije, je posnetka objavil na družbenem omrežju Instagram in ni označil, da sta plod umetne inteligence, niti to, da sta predelani ali na kakršen koli način ponarejeni. Brez takšne oznake pa sta dobili večjo težo. Delovala sta kot pristna posnetka iz samega dogodka.
Primer je hitro presegel okvir običajne spletne provokacije. Objavljen je bil v času, ko je bila politična pozornost usmerjena v državni zbor, zato so ga mnogi dojemali kot del dejanskega povolilnega dogajanja.
Prav v takšnih okoliščinah lahko umetno ustvarjena podoba hitro postane del politične razprave, še preden jo javnost sploh utegne preveriti.
Laž, ki se obnaša kot dokaz
Do nedavnega so politične manipulacije temeljile predvsem na besedah, iztrganih citatih, zavajajočih naslovih ali izbranih posnetkih. Globoki ponaredek to spremeni. Ne ponudi le trditve, ampak prizor, ki je na prvi pogled videti kot resničen dogodek.
Zato takšne objave niso nevarne šele takrat, ko jim verjame večina. Dovolj je, da jih del uporabnikov razume kot pristne, drugi pa jih začnejo deliti kot provokacijo ali potrditev že obstoječega političnega prepričanja.
V nekaj urah lahko umetno ustvarjena podoba postane del javne razprave, tarča pa se mora začeti braniti pred dogodkom, ki ga sploh ni bilo.
Ko šala ni več samo šala
Če vsebina ni jasno označena, meja med satiro in manipulacijo postane nejasna. Uporabnik ne ve nujno, ali gleda poskus humorja, politično provokacijo ali posnetek, ki naj bi dokumentiral resničen dogodek.
Ker je bila podoba umeščena v resničen prostor in objavljena v času, ko so politiki prihajali v državni zbor, je delovala bolj prepričljivo.
Ni bila videti kot izmišljena scena, temveč kot prizor, ki bi se v takšnih okoliščinah lahko dejansko zgodil.
Slovenija je del pravil že zapisala v medijski zakon
Slovenija je del tega vprašanja že uredila pri medijih. ZMed-1 določa, da mora biti vsaka programska vsebina, ki je bila delno ali v celoti ustvarjena s sistemi generativne umetne inteligence, jasno prepoznavna in posebej ločena od drugih programskih vsebin medija.
Označena mora biti z jasnimi in sistematiziranimi oznakami na začetku in koncu vsebine. Za pravilnost navedb in skladnost takšnih vsebin je odgovoren izdajatelj.
Za nadzor nad temi določbami je pri medijih pristojen AKOS, ki nadzira tudi 66. in 67. člen ZMed-1 ter lahko odredi ukrepe za odpravo nepravilnosti in vodi prekrškovne postopke.
Toda ta okvir je ožji od problema, ki ga odpira primer z Instagramom. ZMed-1 sicer pozna vplivneže, vendar določbe o označevanju umetnointeligenčnih programskih vsebin neposredno urejajo predvsem medije.
Širši prostor družbenih omrežij bo zato pomemben predvsem pri evropskem aktu o umetni inteligenci.
Od avgusta obvezno označevanje
Pravni okvir se medtem spreminja. Evropski akt o umetni inteligenci je že sprejet, določbe o označevanju umetno ustvarjenih oziroma predelanih slik, videov in zvoka pa se začnejo uporabljati 2. avgusta 2026.
Ker gre za uredbo EU, se pravila ne bodo prenašala kot direktiva, ampak se bodo uporabljala neposredno v vseh državah članicah. Slovenija pa mora določiti pristojne organe, postopke nadzora in izvedbeni okvir za sankcije.
Od takrat bo pri takšnih vsebinah pomembno predvsem vprašanje, ali je gledalec jasno obveščen, da ne gleda pristnega posnetka. Če bo vsebina ustvarjena ali bistveno predelana z umetno inteligenco in bo videti kot pristen posnetek človeka ali dogodka, bo moralo biti to jasno razkrito.
Pravila se ne bodo nanašala samo na tehnološka podjetja, ki razvijajo takšna orodja. Zadevala bodo tudi tiste, ki jih uporabljajo v javni komunikaciji: medije, politične kampanje, oglaševalce, komunikacijske agencije, upravljavce javnih profilov na družbenih omrežjih in vplivneže.
Pri globokih ponaredkih bo moralo biti gledalcu jasno, da ne gleda običajnega posnetka, ampak umetno ustvarjeno ali manipulirano podobo.
Kdo bo v Sloveniji vodil nadzor, za zdaj še ni javno jasno potrjeno.
Za implementacijo akta zadolženo Ministrstvo za digitalno preobrazbo (ta pa z reorganizacijo vlade spada pod Ministrstvo za notranje zadeve in javno upravo, čigar minister je Franci Matoz), država pa mora določiti pristojni nacionalni organ oziroma organ za nadzor trga.
Kršitev bo lahko prijavil kdorkoli, fizična ali pravna oseba. Sankcije bodo lahko visoke, pri podjetjih tudi do 15 milijonov evrov ali do treh odstotkov svetovnega letnega prometa.
Kdaj je objava vplivneža še zasebna?
Evropska pravila iz obveznosti izvzemajo predvsem posameznike, ki umetno inteligenco uporabljajo izključno zasebno. Pri vplivnežih z velikim dosegom pa je položaj drugačen, saj lahko njihove objave pomenijo del javne ali politične komunikacije.
Pomembni so javnost profila, doseg, politični kontekst ter morebitna korist, ki jo avtor pridobi, na primer večja prepoznavnost, rast občinstva ali krepitev osebne znamke.
Zato bo pri vplivnežih pomembna presoja, ali gre za osebno objavo ali za del javnega nastopanja, s katerim gradijo doseg, prepoznavnost in vpliv.
Če vplivnež objavi umetno ustvarjen ali prirejen posnetek politika, ki deluje kot resničen, bo moral od avgusta 2026 gledalce jasno opozoriti, da gre za vsebino, ustvarjeno ali spremenjeno z umetno inteligenco. Brez takšne oznake lahko nastane pravno tveganje.
Pri presoji bodo pristojni organi upoštevali okoliščine posameznega primera, med drugim doseg objave, namen, politični kontekst, morebitno škodo in morebitne koristi za avtorja.
Vplivneži z velikim občinstvom zato po novih pravilih ne bodo nujno v enakem položaju kot zasebniki, ki vsebino delijo le z omejenim krogom ljudi.
Kdo bo odgovarjal za neoznačene globoke ponaredke?
Mediji v Sloveniji že imajo pravila o označevanju umetnointeligenčnih vsebin, širši prostor družbenih omrežij pa ostaja bolj nejasen. Na družbenih omrežjih se politične podobe širijo najhitreje, uporabniki pa se nanje pogosto odzovejo, še preden preverijo njihov izvor.
Kdo bo odgovoren, če globoki ponaredek objavi vplivnež? Kaj, če ga uporabi politična kampanja? Kaj, če ga pripravi agencija, objavi javni profil, nato pa ga drugi delijo kot dokaz? Bo odločilen doseg, namen, škoda, korist ali to, ali je bila objava umaknjena po opozorilu?
Odgovori na ta vprašanja bodo določili, kako strogo bo Slovenija v praksi izvajala evropska pravila.
Za pojasnila o pristojnem organu, postopkih prijave in konkretnih kaznih za vplivneže, politične stranke, kampanje in pravne osebe smo se obrnili na Ministrstvo za notranje zadeve in javno upravo, pod katerega po novem sodi tudi področje nekdanjega Ministrstva za digitalno preobrazbo.
Na odgovore še čakamo.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
