Nova spletna grožnja za otroke, ki je številni starši ne poznajo
Veliko otrok umetno inteligenco že uporablja skoraj vsak dan. Strokovnjaki pa opozarjajo, da prinaša tudi nova spletna tveganja, ki jih starši pogosto spregledajo.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Večina staršev danes že dobro pozna klasična spletna tveganja. Previdni so pri družbenih omrežjih, opozarjajo na neznance v spletnih igrah, govorijo o nevarnosti deljenja osebnih podatkov in fotografij. Medtem pa je v vsakdanje življenje otrok skoraj neopazno vstopila nova nevarnost, ki spreminja pravila igre. Umetna inteligenca.
Otroci jo uporabljajo za domače naloge, zabavo, ustvarjanje slik, pogovore in iskanje odgovorov. Generativna umetna inteligenca postaja del njihovega vsakdana hitreje, kot ji starši uspejo slediti. Prav zato strokovnjaki opozarjajo, da se pojavljajo tudi nova tveganja, ki jih odrasli pogosto ne prepoznajo pravočasno.
Otrok misli, da se pogovarja s prijateljem
Ena največjih sprememb je dejstvo, da se otroci vse pogosteje pogovarjajo z umetno inteligenco skoraj tako, kot bi se s prijateljem. Klepetalniki, ki uporabljajo napredne jezikovne modele, znajo odgovarjati prijazno, spodbudno in pogosto zelo prepričljivo. Otroku lahko dajejo občutek razumevanja, bližine in podpore.
Prav tu pa se začne vprašanje, ki skrbi številne raziskovalce in organizacije za zaščito otrok.
Otroci, predvsem mlajši in čustveno bolj ranljivi, pogosto še nimajo dovolj razvite sposobnosti kritične presoje, da bi jasno ločili med človeškim odnosom in odzivom računalniškega sistema. Strokovnjaki pri UNICEF-u opozarjajo, da lahko otroci umetni inteligenci pripisujejo čustva, namen ali avtoriteto, ki je v resnici nima. Posledično lahko njene odgovore razumejo kot strokoven nasvet, moralno vodilo ali zaupanja vredno pomoč.
To postane posebej občutljivo pri temah, kot so duševno zdravje, samopodoba, osamljenost ali medvrstniški odnosi. Otrok lahko namesto pogovora z odraslim začne iskati odgovore pri digitalnem sogovorniku, ki ni sposoben resnično razumeti njegove stiske ali prevzeti odgovornosti za posledice nasveta.
Fotografija, ki nikoli ni obstajala, lahko uniči ugled najstnika
Drugo hitro rastoče področje tveganj so lažne podobe in videoposnetki, ustvarjeni z umetno inteligenco.
Tehnologija, ki omogoča ustvarjanje tako imenovanih deepfake vsebin, postaja vse bolj dostopna in enostavna za uporabo. Danes za izdelavo manipulirane fotografije ali videa pogosto ni potrebno posebno tehnično znanje. Dovolj je nekaj fotografij, ki jih najdemo na družbenih omrežjih ali v javno dostopnih profilih.
To odpira vrata novim oblikam spletnega nasilja med mladimi. Fotografije otrok in najstnikov je mogoče digitalno predelati, jim spremeniti obraz, ustvariti lažne prizore ali jih umestiti v popolnoma izmišljene situacije. Takšne vsebine se lahko nato širijo med vrstniki, služijo za poniževanje, izključevanje ali celo izsiljevanje.
Organizacija Europol in številni strokovnjaki za kibernetsko varnost opozarjajo, da umetna inteligenca že spreminja tudi področje spletnih prevar in spolnega izsiljevanja mladoletnih oseb. V nekaterih primerih storilci za manipulacijo sploh ne potrebujejo resničnih intimnih fotografij. Ustvarijo lahko lažne podobe, ki nato postanejo sredstvo grožnje ali psihološkega pritiska.
Umetni inteligenci otroci pogosto povedo več kot staršem
Posebno vprašanje odpira tudi količina podatkov, ki jih otroci nehote delijo z različnimi orodji umetne inteligence.
Ko otrok klepetalniku zaupa svoje ime, starost, šolo, družinske težave, fotografije ali osebna razmišljanja, pogosto ne razume, kam ti podatki odhajajo, kako dolgo se lahko hranijo in kako se uporabljajo. Evropski regulatorji in organizacije za digitalne pravice že več let opozarjajo, da otroci v digitalnem okolju potrebujejo dodatno zaščito zasebnosti.
Mlajši uporabniki lahko umetno inteligenco uporabljajo tudi za vprašanja, ki jih ne upajo postaviti staršem, učiteljem ali prijateljem. Prav zato je pomembno, da razumejo omejitve teh sistemov. Odgovori umetne inteligence niso vedno točni, nevtralni ali primerni za otrokovo starost in življenjsko situacijo.
Nova digitalna pravila, ki jih bodo morale osvojiti tudi družine
To ne pomeni, da bi morali starši umetno inteligenco demonizirati ali jo otrokom preprosto prepovedati. Umetna inteligenca lahko prinaša tudi veliko koristi. Lahko pomaga pri učenju, razlagi snovi, ustvarjalnem razmišljanju ali razvijanju novih veščin.
Ključno vprašanje ni, ali bodo otroci uporabljali ta orodja. Verjetno jih že uporabljajo. Pomembneje je, ali odrasli sploh vedo, kako jih uporabljajo.
Strokovnjaki za digitalno varnost priporočajo, da starši otroke odkrito vprašajo, katera orodja uporabljajo, za kaj jih uporabljajo in ali so se z umetno inteligenco že pogovarjali o osebnih temah. Pomembno je tudi, da otroci razumejo preprosto pravilo. Umetna inteligenca ni prijatelj, terapevt, učitelj ali zaupanja vredna odrasla oseba. Je tehnološko orodje, ki lahko daje koristne odgovore, vendar se lahko tudi moti, zavaja ali ustvarja napačne informacije.
Otroci bodo odraščali v svetu, kjer bo umetna inteligenca postala nekaj običajnega. Prav zato digitalna pismenost ne pomeni več le znanja o geslih, virusih in varnih povezavah. Pomeni tudi razumevanje, kako delujejo algoritmi, kako nastajajo lažne vsebine in zakaj ni vsaka prijazna digitalna komunikacija resnična.
Nova spletna grožnja morda res ne prihaja več skozi sumljivo elektronsko sporočilo. Lahko pride v obliki prijaznega pogovora, popolnoma realistične fotografije ali pametnega odgovora, ki ga otrok brez pomisleka sprejme kot resnico. In prav zato jo je tako težko prepoznati.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
