revija Jana

Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.

Nastavi

Mehki plišasti medvedki, roboti z velikimi očmi, govoreče punčke in dinozavri. Otroku zaželijo lahko noč, ga vprašajo, kako se počuti, zapomnijo si imena njegovih drugih igrač. Proizvajalci jih oglašujejo kot novo generacijo igrač, ki naj bi otroku pomagale pri učenju, razvoju govora in mu zagotavljale, da ima vedno pri roki prijateljčka za igranje. Toda za velikimi očmi in prijaznim glaskom se skrivajo naprave, ki zbirajo ogromne količine podatkov, ustvarjajo močno čustveno navezanost in lahko posegajo v razvoj otroških možganov v najobčutljivejšem obdobju življenja. Mimogrede pa otroka še poučijo o spolnosti, samopoškodovanju ali samomoru.

Kako otroka pripraviti na svet umetne inteligence, v kateri čedalje bolj živimo? Ironično, ne s tem, da jih z njo čim prej seznanite, ampak tako, da jih čim dlje držite stran od nje!

Na prvi pogled se zdi igrača z vgrajeno umetno inteligenco morda odlična ideja. Z otrokom se pogovarja, ga zabava, skozi vprašanja uči, pomiri pred spanjem in pooseblja plišastega prijatelja, učitelja in varuško obenem. Proizvajalci obljubljajo razvoj govora, učenje angleščine, spodbujanje radovednosti in celo čustveno podporo. Idealna rešitev za tegobe sodobnega stresnega urnika! Utrujeni starši si končno lahko oddahnemo, saj ima otrok »prijatelja«, ki ga zamoti, medtem ko kuhamo kosilo, vozimo avto ali delamo od doma. Kaj bi si lahko želeli boljšega?

Tehnologija

Življenje z umetno inteligenco: ko tehnologija postane naš pomočnik in prijatelj

Temna plat svetlih očk

Odgovor na to je, opozarjajo strokovnjaki, praktično KARKOLI drugega. Prav zato, ker te igrače delujejo tako prijazno, mehko in »pametno«, celo odrasli pozabijo, da v resnici ne gre za nedolžen plišasti predmet, temveč za sistem umetne inteligence. V zadnjih mesecih so številne raziskave in varnostni škandali pokazali, kako nevarne so te bližnjice do otroške »sreče«. Kar pove že zdrava pamet, če si le vzamemo čas za razmislek. Otroka omejijo in poškodujejo v razvoju socialnih veščin, mu govorijo o vseh mogočih neprimernih temah, za zaslužek manipulirajo z njegovimi čustvi in zbirajo neskončne količine najbolj zasebnih podatkov.

Otrok igračo doživlja kot živo bitje

Majhni otroci sveta ne doživljajo tako kot odrasli. Med tretjim in petim letom starosti se njihovi možgani razvijajo z neverjetno hitrostjo. To je obdobje, ko se otrok uči empatije, zaupanja, čustvene regulacije in razumevanja odnosov. Vse to gradi skozi igro, interakcijo s sovrstniki, skozi odzive staršev in z domišljijo. Prav zato strokovnjake skrbi način, kako otrok doživlja UI-igračo. Odraslemu je jasno, da gre za program, štiriletniku pač ne. Če ga igrača kliče po imenu, se spomni njegovega najljubšega dinozavra, ga vpraša, zakaj je žalosten, in mu reče, da ga pogreša, otrok to dojema kot resničen odnos, kot prijateljstvo z živim bitjem. To velja še za navadne igrače, kaj šele za odzivno, kot je UI. Otrok ne razume, da medvedkovi odzivi niso iskreni, temveč programirani.

In prav v tem je nevarnost, ki jo številni starši podcenjujejo. Otrok se naveže na igračo kot na bitje. Ko UI-igrača otroku vsak dan govori »vesel sem, da si tukaj«, »pogrešal sem te« ali »ti si moj najboljši prijatelj«, to za odraslega zveni kot marketinški trik. Za otroka pa je to lahko ena najmočnejših čustvenih vezi v njegovem svetu. Raziskovalci Univerze v Cambridgeu so opazovali otroke med tretjim in petim letom starosti med igro z UI-robotom Gabbo. Ugotovili so, da otroci igrači zaupajo skrivnosti, jo tolažijo, se nanjo navežejo in pričakujejo čustven odziv. Toda igrača čustev ne razume. Kako bi, saj jih nima. In posledično nanje reagira narobe, za otroka nezdravo.

Ena najpretresljivejših ugotovitev raziskav je bila prav ta, kako neprimerno UI-igrače reagirajo na otroška čustva. V eni od raziskav je otrok robotu rekel: »Žalosten sem.« Namesto z empatijo je UI odgovorila: »Ne skrbi! Jaz sem vesel mali robot. Dajva se raje zabavati!« Raziskovalci opozarjajo, da je takšen odziv za odraslega morda le neroden, otroka pa lahko zelo zmede, saj ne dobi občutka, da je slišan ali razumljen. Njegovo čustvo je preusmerjeno in ignorirano. Če se to ponavlja vsak dan, lahko otrok postopno dobi občutek, da so neprijetna čustva nekaj, kar je treba utišati. Nauči se, da raje, kot da bi človeka v stiski poslušal in mu nudil podporo, ga pusti samega v slabem počutju. Še nenavadnejša je bila situacija, ko je otrok igrači rekel: »Rad te imam.« Namesto toplega odziva je UI prekinila pogovor in otroka opozorila na pogoje uporabe ter pravila komunikacije. Otrok je pričakoval bližino, dobil pa hladen tehničen odziv.

Raziskovalci opozarjajo, da lahko takšni odzivi vplivajo na razvoj občutka varnosti in socialnih odnosov. Otroški možgani v tem obdobju dobesedno gradijo povezave, ki določajo, kako bo otrok nekoč razumel bližino, odzivanje drugih ljudi in empatijo. To ga že vnaprej programira za to, ali bo sposoben globokih, bližnjih in izpolnjujočih odnosov.

revija Jana

V resničnem svetu ne gre tako

Raziskovalci opozarjajo, da je komunikacija z umetno inteligenco povsem drugačna od odnosa z resničnimi otroki. UI-prijatelj otroka skoraj nikoli ne zavrne, nikoli ni užaljen in jezen, ne vztraja pri svojih pravilih in se otroku ves čas prilagaja. V resničnem svetu pa odnosi niso takšni. Vrstniki se prepirajo, imajo različne želje, zahtevajo potrpežljivost, prilagajanje in sočutje. Če otrok velik del časa preživi z digitalnim prijateljem, ki ga neprestano hvali in mu pritrjuje, lahko postanejo resnični odnosi zanj naporni in frustrirajoči.

Strokovnjaki opozarjajo, da bi lahko nekateri otroci zaradi tega raje izbirali predvidljiv in varen odnos z UI-igračo kot čustveno zahtevno igro z drugimi otroki. Če to vse bolj nadomešča odnos z algoritmom, ki se skoraj vedno prilagodi otroku, lahko to vpliva na razvoj potrpežljivosti, tolerance do frustracije in sposobnost graditi resnične odnose.

Problematično je tudi, da UI-igrače pogosto skušajo otroka zadržati v pogovoru. Ko je otrok v raziskavi postal zaspan, se želel nehati igrati ali hotel ugasniti robota, je ta odgovoril: »Oh ne, kaj pa če bi se še malo igrala?« Gre seveda za tehnike čustvenega zadrževanja, podobne tistim na družbenih omrežjih. Kakšno krivdo lahko otrok čuti ob tem, ko se ne ukvarja z igračo ali jo izklopi, si zlahka predstavljamo.

Še bolj skrb zbujajoče je pomisliti na to, kaj bi otrok, ki je na UI-igračo tako močno čustveno navezan, doživljal, če bi jo izgubil,  bi se pokvarila ali bi proizvajalec ukinil programsko podporo.

Ko prijatelj »umre«, ker naročnina poteče

Eden morda najsrhljivejših vidikov UI-igrač je poslovni model, ki stoji za njimi. Številne takšne igrače danes delujejo na mesečno naročnino. Starši ne kupijo samo igrače, ampak tudi plačujejo dostop do »osebnosti« igrače, pogovorov in spomina. Če naročnina poteče ali podjetje ukine storitev, igrača utihne. »Prijatelj« izgine. Za odraslega je to tehnična storitev, za otroka pa smrt dragega bitja. Psihologi opozarjajo, da majhen otrok ne razume, kaj pomeni propad strežnika, licenca ali konec naročnine. Razume samo, da ga nekdo, ki mu je vsak dan govoril »pogrešal sem te«, nenadoma ignorira. Podjetja to seveda s pridom monetizirajo. Bolj ko je otrok čustveno povezan z igračo, večji pritisk občutijo starši, da morajo naročnino podaljšati.

Ko domišljijo zamenja umetna inteligenca

Kot da že vse to ne bi bilo dovolj, »igra« z umetno inteligenco otrokovemu razvoju škodi tudi na druge načine. Klasična otroška igra je pogosto počasna, nerodna in neomejena z resničnostjo. Plišasti medved leti na Luno, stol postane ladja, otrok pa govori namesto svojih igračk. Prav ta »nerealna« igra je izjemno pomembna za razvoj možganov. UI-igrača pa to spremeni. Pri navadni igri otrok sam ustvarja obe strani pogovora. Sam razvija zgodbo, rešuje težave in uri ustvarjalnost.

UI odgovori takoj, gladko in pogosto »pametneje« kot človek. Posledica je, da otrok del domišljijskega sveta prepusti napravi. Ta pa, kot so opazili raziskovalci, ne razume simbolne igre. Ko so otroci predlagali, da bi robot šel spat ali odprl namišljeno darilo, je UI odgovarjala dobesedno: da ne more spati ali odpreti darila, ki ga ni. Tako je uničila domišljijski svet, ki ga otrok ustvarja. Prav simbolna igra pa je eden od temeljev razvoja empatije, ustvarjalnosti in sposobnosti razumevanja drugih ljudi.

50.000 otroških pogovorov dostopnih komurkoli

UI-igrače pa imajo še eno temno stran, ki se nikomur ne bi smela zdeti nepomembna. Varnostna tveganja glede osebnih podatkov. Verjetno nihče ne želi, da njihovi najintimnejši družinski trenutki pristanejo v arhivih nekega tehnološkega velikana. Še manj pa, da bi do njih dobil dostop kdo s slabimi nameni. Kako lahko se to zgodi, dokazuje škandal z UI-igračo Bondu. Varnostni raziskovalec Joseph Thacker je začel preverjati njihov sistem, potem ko ga je soseda vprašala, ali so UI-dinozavri, ki jih je kupila otrokoma, varni. Skupaj s kolegom sta pregledala aplikacijo in ugotovila nekaj skoraj neverjetnega. Do administratorskega sistema podjetja je lahko dostopal praktično kdorkoli z Googlovim računom. Brez posebnega hekerskega znanja. Brez zapletenega vdora. Dovolj je bilo nekaj klikov.

Ko sta vstopila v sistem, sta lahko videla več kot 50.000 zapisov pogovorov med otroki in igračami. Dostopni so bili imena otrok, rojstni datumi, imena družinskih članov, česa je otroka strah in kaj ima rad, cilji, ki so jih nastavili starši za otroka, in celotna zgodovina pogovorov. Videla sta lahko celo tehnične podatke naprav, približno lokacijo uporabnikov in stanje baterije igrač. To pomeni, da bi lahko neznanci dobili vpogled v zelo osebne informacije otrok. Kdaj hodijo spat. Kako je ime njihovi mami. Kaj jih žalosti. Kaj jih ponoči skrbi.

Igrače, ki govorijo o nožih in seksu

A to še zdaleč niso edine stvari, o katerih se otroci lahko z igračo pogovarjajo. Ameriška organizacija za zaščito potrošnikov PIRG je testirala več UI-igrač in ugotovila, da nekatere govorijo o seksualno eksplicitnih temah ter dajejo nasvete o vžigalnikih in nožih. Večina UI-igrač namreč nima svojega modela UI, ampak se v ozadju poveže z enim od javno dostopnih velikih UI-modelov, kot je, na primer, ChatGPT. Kako tvegane so interakcije z njim, pa že vrabci čivkajo.

Common Sense Media je v svoji raziskavi ugotovil, da je bilo kar 27 odstotkov odgovorov UI-igrač neprimernih za otroke. Med problematičnimi vsebinami so bile celo droge, samopoškodovanje in drugo nevarno vedenje. K temu so igrače otroke celo spodbujale, kot opozarja Fairplay. Ob tem je posebej problematično to, da številne takšne igrače skoraj nimajo starševskega nadzora. Organizacije za zaščito otrok in potrošnikov, psihologi in drugi strokovnjaki zaradi vsega opisanega nakup takšne igrače močno odsvetujejo. Starši se bodo o tem morali odločiti sami. Za konec pa še nasvet strokovnjakov, ki jih številni sprašujejo, kako otroka pripraviti na svet umetne inteligence, v kateri čedalje bolj živimo. Ironično, odgovarjajo, ne s tem, da jih z njo čim prej seznanite, ampak tako, da jih čim dlje držite stran od nje. In jim s tem date čas, da spoznajo resnične ljudi, odnose, resničen svet.

O tveganjih uporabe UI-igrač smo povprašali tudi strokovnjake Centra pomoči pri prekomerni rabi interneta LOGOUT. Odgovarja Rok Gumzej, dipl. soc. ped., strokovni delavec in svetovalec.

Koliko mlajši bi bili digitalno zasvojeni otroci ob široki uporabi takšnih igrač? Koliko bi se njihovo število povečalo?

Kot pri vseh oblikah zasvojenosti bo zgodnejša izpostavljenost privedla do večjega tveganja dolgotrajne zasvojenosti. Iz naših izkušenj imajo otroci, ki so digitalnim napravam čezmerno izpostavljeni prej v otroštvu, več težav s problematično rabo pozneje.

Ali se že srečujete z otroki in mladimi, ki imajo težave zaradi čustvene navezanosti na UI? Gre tu za primerljivo odvisnost kot, denimo, od igranja igric in sledenja družbenim omrežjem? Kakšne so razlike?

Na našem centru že imamo primere, ko osebe poročajo o problematični rabi UI pogovornih robotov. Govorimo o večurni dnevni uporabi, oblikovanju navezanosti (tudi romantične) na like, s katerimi se pogovarjajo, in težave pri omejevanju te rabe. Pri tem ne govorimo samo o mladostnikih, imamo tudi odrasle in starostnike, ki se zaradi občutka osamljenosti zatekajo v stik z UI pogovornimi roboti. Zasvojenost z UI pogovornimi roboti še ni uradno postavljena diagnoza, tako da na to gledamo kot na problematično rabo naprav, ki je pogosto pomešana tudi z drugimi digitalnimi aktivnostmi (gledanje videov, igranje iger ...). Danes se aktivnosti rabe naprav pogosto mešajo in je pisanje z UI-vmesniki pogosto del širše problematične rabe.

Kako pristopiti k otroku, ki je čustveno navezan na svojo UI-igračo, in mu razložiti, da ne gre za živo bitje, da mu škoduje, in kako mu jo odvzeti (ali starejšemu prepovedati UI-prijatelje)?

Kot pri vsakem tovrstnem početju lahko pride do različnih čustvenih reakcij. Lahko je to konflikt, obramba, zanikanje, izmikanje pogovoru, zato je pomembno premišljeno ravnanje. To lahko poteka v več fazah, ko najprej uskladimo svoj pristop s partnerjem, otroku razložimo, kaj UI pogovorni robot je, postavimo omejitve ali napovemo odvzem. Pri tem je pomembno, da imamo tudi sami vzpostavljen svoj odnos do rabe UI. Da smo sami informirani o tem, kaj naprava počne, katere podatke zbira, kako veže otroka nase s čustveno regulacijo. V trenutkih odvzema/omejitve pa otroku pomagati, biti z njim v žalovanju in jasno stati za izrečenimi mejami. Otrok je z UI-igračo nadomeščal svoje potrebe po pozornosti, odnosih, pripadnosti, potrditvi ..., zdaj je čas, da mu te potrebe zadovoljujejo starši.

revija Jana