Profimedia

Tožbo sta proti ameriškemu tehnološkemu podjetju OpenAI pred dnevi vložila starša 16-letnega Adama Raina, ki je aprila tragično storil samomor. Kot v tožbi trdita Matthew in Maria Raine, naj bi klepetalni robot ChatGPT njunemu sinu dal navodila za samomor in ga k njemu spodbudil.

Poudarila sta, da je v mesecih pred samomorom 11. aprila letos njun sin Adam razvil nezdrav odnos s klepetalnim robotom, ki ga je sprva uporabljal za šolo. Ta naj bi mu je v zadnjem pogovoru na dan smrti pomagal, da je staršem ukradel vodko. Zagotovil naj bi mu tudi tehnično analizo zanke, ki jo je zvezal, ter potrdil, da bi se z njo človek lahko potencialno obesil. Nekaj ur kasneje so Adama našli mrtvega, potem ko je za samomor uporabil to metodo.

Tožba

Starša trdita, da je ChatGPT njunega sina spodbujal k samomoru

Starša menita, da tragedija ni bila napaka ali nepredvidljiv obroben primer, saj je ChatGPT deloval točno tako, kot je zasnovan.

Odvetnik pozval k takojšnji ustavitvi uporabe ChatGPT

Starša 16-letnega Adama tožita OpenAI in glavnega izvršnega direktorja tega podjetja s področja umetne inteligence Sama Altmana. Zahtevata nedoločeno odškodnino, sodišče pa pozivata naj določi varnostne ukrepe.

Podjetje OpenAI je po razkritju primera napovedalo nova pravila, med drugim možnost, da bodo starši najstniških uporabnikov prejeli obvestilo, če bo sistem zaznal, da je njihov otrok v "akutni stiski". Omenjena tožba je sicer prva pravna akcija proti OpenAI zaradi domnevne malomarnosti in povzročitve smrti.

V sodnih dokumentih so vključeni tudi zapisi pogovorov med Adamom in ChatGPT, v katerih je najstnik opisoval samomorilne misli. Družina trdi, da je program te misli potrjeval in celo spodbujal njegovo samouničevalno razmišljanje.

"Study Mode"

ChatGPT z novo funkcijo za odgovorno učenje in manj zlorab

Odvetnik Jay Edelson, ki zastopa družino, je odziv podjetja po poročanju BBC označil za "poskus preusmeritve pozornosti" in pozval k takojšnji ustavitvi uporabe ChatGPT. "Namesto da bi nujno umaknili nevaren izdelek s spleta, je OpenAI podal nejasne obljube, da bodo ravnali bolje," je dejal.

V podjetju priznali: robot se v občutljivih situacijah ni obnašal, kot bi se moral

OpenAI je ob prvih poročilih o tožbi poudaril, da je ChatGPT zasnovan tako, da ljudi v stiski usmerja k strokovni pomoči, kot je na primer organizacija Samaritans v Veliki Britaniji. Ob tem pa je podjetje priznalo, da so bili primeri, ko sistem v občutljivih situacijah "ni deloval tako, kot je bilo predvideno". Varnostni mehanizmi namreč najbolje delujejo v kratkih izmenjavah, v dolgih pa lahko odpovejo, so izpostavili.

Profimedia

Napovedali so starševski nadzor

V zadnji posodobitvi je OpenAI napovedal dodatne ukrepe, ki bodo staršem omogočali povezavo njihovega računa z računom najstnika, upravljanje nastavitev, kot sta spomin in zgodovina klepetov ter obveščanje v primerih, ko sistem zazna, da je otrok v "akutni stiski".

"V prihodnjih mesecih bodo starši dobili možnost povezati svoj račun z računom svojega najstnika. S pravili, prilagojenimi starosti uporabnika, bodo lahko nadzirali, kako se ChatGPT odziva njihovemu najstniku," so ob tem sporočili iz podjetja OpenAI 

ChatGPT bo staršem prav tako pošiljal obvestila, ko bo zaznal, da je njihov otrok "v hudi stiski". "Še naprej izboljšujemo način, kako naši modeli prepoznavajo in se odzivajo na znake duševne in čustvene stiske," so dodali v podjetju.

Podjetje navaja, da bo pri oblikovanju teh funkcij sodelovalo s strokovnjaki s področja razvoja mladih, duševnega zdravja in "človek-računalnik interakcij", da bi ustvarilo "na dokazih temelječo vizijo, kako lahko umetna inteligenca podpira dobrobit ljudi".

Umetna inteligenca

Starejši uporabljajo ChatGPT kot iskalnik, mlajši kot svetovalca

Na obtožbe odvetnika Edelsona podjetje OpenAI za zdaj še ni odgovorilo.

Veliki tehnološki giganti in spletna varnost

Uporabniki ChatGPT morajo biti stari vsaj 13 let, mlajši od 18 let pa morajo imeti dovoljenje staršev za uporabo, navaja OpenAI. To obvestilo podjetja OpenAI je zadnje v nizu ukrepov največjih tehnoloških podjetij na svetu, ki si prizadevajo za varnejšo spletno izkušnjo otrok.

V začetku tega tedna je Meta – ki upravlja Facebook in Instagram – sporočila, da bo uvedla dodatne zaščitne ukrepe pri svojih klepetalnih robotih z umetno inteligenco (AI). Med drugim jim bo preprečila pogovore z najstniki o samomoru, samopoškodovanju in motnjah hranjenja.

Ameriški senator je sprožil preiskavo proti tehnološkemu velikanu, potem ko so zapiski iz internega dokumenta, ki je pricurljal v javnost, nakazovali, da bi lahko njihovi AI izdelki z najstniki imeli "čutne" pogovore.

Podjetje je zapiske v dokumentu, ki ga je pridobil Reuters, označilo za napačne in v neskladju s svojo politiko, ki prepoveduje kakršno koli vsebino, ki seksualizira otroke.