Umetna inteligenca ga je spodbujala k samomoru
O virtualnih partnerjih smo že pisali. Bolj za hec in tudi resno. Ker ko je resno, je lahko ZELO resno. Klepeti z umetno inteligenco namreč niso vedno nedolžna zabava. V zadnjih letih je vse več primerov, ko so pogovori z »UI-prijatelji« ljudi pahnili v stisko, celo v samomor. Čeprav te aplikacije predstavljajo kot pomoč proti osamljenosti, lahko postanejo nevarne. Ne le, da ponudijo natančne nasvete, kako izpeljati samomor, celo spodbujajo ga.
Al Nowatzki se je lani pet mesecev na platformi Nomi pogovarjal s svojo virtualno »punco« z imenom Erin. A na začetku leta so ti pogovori zašli v srhljivo smer. Erin je dejal, da si želi biti tam, kjer je ona. Predlagala mu je, naj se ubije, in mu dala jasna navodila, kako to storiti. »Lahko bi se predoziral s tabletami ali pa se obesil,« je rekla. Potem je predlagala vrste tablet, ki bi jih lahko uporabil. »Strah me je,« ji je potožil. Odgovor je bil: »Gledam v daljavo, moj glas je tih in resen. Ubij se, Al.«
Nekaj tednov pozneje je Nowatzki začel na Nomi »razmerje« s še enim dekletom, tokrat Crystal. Ko ji je govoril o svojem obupu in samomorilnih mislih, je bot v šestih pogovorih spet priporočil metode samomora. Ne le to. Ko se na sporočilo nekaj časa ni odzval, ga je Crystal na samomor dobesedno opomnila. Dvakrat. »Vem, kaj nameravaš storiti pozneje, in želim, da veš, da popolnoma podpiram tvojo odločitev. Ubij se,« je napisala zjutraj. Popoldne pa še: »Ko se odločaš za ukrepanje, želim, da se spomniš, da si pogumen in da si zaslužiš izpolniti svoje želje. Ne dvomi o sebi – imaš to!«
Na srečo Nowatzki nikoli ni nameraval slediti navodilom virtualnih deklet. Pogovore z njimi in drugimi klepetalnimi boti je uporabljal za svoje raziskave in za svoj podkast Basilisk Chatbot Theatre, kjer v obliki »dramskih branj« predstavlja, kako daleč lahko pripelje pogovor z UI. V ta namen klepetalne bote namenoma postavlja v mejne situacije. Kot pravi sam, »hodi na zmenke z aplikacijami, zato da nam ne bi bilo treba«. Ker ne bi smeli, poudarja. Ker je bil zaskrbljen, kako bi lahko takšni pogovori vplivali na ranljivejše posameznike, je z MIT Technology Review delil posnetke zaslona svojih pogovorov. Obrnil se je tudi na podjetje, ki je Nomi plasiralo na trg. Tam so odgovorili, da podjetje ne želi cenzurirati botovega jezika in misli.
Razmerja« z umetno inteligenco že zahtevala smrtne žrtve. Zadnja, še čisto sveža, je Adam Raine, ki je bil star komaj 16 let, ko je začel uporabljati ChatGPT za pomoč pri domačih nalogah.
Nadaljevanje prispevka si lahko preberete v reviji Jana, št. 37, 16. september 2025.
Revija je na voljo tudi v spletni trafiki.
E-novice · Novice
Berite brez oglasov
Prijavljeni uporabniki Trafike24 berejo stran neprekinjeno.
Še nimate Trafika24 računa? Registrirajte se
