Bi svoje zdravje zaupali umetni inteligenci?
V času, ko je umetna inteligenca dostopna vsem, postaja tudi prvi “zdravnik”, h kateremu se zatečemo ob simptomih. Pa je to varno?
Ko je 37-letni Warren začel težko požirati, si ni mislil, da gre za kaj resnega. Vnetje grla, morda refluks, nič posebnega. Namesto da bi šel k zdravniku, je vprašal umetno inteligenco. Odgovor ga je pomiril, rak naj bi bil »zelo malo verjeten«. Čez nekaj mesecev je dobil diagnozo: rak požiralnika v četrtem stadiju.
Primer ni osamljen, poroča The Economic Times. V Iraku je moški ob hudih bolečinah v trebuhu namesto zdravnika vprašal umetno inteligenco, katero zdravilo naj vzame. Le nekaj ur kasneje je umrl.
Ko je odgovor prepričljiv, a napačen
Raziskava, objavljena v strokovni reviji JAMA Pediatrics, je pokazala, da je ChatGPT napačno diagnosticiral 72 od 100 pediatričnih primerov, dodatnih 11 pa ocenil preveč splošno. V Londonu je orodje za umetno inteligenco »Annie« napačno označilo bolnika kot diabetika in srčnega bolnika ter mu poslalo povabilo na pregled za bolezen, ki je ni imel. Sistem je celo navedel neobstoječo bolnišnico.
Tudi tehnološki velikan Google je bil deležen kritik, ko je njihov model Med-Gemini v raziskovalni objavi uporabil neobstoječ medicinski izraz. Strokovnjaki opozarjajo na tako imenovani »automation bias« – nagnjenost ljudi, da avtomatsko verjamemo strojni presoji, tudi kadar je napačna, poroča Forbes. In ko gre za zdravje, napačna presoja ni le neprijetnost. Lahko pomeni zamujeno zdravljenje.
A zgodba ni samo črna
Po drugi strani pa umetna inteligenca že danes rešuje življenja, a le, kadar je uporabljena pravilno.
Evropska komisija v svojem poročilu umetno inteligenco opisuje kot preobrazbeno silo v zdravstvu, ki lahko izboljša učinkovitost, dostopnost in vzdržnost zdravstvenih sistemov. V intenzivnih enotah sistemi na osnovi umetne inteligence že napovedujejo sepso več ur pred pojavom kliničnih simptomov, navajajo.
In dodajajo, da pri mamografijah lahko pomagajo zaznati zgodnje znake raka dojke z zelo visoko natančnostjo. V farmacevtski industriji pa uspešno pospešujejo odkrivanje novih zdravil in optimizirajo klinična preskušanja.
Umetna inteligenca zna analizirati ogromne količine podatkov hitreje kot človek. Kar lahko pomeni zgodnejšo diagnozo, bolj ciljno zdravljenje in učinkovitejšo porabo zdravstvenih virov. Toda, ključno je, da je vedno pod človeškim nadzorom.
Tehnologija brez nadzora je tveganje
Evropska unija je 1. avgusta 2024 sprejela Akt o umetni inteligenci (AI Act), ki določa stroga pravila za sisteme z visokim tveganjem, med njimi tudi medicinsko programsko opremo (Uredba (EU) 2024/1689).
Takšni sistemi morajo izpolnjevati zahteve glede:
-
kakovosti podatkov,
-
zmanjševanja tveganj,
-
jasnih informacij za uporabnike,
-
obveznega človeškega nadzora.
Nova Direktiva o odgovornosti za proizvode določa, da je tudi programska oprema – vključno z umetno inteligenco – pravno obravnavana kot proizvod. Če povzroči škodo, je lahko odgovoren proizvajalec.
Zakaj empatije ni mogoče programirati
Algoritem ne vidi utrujenosti v očeh. Ne zazna spremembe barve kože. Ne sliši treme v glasu.
Raziskovalci s Harvard Medical School in Stanford University opozarjajo, da modeli umetne inteligence lahko uspešno rešujejo medicinske izpite, a se pogosto spotaknejo pri realni komunikaciji s pacienti, kjer je ključen kontekst.
Zdravnik poleg simptomov bere širšo sliko – družinsko zgodovino, življenjski slog, pretekle bolezni. Postavlja dodatna vprašanja. Preverja. Umetna inteligenca analizira podatke. Ne nosi odgovornosti.
Kako jo uporabljati varno?
Strokovnjaki se strinjajo: umetna inteligenca je lahko koristno podporno orodje. Pomaga lahko:
-
razložiti medicinske izraze,
-
pripraviti vprašanja za zdravnika,
-
razumeti izvid.
Ne sme pa postati edini vir odločanja. Resni simptomi vedno zahtevajo osebni pregled. Digitalni nasvet je lahko prvi korak. Ne sme pa biti zadnji.
