Razvoj mislečih računalnikov je neizogiben, področje umetne inteligence pa za povprečnega državljana skoraj nedoumljivo. A strokovnjaki, kot sta znameniti fizik Stephen Hawkin in tehnični genij Elon Musk, celo že opozarjajo, da bi lahko vzpon robotov resno ogrozil človeštvo. Največji dosežek v zgodovini človeštva bi tako lahko bil tudi naš konec. Bodo misleči računalniki nadvladali človeka?
Verjamemo, da je vsakdanjik slehernika tako naporen, da se nima časa ukvarjati z na videz tako neverjetnimi, znanstvenofantastičnimi vprašanji. Tehnologija pač z vsakim dnem tako silovito napreduje, da ji ne zmoremo slediti. In ko pred nas v sklopu mednarodnega festivala novomedijske umetnosti Speculum Artium v Trbovljah stopi humanoidni robot Asimo, najbolj zapleten stroj, kar jih je ustvarilo človeštvo, smo lahko samo osupli nad človeškim umom. Če bi že verjeli proizvajalcem in razvijalcem tega dosežka sodobne tehnologije, da nam bodo visokotehnološki stroji izboljšali življenje (namesto da bi zaradi napredne tehnologije delali vedno manj, je ravno nasprotno!), pa je vprašanje, kdo si bo to v resnici lahko privoščil.
Umetna inteligenca pri nas doma. Prof. dr. Dunjo Mladenić, doktorico računalništva in vodjo laboratorija za umetno inteligenco na Inštitutu Jožef Stefan ter predsednico slovenskega društva za umetno inteligenco SLAIS, smo najprej povprašali, kaj sploh je umetna inteligenca. Ena izmed razlag je, da poskušamo narediti računalnike boljše od ljudi pri reševanju nekaterih problemov. »Umetna inteligenca posnema dele inteligentnega obnašanja človeka, ob tem pa uporabljamo računalništvo, matematiko, statistiko … Še vedno pa je računalnik stroj oziroma orodje, ki ga uporabljam. Lahko sicer posnemamo nekatere vidike obnašanja človeka, ne moremo pa narediti človeka.« Kaj z umetno inteligenco počnemo? To ni nekaj oddaljenega, kot bi si morda mislili – z njo se pravzaprav velika večina srečuje vsak dan. Na primer kadar vtipkamo vprašanje ali iskani pojem v spletni brskalnik Google, nam ta vrne dokumente kot odgovor na naše vprašanje. Da dobimo odgovor gospoda Googla, kot se včasih šalimo, se »zadaj« dogajajo vse sorte procesi (preračunavanje, inteligentna analiza podatkov), ki se zaženejo ob našem vtipkanem iskalnem pojmu. Na področje umetne inteligence sodi tudi prepoznavanje objektov na sliki, razumevanje besedil, prepoznavanje obrazov, razumevanje in analiza govora, sinteza govora. Kadar vam spletni brskalnik kar sam od sebe ponudi zanimive turistične destinacije ali predlaga knjigo, ki bi vas utegnila zanimati, je v ozadju pogosto delovanje umetne inteligence.
Bi se morali robotov bati? Nastopu humanoidnega robota Asima ljudje večinoma očarano ploskajo. »Navdušenje, ki ga je možno zaslediti, je rezultat kombinacije več dejavnikov: po eni strani tehnične dovršenosti, oblikovanja in zmožnosti samostojnih akcij robota, po drugi strani pa tudi promocije v povezavi z znanimi imeni. Poleg oblikovne podobnosti s človeško držo in premikanja v obliki hoje (tega ni enostavno doseči!) ima vgrajene zmožnosti zaznave zvoka, prepoznavanja objektov, obrazov, premikanja objektov, lahko sledi določenemu naboru izrečenih ukazov (torej prepoznava govor), na vprašanja lahko odgovori s premikanjem glave ali pa verbalno. Deluje, kot da je človeški, a to je še vedno računalnik. Morda je še posebej zanimivo, da skrbi tudi za lastno delovanje – ko se mu skoraj izprazni baterija, se samodejno vrne k svoji postaji za polnjenje baterij. Seveda pa ga še vedno lahko ugasnemo,« je povedala dr. Dunja Mladenić.
Po njenem mnenju je pomembno razumeti, da so roboti stroji, ki počno to, za kar jih človek sprogramira. Niso nekaj mističnega, česar bi se morali bati. Za tistega, ki razume procese v ozadju, niti ni tako fascinantno, da lahko v šahu računalnik premaga največjega šahista na svetu. Računalnik ima pač neverjetno kapaciteto spomina, pozna možne kombinacije, ki jih je človek kadarkoli odigral, zato ne preseneča, da lahko premaga človeka. To, da ima računalnik toliko kombinacij v sistemu in tako hitrost obdelovanja podatkov, je fascinantno v smislu napredka tehnologije, ne pa zaradi skrivnostnega dogajanja v ozadju.
Za vrednotenje uspešnosti računalnika na področju umetne inteligence se pogosto uporablja t. i. Turingov test. Ideja je, da človek komunicira po računalniku na inteligenten način in poskuša ugotoviti, ali mu na drugi strani odgovarja človek ali računalnik. Torej uspešnost računalnika presojamo po tem, ali mu bo uspelo zavesti (pretentati) človeka, da ta ne bo vedel, ali komunicira s človekom ali je na drugi strani zgolj računalnik.
Računalnik se lahko tudi uči iz svojih izkušenj, dostopa do velikega, neprekinjenega toka podatkov in meritev, do velikih baz znanja, hitro preiskuje možne razvoje situacije. Ni pa mu pisano na kožo sočustvovanje, čeprav poznamo programe, ki lahko dajejo vtis avtentičnega izražanja čustev (pri računalniških igrah na primer). »Z računalnikom lahko naredimo nekakšno iluzijo na osnovi posnemanja določenih vidikov obnašanja človeka. To, da se človek izgubi v iluziji oziroma jo začne uporabljati, da bi se ognil soočanju z včasih neprijetno vsakdanjostjo življenja, je mogoče naša največja nevarnost. Seveda lahko humanoidnega robota sprogramiramo za ubijanje, vendar se kot družba sami odločamo, kaj bomo počeli z znanstvenimi dosežki,« je razlagala dr. Dunja Mladenić. Opozorila je, da nevarnejše od »nasilnih« robotov varovanje osebnih podatkov, ki jih tako brez premisleka dajemo na vse konce in kraje – ne samo na internetu, tudi kadar uporabimo kreditno kartico, se to nekje zabeleži, kadar uporabljamo mobilne naprave in jim dovolimo, da zaznavajo našo lokacijo. Prav nič smešno namreč ni, da nas morda že danes računalnik pozna bolje kot marsikdo v naši okolici (ve, kaj nas zanima, kaj beremo, o čem se sprašujemo, kaj kupujemo, kaj jemo …).
Človek stroj – kiborg. Filozofi se že dolgo ukvarjajo z umetno inteligenco, jo kritizirajo oziroma opominjajo na morebitne posledice tehnološkega razvoja, ki nas prehiteva s svetlobno hitrostjo. »Smiselno se je izpraševati o posledicah razvoja, da bomo kot družba že miselno pripravljeni na takšne situacije,« je povedala filozofinja prof. dr. Olga Markič s filozofske fakultete v Ljubljani. »Kritika umetne inteligence je privedla do dvoma, da mogoče ta pot, da bi programer vse sprogramiral, ni najboljša. Najbolje bi bilo, da bi se robot učil iz okolja – tako kot otrok. Čeprav je znanost že zelo napredovala, še vedno nismo prepričani, kako v resnici ti procesi delujejo. Danes večina strojev deluje po vnaprej določenih pravilih, medtem ko človek vsakdanje naloge lahko opravlja, ne da bi sledil eksplicitnim pravilom. Njegova prednost so podzavestni procesi, ki so posledica prejšnjih izkušenj, ki jih je pridobil v svojem okolju, kulturi. Na primer: stroju dajte nalogo, naj pridela čim več žita. To lahko pomeni, da bo vso zemljo spremenil v polje žita, medtem ko bo človek za dosego tega istega cilja avtomatsko vedel, da zavoljo njive žita ne bo podrl svoje hiše, ipd. Ljudje imamo še nekaj, česar se ne da ujeti v navodila, v program.«
Zdaj že delajo stroje, ki bi se lahko učili iz vsakdanjih situacij – kam nas to lahko pripelje? Bodo postajali vedno boljši in bodo presegli človeka? Bi nam to lahko ušlo izpod nadzora? »Taki stroji bi bili nedvomno drugačni od nas. Veliko vprašanje je, ali bi imeli zavest, čustva, moralni čut. Ali bi jih morali upoštevati kot nekaj, kar ima svoje pravice? Kako bi oni gledali na nas? Bi bila to nova vrsta?« se je spraševala Markičeva.
Vprašanje je tudi, ali bi bili za nas nevarni. Konec septembra je v Ljubljani gostoval izraelski zgodovinar Juval Noah Harari in napovedal, da se naši vrsti bliža konec. Postali bomo nova vrsta. »Tehnologija bo spremenila značilnosti ljudi, ki tako ne bodo več ljudje. Zgodovina človeštva se je začela, ko je človek 'izumil' Boga. Konec zgodovine pa bo v tem, da bo človek postal Bog,« je povedal Harari, avtor pred kratkim v slovenščino prevedene svetovne uspešnice Sapiens – Kratka zgodovina človeštva.
Markičeva je nakazala dve možni poti našega razvoja: prva, da bodo stroji postali zavestni, je trenutno zelo neverjetna. Druga pa je, da bomo ljudje postali kiborgi – ljudje stroji. »Ljudje pravzaprav že postajamo kiborgi, saj imajo nekateri v telo že vgrajen neki umetni del, recimo proteze, polžkov vsadek, srčni spodbujevalnik, napravo, ki spodbuja globoka možganska jedra pri spopadanju s Parkinsonovo boleznijo ... Ta že posega direktno v možgane, ki pa so pogoj za vznik duševnosti. Če spreminjamo duševnost, se spreminja tudi človek. Ali bomo na tak način lahko manipulirali z ljudmi, spreminjali zavest, nas bo lahko nekdo na daljavo vodil in usmerjal, da ne bomo več imeli popolne oblasti nad sabo?« nas opominja filozofinja.
Vsega tega bi nas lahko bilo strah. Zakaj bi se torej razvijali v to smer? »Da pomagamo ljudem, ki imajo kakšno okvaro, motnjo, ki so bolni in jim taki dosežki lahko pomagajo k boljšemu življenju. Po drugi strani pa vznikajo vprašanja, komu bodo dosežki oziroma orodja umetne inteligence zares dostopni. Samo ozkemu krogu ljudi, ki bodo zato postali neka višja kasta? Bodo preostali, ki se tem višje razvitim ne bodo mogli zoperstaviti, preprosto odpadli? Na eni strani bomo imeli kiborge, na drugi pa ljudi, ki nimajo kozarca čiste vode. Zame je zelo skrb vzbujajoče, da koristi znanosti ne bi bile dostopne vsem,« je odgovorila Markičeva, ki se ji zdi pomembno, da se kot družba odločimo, kaj bomo storili z dosežki znanosti. »Kdo je zdaj tisti, ki se bo odločil, v katero smer bo šlo človeštvo? Kaj bodo delali ljudje, če nas bodo nadomestili stroji? Zaradi strojev naj bi imeli več časa, delali naj bi manj, pa vendar vidimo, da kljub napredni tehnologiji delamo vsak dan več,« je razmišljala. Po njenem moramo biti kot civilna družba pazljivi.
