ZDA in Kitajska se bojita, kaj bi lahko naredila vojaška umetna inteligenca
Umetna inteligenca vse hitreje vstopa tudi na bojišča, ZDA in Kitajska pa že razmišljata, kako preprečiti, da bi nekoč zaradi napačne odločitve računalniškega sistema prišlo do nevarne vojaške eskalacije.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Ameriški in kitajski varnostni strokovnjaki zdaj predlagajo pravila, ki bi bila po nekaterih značilnostih podobna varovalkam iz časa jedrskega oboroževanja. Med predlogi so jasne omejitve uporabe umetne inteligence pri jedrskem orožju, obvezen človekov nadzor pri najpomembnejših kibernetskih operacijah in neposredna komunikacijska povezava za primere, ko bi prišlo do incidenta z avtonomnim sistemom.
Kot piše Reuters, so priporočila nastala v okviru dialoga med strokovnjaki, povezanimi z ameriškim inštitutom Brookings in kitajsko univerzo Cinghua. Gre za strokovne predloge, ki jih vladi ZDA in Kitajske za zdaj nista uradno sprejeli.
Ne gre za »rdeči gumb«
Kaj bi lahko šlo narobe? Eden od problemov je hitrost. Umetna inteligenca lahko podatke obdela in se odzove v delčku časa, ki bi ga za enako odločitev potreboval človek. To je lahko prednost na bojišču, hkrati pa tudi nevarnost. Če bi sistem napačno ocenil določeno dogajanje kot napad in bi se na to odzval brez ustreznega človekovega nadzora, bi druga stran lahko njegovo ravnanje razumela kot namerno vojaško dejanje.
Še posebej občutljivo področje so jedrski sistemi. Strokovnjaki zato predlagajo jasne meje glede tega, kaj sme umetna inteligenca pri njih početi in česa ne. Pri tem ne gre nujno za scenarij, v katerem bi računalnik sam pritisnil »rdeči gumb«. Veliko bolj realna nevarnost je, da bi umetna inteligenca sodelovala pri zaznavanju groženj, obdelavi informacij ali kibernetski obrambi, človek pa bi nato odločitev sprejel na podlagi informacij, ki jih je pripravil sistem.
Če bi bile te informacije napačne ali bi jih sistem napačno razlagal, bi lahko zmanjkalo časa za preverjanje. Brookingsovi in kitajski strokovnjaki zato poudarjajo, da mora biti človekov nadzor dejanski in ne zgolj formalen.
Predlagajo tudi neposredno povezavo
Eden od predlogov je zato vzpostavitev posebne telefonske povezave med državama za primere, povezane z avtonomnimi sistemi. Namen bi bil preprost: če bi prišlo do nenavadnega vedenja umetne inteligence ali kibernetskega incidenta, bi lahko Washington in Peking čim prej preverila, kaj se v resnici dogaja, namesto da bi vsaka stran dogodek razumela kot namerno sovražno dejanje. Strokovnjaki želijo obenem natančneje opredeliti, kaj sploh pomeni »pomemben človekov nadzor«. Ni namreč dovolj, da je človek formalno prisoten v procesu, če mora odločitev sprejeti v nekaj sekundah in v praksi nima možnosti preveriti, kaj mu je predlagal sistem.
Kaj če bi umetna inteligenca napadla napačen cilj?
Posebej občutljivi so kibernetski napadi. Predlogi Brookingsa in kitajskih strokovnjakov vključujejo zahtevo, da bi moral človek ostati tisti, ki odloča o napadih na jedrske poveljniške in komunikacijske sisteme ter kritično infrastrukturo druge države.
Pri tem opozarjajo na možnost, da bi se zaradi napake ali napačne razlage dogodkov sprožila veriga odzivov, ki bi jo bilo vse težje ustaviti. Čim hitreje bi sistemi sprejemali odločitve, manj časa bi namreč ostalo za človeško preverjanje in komunikacijo med državama.
Morebitno dogovarjanje težavno
Predlog prihaja v času, ko se med Washingtonom in Pekingom krepi tekmovanje na področju umetne inteligence. Obe državi jo razumeta kot pomembno tehnologijo prihodnosti, tudi za vojsko, zato imata hkrati močan interes za razvoj čim zmogljivejših sistemov. Prav zato bo morebitno dogovarjanje težavno. Nobena stran si ne želi omejitev, ki bi drugi omogočile tehnološko prednost, obenem pa se obe zavedata, da bi lahko nekateri vojaški sistemi postali prehitri in preveč samostojni za tradicionalne načine kriznega komuniciranja.
Po poročanju Reutersa naj bi bila umetna inteligenca tudi ena od tem načrtovanega srečanja ameriškega predsednika Donalda Trumpa in kitajskega predsednika Xi Jinpinga 24. septembra.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
