Napaka umetne inteligence skoraj zanetila vojno med Američani in Kitajci
Napačno poročilo, pripravljeno s pomočjo umetne inteligence, je ameriško vojsko skoraj pripeljalo do prestrezanja kitajske ladje na Bližnjem vzhodu.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Ameriške oblasti so spomladi, med vojno z Iranom, prejele obveščevalno poročilo, ki je sprožilo velik alarm. V njem je pisalo, da kitajska ladja na Bližnjem vzhodu prevaža dele, povezane z jedrskim programom, razkriva CNN.
Ameriška vojska se je zato začela pripravljati na prestrezanje ladje, so za CNN povedali štirje viri, seznanjeni z dogodkom. Po navedbah dveh virov so se oboroženi pripadniki ameriške vojske že pripravljali na vkrcanje na ladjo, v zraku pa so bila tudi vojaška letala.
Tik pred načrtovano operacijo so ameriški uradniki poročilo podrobneje preverili. Ugotovili so, da je bilo pripravljeno s pomočjo umetne inteligence (UI) in da je klepetalni robot, ki ga je uporabil analitik, napačno določil, kaj ladja dejansko prevaža. CNN ni uspel izvedeti, za kakšen tovor je v resnici šlo.
Skoraj je povzročilo vojno
Eden od virov je poročilo opisal kot "popolnoma napačno". Dodal je, da je skoraj povzročilo vojno. Morebitna ameriška operacija proti kitajski ladji bi namreč lahko hitro prerasla v oborožen spor med ZDA in Kitajsko.
Primer kaže na tveganja, ki jih prinaša vse večja uporaba umetne inteligence v ameriški vojski in obveščevalnih službah. UI se uporablja za analizo ogromnih količin podatkov, pomoč pri izbiri vojaških ciljev, premikanju vojaških sredstev, pa tudi pri logistiki, proračunih in oskrbi.
Tehnologija lahko odločitve močno pospeši, vendar lahko napačni podatki ali napačne ugotovitve povzročijo zelo nevarne posledice.
V primeru kitajske ladje je analitik v klepetalni robot vnesel podatke o ladijskem tovoru, ki so izvirali iz ameriškega poveljstva za posebne operacije v Tihem oceanu. Ni jasno, ali je uporabljal komercialno dostopen sistem umetne inteligence ali orodje ameriške vlade.
Po navedbah virov je sistem združil javno dostopne informacije in tajne obveščevalne podatke ter prišel do napačnega zaključka o tovoru na ladji.
Analitik je nato umetno inteligenco uporabil še drugič: za pripravo ugotovitev v obliki standardnega obveščevalnega poročila. Takšna poročila vojaški uradniki običajno obravnavajo kot zanesljiva. Nato je bilo poročilo razposlano naprej po sistemu.
Ameriško poveljstvo za posebne operacije v Tihem oceanu in Pentagon na vprašanja CNN nista odgovorila.
Vojska želi čim hitreje uvajati UI
Ameriška vojska želi umetno inteligenco uvajati čim hitreje, predvsem zato, ker lahko pomaga hitreje odločati, katere cilje napasti in kam premakniti vojaške enote ali opremo.
Ameriški uradniki opozarjajo, da si ZDA ne morejo privoščiti zaostanka na področju umetne inteligence, še posebej ob možnosti prihodnjega spopada s Kitajsko ali drugo državo, ki bi lahko imela tehnološko prednost.
Januarja je ameriški obrambni minister Pete Hegseth predstavil strategijo za pospešeno uporabo umetne inteligence v obrambnem sistemu. Cilj je razširiti uporabo najnaprednejših modelov med milijone civilnih in vojaških uslužbencev na različnih stopnjah tajnosti podatkov.
Težava pa je, da različni deli ameriške vojske in obveščevalnih služb uporabljajo različna orodja, različna pravila in različne varnostne standarde. Po navedbah več ameriških uradnikov ni enotnega sistema za preverjanje informacij, ki jih ustvarja umetna inteligenca.
Zato se tudi zanesljivost posameznih sistemov močno razlikuje.
Nevarnost napačnih odločitev
V zadnjih tednih v Washingtonu potekajo intenzivne razprave o tveganjih umetne inteligence. Del razprav se osredotoča na možnost, da bi zelo napredni sistemi nekoč ušli človeškemu nadzoru.
Primer kitajske ladje pa opozarja na veliko bolj neposredno nevarnost: ljudje lahko sprejmejo zelo nevarne odločitve na podlagi napačnih informacij, ki jih ustvari umetna inteligenca.
Viri CNN opozarjajo, da ameriška vojska UI vse pogosteje uporablja tudi pri izbiri vojaških ciljev. Prav na tem področju lahko napaka povzroči smrt civilistov, napad na lastne sile ali celo širši meddržavni spopad.
Eden od virov, seznanjen z ameriško vojaško politiko, je opozoril, da se uporaba umetne inteligence pri izbiri ciljev hitro širi, jasnih pravil o tem, kako naj človek preprečuje napake, civilne žrtve ali napade na lastne enote, pa po njegovih besedah še ni.
Primer kitajske ladje tudi ni bil edini primer, ko je umetna inteligenca v ameriškem obveščevalnem sistemu ustvarila napačne informacije.
Nekateri izkušenejši obveščevalni uradniki sicer podpirajo uporabo umetne inteligence, vendar opozarjajo, da tehnologija povečuje pritisk na analitike, da poročila pripravljajo in razpošiljajo hitreje.
Po navedbah več virov so mlajši analitiki z uporabo teh orodij bolj domači, zato jim tudi pogosteje zaupajo brez dovolj kritičnega preverjanja.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
