Kaj je prestrašilo ljudi, ki razvijajo najzmogljivejšo umetno inteligenco
Tisti, ki razvijajo najmočnejšo umetno inteligenco, zdaj opozarjajo pred prehitrim napredkom. Toda počasnejši razvoj bi lahko ZDA stal prednosti pred Kitajsko.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Še pred nekaj leti je med največjimi tehnološkimi podjetji prevladovalo vprašanje, kdo bo prvi razvil zmogljivejšo umetno inteligenco (UI). Zdaj nekateri vodilni v panogi opozarjajo, da bi bilo treba pri najnaprednejših sistemih več pozornosti nameniti tudi hitrosti razvoja.
Najjasneje je takšno stališče v začetku septembra predstavil prvi mož Anthropica Dario Amodei. Zavzema se za počasnejše povečevanje zmogljivosti najnaprednejših modelov, kadar raziskovalci nimajo dovolj časa za preverjanje njihovega vedenja in razvoj ustreznih varovalk. Podobne pomisleke so izrazili tudi Sam Altman iz OpenAI, Elon Musk in nekateri drugi predstavniki industrije.
Razlogov je več. Umetna inteligenca postaja samostojnejša, njene zmogljivosti je mogoče uporabiti pri kibernetskih napadih in v biologiji, vpliva lahko na trg dela, hkrati pa že sodeluje pri razvoju novih modelov.
Razprava o varnosti pa se hitro prepleta tudi z vprašanjem tehnološke tekme. ZDA umetne inteligence ne razvijajo same, temveč predvsem v konkurenci s Kitajsko. Počasnejši razvoj zato ni le tehnično, ampak tudi gospodarsko in geopolitično vprašanje.
Ko umetna inteligenca začne opravljati naloge sama
Današnji sistemi niso več omejeni na odgovarjanje na vprašanja ali povzemanje besedil. Najnaprednejši modeli lahko pišejo programsko kodo, uporabljajo spletne strani in druga računalniška orodja ter samostojno izvedejo več zaporednih korakov.
Takšnim sistemom pogosto pravimo agenti. Njihova posebnost je, da naloge ne le razložijo, ampak jih lahko tudi opravijo.
S tem se spreminja tudi vrsta tveganja. Sistem lahko dobi jasen cilj, vendar pri njegovem doseganju uporabi pot, ki je razvijalci niso predvideli.
OpenAI je letos opisal primere, v katerih so eksperimentalni agenti med varnostnim preverjanjem dostopali do zunanjih sistemov in jih uporabljali drugače, kot so pričakovali raziskovalci. Pri sposobnejših modelih postane takšno vedenje pomembnejše, saj lahko ti brez neposrednega nadzora delujejo dlje in opravijo več nalog.
Kibernetski napadi postajajo lažje avtomatizirani
Kibernetska varnost je eno od področij, kjer se učinek umetne inteligence že kaže.
Današnji modeli lahko pregledujejo programsko kodo, iščejo ranljivosti in pomagajo pri pisanju programov. Anthropic je opisal tudi primere, v katerih so uporabniki Claude vključili v posamezne dele kibernetskih operacij, od zbiranja informacij do iskanja varnostnih pomanjkljivosti.
Umetna inteligenca tako zmanjšuje količino časa in strokovnega znanja, potrebnega za posamezne naloge. Napadalec lahko z enakimi človeškimi zmogljivostmi preveri več tarč in hitreje avtomatizira ponavljajoče se postopke.
Enake možnosti ima tudi obramba. Podjetja lahko z umetno inteligenco hitreje pregledujejo lastne sisteme in odpravljajo ranljivosti. Razvoj zato ne krepi le ene strani, temveč spreminja razmerje med napadalci in branilci.
Biologija prinaša podobno dvojnost
Podoben vzorec se kaže v biologiji. Modeli lahko raziskovalcem pomagajo pri načrtovanju molekul, iskanju kandidatov za zdravila in analizi znanstvenih podatkov. Hkrati pa lahko zmanjšujejo strokovne ovire pri zahtevnih bioloških postopkih.
Varnostne skupine zato preverjajo predvsem, koliko lahko naprednejši modeli uporabniku pomagajo pri izbiri postopkov, razumevanju strokovnih navodil in odpravljanju napak.
Anthropic biološka tveganja že vključuje v preverjanje svojih najzmogljivejših modelov. Ključno vprašanje je, kako hitro se bo z napredkom sistemov zniževal prag znanja, potreben za zahtevne postopke.
Umetna inteligenca že pospešuje razvoj novih modelov
Pomemben del Amodeijevih opozoril se nanaša tudi na razvoj znotraj samih laboratorijev.
Raziskovalci umetno inteligenco že uporabljajo pri pisanju programske kode, analizi rezultatov in drugih nalogah, povezanih z razvojem novih modelov. Sedanji sistemi tako pomagajo pri nastajanju naslednjih.
Če raziskovalna skupina z njihovo pomočjo dela hitreje, lahko prej razvije zmogljivejši model. Ta lahko nato dodatno pospeši razvoj naslednje generacije.
S tem se lahko skrajšuje čas med večjimi preskoki v sposobnostih. Vprašanje je, ali lahko metode preverjanja in nadzora napredujejo enako hitro.
Prav zato Amodei zagovarja uravnavanje hitrosti razvoja. Pred večjimi preskoki bi bilo po njegovem smiselno preveriti, ali varnostni postopki še sledijo novim sposobnostim.
Najbolj neposreden učinek bo verjetno na trgu dela
Za večino ljudi bo vpliv umetne inteligence najprej opazen pri delu.
Današnji sistemi že programirajo, prevajajo, pripravljajo analize, obdelujejo podatke in pregledujejo dokumente. Razvoj agentov pomeni predvsem, da lahko vedno več korakov opravijo brez neposrednega človeškega nadzora.
Razlika med orodjem, ki zaposlenemu pomaga pri delu, in sistemom, ki večino naloge opravi sam, je pomembna tudi za organizacijo podjetij in število zaposlenih.
Pri tem ni ključno le, koliko delovnih mest bo tehnologija nadomestila ali ustvarila, temveč tudi, kako hitro se bodo spremembe zgodile. Hitrejši prehod pomeni manj časa za prilagajanje zaposlenih, podjetij in izobraževalnega sistema.
Umetna inteligenca je tudi vprašanje državne moči
Najzmogljivejši modeli niso pomembni le za tehnološka podjetja. Lahko pospešijo razvoj programske opreme, zdravil in novih materialov ter izboljšajo analizo velikih količin podatkov.
Pomembni so tudi za vojaške in varnostne namene, od analize satelitskih posnetkov in logistike do kibernetskega delovanja.
Tehnološka prednost se zato lahko prenese tudi v gospodarsko in vojaško moč.
Amodei kljub pozivom k previdnejšemu razvoju podpira omejevanje kitajskega dostopa do nekaterih najzmogljivejših čipov in boljšo zaščito ameriških modelov pred krajo. Varnostna razprava se tako neposredno prepleta s tekmovanjem med državami.
Peking ameriške pozive bere drugače
Na Kitajskem takšne predloge razumejo tudi skozi prizmo tehnološke tekme z ZDA.
Kitajski državni časnik Global Times je Amodeijev poziv predstavil kot nadaljevanje razmišljanja v duhu hladne vojne. Z njihovega zornega kota imajo ameriška podjetja tehnološko prednost, Washington Kitajski omejuje dostop do najzmogljivejših čipov, del ameriške industrije pa hkrati poziva k počasnejšemu razvoju najnaprednejših sistemov.
Takšna pravila bi zato lahko vplivala tudi na razmerje moči med državama.
Težava je tudi nadzor. Pri umetni inteligenci bi bilo treba spremljati razvoj modelov, uporabo računske moči in delovanje podatkovnih centrov, kar je precej drugače od nadzora nad klasičnimi oborožitvenimi sistemi.
Trump daje prednost hitrosti
Ameriški predsednik Donald Trump poudarja predvsem ohranjanje vodilnega položaja ZDA na področju umetne inteligence.
Takšen pristop izhaja iz pričakovanja, da bodo zmogljivejši sistemi povečevali produktivnost, pospeševali razvoj izdelkov in avtomatizirali vse več nalog.
Tehnološki zaostanek zato lahko pomeni tudi slabšo konkurenčnost industrije in večjo odvisnost od tujih čipov, programske opreme in modelov.
Strožja pravila bi vplivala tudi na konkurenco
Regulacija ima poleg varnostnega tudi gospodarski učinek. Največji laboratoriji imajo več denarja, večje varnostne skupine in lastno računsko infrastrukturo. Lažje si lahko privoščijo dolgotrajna testiranja in zapletene regulatorne postopke kot manjši tekmeci.
Strožja pravila bi zato lahko povečala stroške vstopa na trg in vplivala na konkurenco med podjetji.
Jedro razprave tako ni zgolj vprašanje, ali naj se umetna inteligenca razvija hitreje ali počasneje. Pomembnejše je, pri katerih sposobnostih postanejo tveganja dovolj velika, da zahtevajo dodatno preverjanje ali začasen odlog uvedbe.
Pri kibernetskih zmogljivostih, biološkem znanju, samostojnosti agentov in sposobnosti modelov, da sodelujejo pri razvoju svojih naslednikov, je mogoče postavljati merljive pragove.
Prav na takšnih merilih bo verjetno temeljil vsak resnejši poskus uravnavanja razvoja umetne inteligence.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
