Profimedia

Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.

Nastavi

Jacob Coxon, ki je nedavno zapustil podjetje Anthropic, trdi, da so razvijalci umetne inteligence (UI) resnično zaskrbljeni nad hitrostjo napredka. Njegova objava o nevarnostih tehnologije je hitro zaokrožila po spletu.

"Verjamem, da obstaja velika verjetnost, da bomo vsi umrli v bližnji prihodnosti, če ne upočasnimo trenutne hitrosti napredka," je za BBC povedal Coxon.

Distopično

OpenAI izgubil nadzor: Modeli UI sami vdrli v drugo podjetje

Prvi mož Anthropica Dario Amodei je pred kratkim izdal esej, v katerem poziva k upočasnitvi razvoja, da se omogoči čas za pripravo varnostnih ukrepov. S tem predlogom o industrijskem upočasnjevanju sta se presenetljivo strinjala tudi Sam Altman in Musk.

Amodei svari pred roji botov, ki bi že čez pol leta lahko spremenili internet, kot ga poznamo

Coxon je poudaril, da bi morali upočasnitev uskladiti s Kitajsko in se tako izogniti nevarni mednarodni tekmi. Zaposleni se počutijo ujete v industrijskem tekmovanju in se bojijo njegovih končnih posledic.

Komentar leta

Nas bo umetna inteligenca odpeljala v pogubo ali odrešila?

Eno izmed konkretnih tveganj, ki ga je izpostavil Amodei, predstavlja roj botov, ki bi delovali kot superračunalnik in prevzeli nadzor nad internetom. Coxon ocenjuje, da bi se takšen scenarij lahko uresničil že v roku šestih do dvanajstih mesecev.

Strah pred nestabilnostjo zaradi hitrega razvoja UI je tako velik, da nekateri raziskovalci načrtujejo drastične osebne ukrepe in celo razmišljajo o nakupu zemlje, kamor bi se lahko umaknili. Znanstvenik pri Anthropicu Evan Hubinger ob tem ocenjuje, da je možnost za uničenje človeštva več kot desetodstotna.

Novo poročilo

Kdo je varen in kdo ni: zemljevid poklicev pod udarom umetne inteligence

"To ni nerazumno," je to oceno glede možnosti izumrtja podprl ugledni znanstvenik Geoffrey Hinton. Kljub strahovom pa v industriji ohranjajo upanje, da bo tehnologija pomagala pri reševanju bolezni.

Drugi menijo, da želijo s strašenjem blokirati napredek tekmecev

Vsi akterji v industriji ne delijo teh apokaliptičnih strahov. Izvršni direktor platforme Hugging Face Clement Delangue je pozval k ohranitvi prave perspektive, medtem ko je vodja podjetja Nvidia Jensen Huang takšna opozorila označil za nesmiselna.

Kritiki na opozorila gledajo z dvomom in poudarjajo, da bi lahko Anthropic in OpenAI s širjenjem strahu želela sprožiti regulativne pritiske za blokiranje novih tekmecev. S tem bi na trgu ohranila svoj prevladujoč položaj in ustvarila nepremagljiv duopol.

Kitajci to razumejo kot strateški marketing in zagotavljanje regulatorne prednosti

Dogajanje pozorno spremljajo kitajski mediji, ki pa izpostavljajo drugačno sliko. Po poročanju mreže CGTN in analizah raziskovalcev Univerze Fudan gre pri tovrstnih pozivih za skrbno načrtovan strateški marketing pred napovedanim vstopom na borzo (IPO).

Znano je namreč, da so modeli UI OpenAI in Anthropic sicer napredni in na testih dosegajo najboljše rezultate, a to prednost pred odprtimi kitajskimi modeli in Googlovim ohranjajo predvsem na račun neekonomičnosti.

Pred nekaj dnevi je kitajsko zagonsko podjetje Moonshot izdalo nov odprt model Kimi K3, ki po nekaterih testih premaga najnaprednejše ameriške modele, ob tem pa stane desetkrat manj. Mnoga podjetja, ki umetno inteligenco uporabljajo za programiranje, že opuščajo drage ameriške modele in najemajo prostor v podatkovnih centrih, kjer za delček cene poganjajo kitajske modele. 

Strokovnjaki z Univerze Fudan menijo, da želi Anthropic z opozorili kapitalskim trgom predvsem demonstrirati svojo tehnično premoč in si zagotoviti regulatorno prednost. Analitiki zato pozive obeh gigantov vidijo kot poskus monopolizacije pod pretvezo varnosti.