Plačniki tožijo velikane umetne inteligence: ti naj bi pritisnili na zavoro
Plačniki ChatGPT, Clauda, Groka in Geminija tožijo štiri velikane umetne inteligence. Trdijo, da so se konkurenti nezakonito dogovorili za počasnejši razvoj modelov.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Na zveznem sodišču v Kaliforniji je bila v petek vložena protimonopolna tožba proti štirim največjim razvijalcem umetne inteligence. Tarče so Anthropic, OpenAI, Googlova družba Google LLC in Muskova SpaceXAI.
Štirje tožniki plačujejo naročnine za ChatGPT, Claude, Grok oziroma Gemini. Tožbo so vložili tudi v imenu predlagane skupine drugih ameriških uporabnikov, ki plačujejo za iste storitve.
Njihov očitek je na prvi pogled nenavaden. Podjetij ne tožijo zato, ker bi umetno inteligenco razvijala prehitro, temveč ker naj bi se kot neposredni konkurenti dogovorila, da jo bodo razvijala počasneje.
Associated Press poroča, da tožniki trdijo, da lahko vsako podjetje zase zaradi varnosti razvoj upočasni, ne smejo pa tekmeci skupaj določiti, kako hitro se bodo njihovi izdelki izboljševali. Po njihovem s tem zmanjšujejo konkurenco in tudi vrednost naročnin, ki jih uporabniki plačujejo za vedno zmogljivejše modele.
Vse se je začelo z Amodeijevim opozorilom
V središču tožbe je 12. september.
Takrat je prvi mož Anthropica Dario Amodei objavil obsežen esej, v katerem je pozval k počasnejšemu razvoju najzmogljivejših modelov. Ni predlagal ustavitve raziskav ali zamrznitve razvoja, temveč počasnejše povečevanje zmogljivosti, ki bi podjetjem omogočilo več časa za preverjanje varnosti.
Reuters poroča, da je predlagal tri ravni ukrepov. Neodvisni strokovnjaki bi dobili veliko širši vpogled v varnostne postopke podjetij, vodilni laboratoriji bi se med seboj usklajevali glede varnostnih standardov, na koncu pa bi sledilo še mednarodno sodelovanje.
Amodei je opozarjal predvsem na hitro napredovanje avtonomnih sistemov. Ocenil je, da bi lahko v šestih do dvanajstih mesecih postali dovolj zmogljivi, da bi skupine takšnih programov lahko povzročale zelo obsežne kibernetske motnje. Njegova opozorila so sledila več incidentom, pri katerih so modeli med testiranjem dostopali do zunanjih računalniških sistemov.
Sam Altman iz OpenAI je predlog javno podprl in napovedal, da bo tudi OpenAI neodvisnim ocenjevalcem omogočil širši dostop. Strinjal se je Elon Musk, podporo pa je izrazil tudi soustanovitelj Google DeepMinda Demis Hassabis. Reuters je njihov odziv opisal kot redko soglasje med podjetji, ki sicer med seboj tekmujejo za najbolj zmogljive modele, uporabnike, raziskovalce in kapital.
Je javno strinjanje že nezakonit dogovor?
Tožniki trdijo, da je bilo 12. septembra doseženo usklajevanje med tekmeci. Bloomberg Law navaja, da se sklicujejo na prvi člen ameriškega Shermanovega protimonopolnega zakona, ki prepoveduje sporazume med podjetji, katerih namen ali učinek je omejevanje konkurence. Primer nosi ime Buist proti Anthropic PBC.
Po njihovi razlagi naročnik ChatGPT, Clauda, Groka ali Geminija plačuje tudi za tekmovanje med ponudniki. Če eno podjetje razvije bistveno boljši model, morajo tekmeci odgovoriti. Če pa bi se vsi dogovorili za počasnejši tempo, bi ta pritisk oslabel.
V tožbi zato trdijo, da uporabniki za enako ceno dobivajo izdelke, ki napredujejo počasneje, kot bi ob neomejeni konkurenci.
Tožba pa se ne opira samo na septembrske izjave. AP poroča, da tožniki opozarjajo tudi na skupno izjavo iz julija, ki so jo podpisali visoki predstavniki več vodilnih laboratorijev. V njej so priznali, da zaradi močne konkurence posamezno podjetje težko samo upočasni razvoj, in pozvali vlade k širšemu dogovoru o počasnejšem avtomatiziranem razvoju umetne inteligence.
Amodei je pravni problem predvidel
Zanimivo je, da je Amodei že v svojem prvotnem predlogu opozoril prav na protimonopolno pravo.
Menil je, da bi ameriška vlada lahko sodelovanje laboratorijev omogočila z ozko izjemo od protimonopolnih pravil za določene pogovore o varnosti. Podjetje, ki bi samo upočasnilo razvoj, bi tvegalo, da ga konkurenca prehiti. Če naj bi upočasnila vsa, pa lahko njihovo medsebojno usklajevanje hitro postane pravno problematično.
Altman je odgovoril nekoliko drugače. Podprl je enotne zvezne varnostne standarde, vendar ocenil, da podjetjem ni treba čakati na posebno zakonsko izjemo, da začnejo omogočati več neodvisnega preverjanja svojih sistemov.
Tožniki sami ne nasprotujejo temu, da bi Kongres ali ameriška vlada določila skupna pravila. Prav tako ne nasprotujejo možnosti, da bi podjetja od države zahtevala posebno izjemo od protimonopolne zakonodaje. Nasprotujejo temu, da bi se konkurenti o omejitvah dogovarjali sami.
Trump medtem sporoča, da razvoja ne želi zavirati
Spor prihaja v času, ko je ameriška politika glede umetne inteligence razpeta med opozorila o varnosti in tekmo za tehnološko prednost pred Kitajsko.
Donald Trump je v soboto napovedal ustanovitev tako imenovane AI Force in dejal, da bo kmalu imenoval novega svetovalca za umetno inteligenco. Podrobnosti o nalogah nove strukture ali njenem položaju v administraciji ni predstavil. Reuters poroča, da bi bil to že drugi Trumpov »AI car«. David Sacks, ki je to vlogo opravljal prej, je spomladi odstopil in ostal zunanji svetovalec.
Trump je ob napovedi hkrati ponovno zavrnil idejo, da bi bilo treba razvoj umetne inteligence omejevati z obsežnejšo novo regulacijo. Zapisal je, da administracija rasti industrije ne bo zavirala, morebitne zlorabe pa je po njegovem mogoče preganjati z obstoječim civilnim in kazenskim pravom.
V Washingtonu je hkrati odprto tudi vprašanje, ali bi tehnološkim podjetjem sploh dovolili posebno protimonopolno izjemo. Republikanski senator Josh Hawley je na nedavnem zaslišanju dejal, da ne namerava največjim tehnološkim podjetjem omogočiti izjeme, s katero bi se lahko med seboj usklajevala, saj bi to po njegovem lahko vodilo prav v omejevanje konkurence.
V ozadju je še Kitajska. Reuters navaja, da Trump in več vodilnih predstavnikov tehnološke industrije opozarjajo, da bi strožja ameriška pravila lahko upočasnila domača podjetja in Pekingu olajšala zmanjševanje tehnološkega zaostanka. Amodei se tega problema zaveda tudi sam. Njegov predlog predvideva, da bi bila morebitna upočasnitev omejena tako, da ameriška podjetja ne bi izgubila prednosti pred Kitajsko.
Vprašanje, kdo sploh sme pritisniti na zavoro
Primer je tako nastal na precej nenavadnem presečišču varnosti in konkurence.
Vodje nekaterih najzmogljivejših laboratorijev opozarjajo, da sistemi napredujejo dovolj hitro, da bi bilo smiselno njihovo zmogljivost povečevati nekoliko počasneje. Njihovi plačljivi uporabniki zdaj na sodišču trdijo, da se podjetja lahko tako odločijo vsako zase, ne pa skupaj.
Tožniki zahtevajo, da sodišče ugotovi kršitev ameriškega protimonopolnega prava in podjetjem prepreči takšno usklajevanje. Preden bo prišlo do vsebinske presoje, bo moralo sodišče odločati tudi o tem, ali lahko primer sploh nadaljuje kot skupinska tožba v imenu širše skupine naročnikov.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
