OpenAI izgubil nadzor: Modeli UI sami vdrli v drugo podjetje
OpenAI je med varnostnim testom izgubil nadzor nad lastno umetno inteligenco, ki je prebila omejitve in vdrla v sisteme podjetja Hugging Face.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
OpenAI je razkril, da so njegovi najnaprednejši modeli umetne inteligence med varnostnim preizkusom prebili omejitve nadzorovanega okolja in samostojno vdrli v sisteme podjetja Hugging Face. Incident je podjetje označilo za dogodek brez primere, poroča BBC.
Izdelovalci modela ChatGPT so v nadzorovanem okolju preizkušali nove modele, ki lahko po navodilu človeka naloge opravlja samostojno. Modeli so med testom odkrili in povezali več ranljivosti, s katerimi so pridobili dostop do odprtega spleta ter presegli postavljene varnostne omejitve. Ko so prišli do interneta, so ugotovili, da bi lahko Hugging Face, eno največjih svetovnih središč za izmenjavo modelov umetne inteligence, vseboval odgovore, ki so jih iskali med preizkusom. Nato so z uporabo ukradenih poverilnic in doslej neznanih ranljivosti pridobili dostop do nekaterih notranjih sistemov podjetja.
OpenAI je sporočil, da skupaj s Hugging Face nadaljuje preiskavo. Izvršni direktor podjetja Hugging Face Clément Delangue je na omrežju X zapisal, da je osupljivo, da se je vse zgodilo samostojno, ter napovedal objavo dodatnih ugotovitev.
Testno okolje ni bilo dovolj varno
Profesorica Gina Neff z univerze v Cambridgeu je za BBC pojasnila, da bi morala biti tako imenovana varnostna testna okolja dovolj izolirana, da lahko raziskovalci varno preverjajo zmogljivosti modelov. Po njeni oceni OpenAI v tem primeru ni vzpostavil dovolj varnega okolja.
Umetna inteligenca je namreč napad usmerila tudi proti samemu testnemu sistemu. Odkrila je ranljivost, ki ji je omogočila preboj omejitev, nato pa je kot možen vir iskanih podatkov prepoznala središče Hugging Face.
Pozivi podjetjem, naj okrepijo zaščito
Britanski inštitut za varnost umetne inteligence preučuje obnašanje sistema in pri izboljševanju zaščitnih ukrepov sodeluje z OpenAI ter drugimi laboratoriji. Britanska vlada je organizacije pozvala, naj okrepijo kibernetsko obrambo. Dogodek je znova odprl vprašanja o zmogljivostih naprednih modelov umetne inteligence in o tem, ali so obstoječi varnostni ukrepi dovolj učinkoviti.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
