Profimedia

Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.

Nastavi

Agenti umetne inteligence so na nepričakovane načine brskali po spletnih mestih na desetine institucij po svetu, je v petek priznalo podjetje. Agenti UI so med drugim dostopali do spletnih strani ameriške Komisije za vrednostne papirje in borzo (SEC) ter ministrstva za izobraževanje ZDA, poroča britanski BBC.

Podjetje OpenAI je razkrilo, da so med pregledom delovanja ugotovili, da so agenti UI na nenačrtovan način poskušali pridobiti informacije s spletnih strani, s katerimi upravljajo "vlade, univerze, javne agencije in druge institucije".

Takšno ravnanje agentov ni predvideno

Med njimi so bile spletne strani ameriške Komisije za vrednostne papirje in borzo (SEC), ameriškega urada za popis prebivalstva in ministrstva za izobraževanje, navaja BBC. Agenti, ki so zasnovani in usposobljeni za delovanje z določeno mero avtonomije, so po navedbah podjetja pri iskanju "verodostojnih virov javnih informacij" dostopali do določenih podatkov.

Toda nekateri agenti so šli še korak dalje in ponekod poskušali obiti varnostne sisteme spletnih strani. Vsi vladni podatki, do katerih so imeli dostop agenti UI, so bili po navedbah podjetja OpenAI javni. A informacije, do katerih so agenti prišli pri SEC, ki ureja ameriški borzni trg in ščiti vlagatelje, so pozneje objavili na drugi spletni strani.

Takšno ravnanje agentov pa ni bilo predvideno, so priznali v podjetju. Zaznali so tudi primere, ko so agenti UI prenesli podatke, ki jih ne bi smeli. Zaznali so vsaj 53 primerov, pri katerih je agent UI pridobil sliko iz dejavnosti uporabnika klepetalnega robota ChatGPT in jo prenesel drugam.

Pripravljeni omejiti razvoj umetne inteligence

"To ni ustrezna uporaba teh podatkov," so v podjetju priznali glede uhajanja slik, a dodali, da so v vseh teh primerih uporabniki ChatGPT predhodno podali soglasje, da sme OpenAI z njegovimi podatki usposabljati svoje modele UI. Do uhajanja slik je po navedbah OpenAI prišlo, preden so uvedli nove varnostne ukrepe za usposabljanje umetne inteligence. Prizadevajo si odstraniti vse slike, ki so bile posredovane tretjim osebam.

Novica o novem nepričakovanem vedenju agentov UI prihaja potem, ko je avstralski premier Anthony Albanese v četrtek razkril, da je model umetne inteligence OpenAI junija vdrl v spletno stran avstralskega sistema zdravstvenega zavarovanja Medicare, o čemer je podjetje Avstralijo obvestilo šele ta mesec.

Vodilna ameriška podjetja na področju umetne inteligence, vključno s podjetjema OpenAI in Anthropic, so po več odmevnih vdorih umetne inteligence nedavno sporočila, da so pripravljena upočasniti razvoj te tehnologije.