Ana Špacapan

Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.

Nastavi

Pretekli teden se je po uspešnem poletju poslovil tudi Ljubljana Festival. Za konec je nastopil Filharmonični orkester Baltskega morja, v razprodanem Cankarjevem domu pa sem sedela tudi jaz. Že ob začetku mi je postalo jasno, da me čaka nekaj posebnega.

Na odru – gibanje. Glasbeniki večinoma stojijo, sedijo le tisti, ki zaradi svojih inštrumentov pač morajo. Igrajo na pamet, brez not! Gledajo se, si izmenjujejo nasmehe, uživajo. In z njimi tudi mi. Energija je kot na rockerskem koncertu, prav tako odzivi občinstva. Vzkliki navdušenja na klasičnem koncertu? Očitno tudi to. In kako lepo jih je bilo slišati. Vse je bilo tako zelo živo. Obrazi, pogledi, gibi, zvok. Imela sem občutek, da se je med odrom in dvorano, v kateri sem sedela, veliko dogajalo … Pretakala se je neka energija, človeška … Res sem bila vesela, da sem to doživela.

Vedno več je razprav o tem, koga ali kaj bo umetna inteligenca nadomestila … No, tega mi ne more. Lahko ustvari glasbo, ritem, hit. A tega ne more. To je bil večer, ko smo bili ljudje skupaj … V istem prostoru, v istem trenutku. Brez gumba za ponovitev.

In vendar se mi zadnje čase vse pogosteje prikrade v misli vprašanje: kaj nas še čaka? Najbrž ste zasledili opozorila iz podjetij, kot sta OpenAI in Anthropic. Nekateri raziskovalci zahtevajo več nadzora nad razvojem, drugi zaradi svojih pomislekov zapuščajo donosne službe v vodilnih podjetjih na področju razvoja umetne inteligence. Tretji nas svarijo, svarijo ves planet. Govorijo tudi o možnosti katastrofe, celo o koncu civilizacije. Ko to slišiš od ljudi, ki to tehnologijo razvijajo, težko samo zamahneš z roko. Toda opozorilo še ni napoved. Tudi strokovnjaki si niso enotni o tem, kako verjetni so najhujši scenariji in kdaj, če sploh, bi se lahko uresničili. Govorimo o tveganju, ne o že določeni usodi. No, upam …

Ena od skrbi je, da bi umetna inteligenca vse bolj sodelovala pri razvoju svojih zmogljivejših naslednic in tako razvoj še pospeševala – sama od sebe. Bi mu ljudje lahko sledili? Bi pravočasno opazili nevarnost? Bi sistem še znali ustaviti? Takšen nenadzorovan razvoj je scenarij, o katerem raziskovalci razpravljajo, ne pa nekaj, kar bi se že dokazano dogajalo. Seveda pomislim na Terminatorja … Ampak naš morebitni scenarij je veliko bolj skrb vzbujajoč. Čeprav sem se tudi vprašala: zakaj bi nam umetna inteligenca sploh želela škodovati? A za škodo ni nujna zloba. Lahko je dovolj napačno zastavljen cilj in preveč možnosti, da ga sistem uresniči … To pa je (za zdaj) v človeških rokah. O tehnologiji vem premalo, da bi verjela temu scenariju konca civilizacije. Vem pa, kaj bi rada vprašala: kdo postavlja meje? Kdo preverja varnost? Kdo je odgovoren? Če so ti ljudje podobni tistim, ki vodijo nekatere države, potem smo res v veliki godlji.

Seveda sem vprašala tudi umetno inteligenco, kaj si misli o tem. Tako Claude kot ChatGPT sta odgovorila kar konkretno. »Nevarnost je bolj v hitrosti razvoja in pomanjkanju nadzora kot v nekakšni zlobni volji stroja,« mi je zaupal Claude iz podjetja Anthropic. ChatGPT pa je zadevo razložil nekoliko bolj splošno: »Opozorila vodilnih raziskovalcev imajo težo, niso pa zanesljive napovedi prihodnosti.« Njuna odgovora nista jamstvo za našo varnost. Sta pa povod za razmislek. Tudi o tem, koliko presoje že prepuščamo nečemu, kar nam tako gladko in prijazno odgovarja.

Jaz bom medtem še naprej hodila na koncerte in predstave. Ker me spomnijo, kaj želim v prihodnosti ohraniti. Nasmehe na odru. Pogled med glasbenikoma. Navdušenje, ki iz nekoga izvabi glasen vzklik. Prihodnosti ne znam napovedati. Vem pa, komu želim v njej še ploskati.