Jure Klobčar

Marko Robnik Šikonja je redni profesor na Fakulteti za računalništvo in informatiko Univerze v Ljubljani ter predstojnik Laboratorija za strojno učenje in jezikovne tehnologije. Njegovo raziskovalno delo obsega področja umetne inteligence, strojnega učenja, obdelave naravnega jezika in analize omrežij s posebnim poudarkom na velikih jezikovnih modelih, globokih nevronskih mrežah in razlagi modelov.

Je tudi tehnični vodja projekta PoVeJMo, v katerem razvijajo slovenski veliki jezikovni model GaMS in klepetalni robot, ki za mnoge pomeni kar umetno inteligenco.

Ali bo umetna inteligenca razvrednotila pisarniško delo?

Vsi poklici so do neke mere ogroženi, vključno s programerji, ki že množično uporabljajo orodja UI.

Naj se začnem učiti za varilca?

(Smeh) Tudi robotika napreduje. Varnejši so poklici, ki zahtevajo pristen človeški stik, empatijo in toplino, na primer skrb za starejše. Tehnologija se bo uvajala postopoma, ne bo šlo za "znanstvenofantastični" preskok čez noč.

Jure Klobčar

Tudi dolgotrajna oskrba ni ekonomija vrednosti, če oskrbovani nimajo denarja za storitve.

Če bomo razvoj prepustili le trgu, bo veliko ljudi postalo "nepotrebnih". Družba potrebuje dogovor o humanem obvladovanju tehnologije in prerazporejanju koristi. Trenutni ekonomski modeli, vključno z ameriškim, dolgoročno in okoljsko niso vzdržni.

Kakšne časovnice predvidevate na področju razvoja UI?

Nova tehnologija tipično potrebuje približno 10 let za polno uveljavitev. Ne gre za prihodnost, kjer nas bo nadomestila superinteligenca, temveč za prihodnost sodelovanja s temi orodji.

Jure Klobčar

Američani razvijajo komercialne modele UI, Kitajci odprtokodne. Kakšne so praktične razlike med obema pristopoma?

Obstajajo odprtokodni modeli, ki tehnološko zaostajajo za najboljšimi komercialnimi približno leto in pol do dve ter so stokrat do tisočkrat manjši. So konkurenčni za specializirane naloge, ne pa kot splošna umetna inteligenca, ki bi znala odgovoriti na vsa vprašanja.

To velja tudi za slovenski model GaMS (Generativni model Slovenščine), ki ga gradimo. Ker slovenščina nima dovolj virov za gradnjo modela iz ničle, smo prilagodili Googlov odprtokodni model Gemma. Trenutno je GaMS po nekaterih testih najboljši model te velikosti za 20 evropskih jezikov.

Še vedno se ne more primerjati z velikimi komercialnimi modeli. Razvoj smo začeli na starejših modelih podjetja Meta (OPT), nadaljevali na Googlovi Gemmi 2, zadnjo verzijo pa gradimo na Gemmi 3, ki najbolje podpira slovanske jezike.

Velika trojica – Google, OpenAI in Anthropic – ima trenutno leto in pol do dve leti prednosti. V Evropi imamo mešanico pristopov, denimo podjetje Mistral, ki razvija tako odprtokodne kot lastniške modele. Mistral je tehnološko dober, a se mu pozna pomanjkanje virov in inženirskih ur v primerjavi z ameriškimi giganti. Tudi glede širine jezikovne podpore zaostaja za ChatGPT ali Geminijem.

Jure Klobčar

Kdaj bodo evropski jezikovni modeli konkurenčni na svetovni ravni?

Evropski projekt Open EuroLLM, ki ga financira EU, bo v enem letu ponudil konkurenčne odprte modele, a bodo ti še vedno bistveno manjši od komercialnih.

Njihova prednost ni v splošnosti, temveč v suverenosti: podjetja in državne inštitucije jih lahko namestijo na lastno strojno opremo, kar zagotavlja varnost občutljivih podatkov.

Pri uporabi komercialnih API-jev namreč obstaja dvom glede zasebnosti, poleg tega pa so pri industrijskem obsegu stroški uporabe teh vmesnikov visoki. Zato bo veliko podjetij, tudi slovenskih, prešlo na uporabo modelov na lastni strojni opremi.

Vaš model GaMS torej najbolje govori dvajset evropskih jezikov, je kaj zanimanja zanj?

Veliko, na platformi HuggingFace beležimo tisoče prenosov mesečno. Do junija, ko se izteče projekt PoVeJMo, ga bomo nadgradili z možnostjo klicanja zunanjih orodij (spletni iskalniki, zunanji programi), kar je ključno za integracijo v poslovne procese. Nadaljnje financiranje je trenutno negotovo, morda se obeta šele v tretjem četrtletju 2026.

Jure Klobčar

Evropski raziskovalci ste omejeni tudi s spoštovanjem avtorskih pravic, medtem ko so ameriška podjetja te gladko kršila.

Veliki komercialni modeli so s spleta postrgali vse, vključno z avtorsko zaščitenimi vsebinami. V Evropi in pri našem modelu spoštujemo zakonodajo, zato ne uporabljamo piratskih virov, kot je to počela npr. Meta. So naši modeli zato slabši? Da. So zato zakoniti? Da.

Evropski zakonodajalec bo moral nasloviti dilemo med konkurenčnostjo in zaščito avtorjev. Japonska je na primer popolnoma sprostila uporabo podatkov za učenje modelov, ZDA se sklicujejo na "Fair Use", v Evropi pa velja direktiva, ki omogoča "opt-out" (izločitev) za komercialne namene. To povzroča zmedo in omejuje nabor podatkov. Mi smo pridobili dovoljenja nekaterih komercialnih virov, kot sta Dnevnik in STA, a takšnih virov je v Evropi malo.

Bi lahko ocenili, kolikšen delež sredstev v primerjavi z ZDA vlaga EU v razvoj umetne inteligence?

Rekel bi, da se v EU vlaga le odstotek zneska, ki ga vlagajo v ZDA. Nvidia, OpenAI, Microsoft in Google vlagajo na stotine milijard dolarjev v strojno opremo in podatkovne centre. Evropski projekt Open EuroLLM dosega morda 100 milijonov evrov. Evropa nima tehnoloških multinacionalk, ki bi lahko vložile potreben kapital za prevlado na trgu in vzpostavitev standardov.

Jure Klobčar

Nekaj se vendarle dogaja tudi pri nas, kako razumete vlogo tovarn umetne inteligence (UI)?

V tovarnah UI vzpostavljamo strojno opremo za učenje jezikovnih modelov.

Iniciativa EU za AI Factories (tovarne UI) je hvalevredna. V slovenski tovarni UI bo prihodnje leto v Mariboru začel delovati superračunalnik Vega 2. To nam bo omogočilo gradnjo večjih modelov, saj trenutno ustrezne strojne opreme doma nimamo; model GaMS smo trenirali na superračunalniku Leonardo v Bologni, v sodelovanju z NVidio in na GPU strežnikih UL FRI.

Celoten evropski HPC (High Performance Computing) sektor je majhen. Projekt Open EuroLLM bo šele z novimi tovarnami, kot je tista v Nemčiji, dejansko lahko izvedel učenje modela do konca.

Kakšna je vloga Kompetenčnega centra za UI?

Kompetenčni center je namenjen demokratizaciji dostopa in podpori uvajanju tehnologije za slovenska podjetja. Superračunalniki zahtevajo specifična znanja, zato projekti vključujejo razvoj kode za lažji dostop, izobraževanja in podporne centre, kjer lahko podjetja sodelujejo s strokovnjaki.

Kakšen bo njihov učinek?

Slovenija ima močno raziskovalno okolje. Nova tovarna UI in superračunalnik Vega 2 (2027) sta velika vložka, ki ponujata priložnost slovenskim podjetjem za povečanje konkurenčnosti. Pridobivanje novih znanj je nujno za vsa podjetja in institucije.

Kakšne so praktične aplikacije te tehnologije, za katere se zanimajo slovenska podjetja?

Najbolj aktualne so agentne tehnologije za optimizacijo procesov. Zanimive ideje smo v projektu PoVeJMo z modeli GaMS preizkusili na več področjih.

V medicini smo denimo razvijali sistem za prepis zdravnikovega nareka v realnem času, ki vključuje tudi takojšnje preverjanje ustreznosti predpisanih zdravil. Za muzeje smo zasnovali interaktivne vodiče, kjer lahko obiskovalci prek slušalk postavijo vprašanje o eksponatu in prejmejo samodejno generiran odgovor.

Za industrijo smo razvili prepoznavo govora v hrupnih okoljih. Izziv je bil vzpostaviti zanesljivo prepoznavo govora, da lahko delavci iz različnih jezikovnih okolij vprašajo, kje je nekaj, in dobijo navodila.

Kako razumete trenja med ZDA in Kitajsko na področju razvoja umetne inteligence?

Glede geopolitičnih razmerij in umetne inteligence so ZDA s politiko zadrževanja Kitajske odigrale močno potezo, čeprav je Kitajska do neke mere vrnila udarec z omejitvami pri redkih zemljah.

Obstaja omejitev, da Nvidia na Kitajsko ne prodaja najnovejših čipov, temveč prilagojene, nekoliko šibkejše sisteme. Kitajska je sicer kasneje prepovedala uvoz nekaterih teh sistemov, saj želi spodbuditi razvoj lastne industrije. Ta prehod se ne bo zgodil čez noč, v petih letih pa je razvoj lastnih rešitev verjeten.

Kakšna tveganja za razvoj umetne inteligence prinaša odvisnost od strojne opreme, razvoj katere je trenutno povsem v rokah ZDA?

Za razvoj velikih jezikovnih modelov (LLM) je največje tveganje dostop do najmočnejše strojne opreme. Trend gre v smeri manjših, a enako zmogljivih modelov. Kitajsko podjetje DeepSeek je denimo z manj viri in preprostejšimi čipi razvilo presenetljivo dober model, a omejitve ostajajo. Za vrhunski razvoj so še vedno nujni najboljši čipi. Razvoj je silovit; življenjska doba vrhunskega modela je praktično eno leto, kar zahteva neprestana vlaganja.

Bi nam razložili, kakšni so ekosistemi industrije polprevodnikov oz. računalniških čipov?

Proces se začne v ZDA z zasnovo čipa (npr. Nvidia) in nadaljuje s strojnim orodjem za tiskanje čipov, ki ga proizvaja nizozemsko podjetje ASML. Naslednji ključni korak je proizvodnja v izjemno čistih prostorih, kar trenutno resnično obvladuje le tajvanski TSMC.

Slednji poskuša proizvodnjo razširiti v ZDA (Arizona), a se sooča s težavami zaradi drugačne delovne kulture in strožjih okoljskih predpisov.

Trg vrhunske strojne opreme obvladuje Nvidia, ki je tudi zaradi pripadajoče programske opreme de facto monopolist z visokimi cenami. Konkurenti (AMD, Google s TPU, Amazon, Microsoft) razvijajo lastne čipe, da bi zmanjšali odvisnost, a tehnološko zaostajajo vsaj dve leti. Kitajska zaradi sankcij in prepovedi uvoza strojnega orodja za 2-nanometrsko tehnologijo zaostaja še bolj, a intenzivno vlaga v lasten razvoj.

Vas skrbi, da bo mehurček UI počil?

Zgodovina pozna "zime umetne inteligence", ko veličastne obljube niso bile izpolnjene. Tokrat je napredek oprijemljiv (npr. transkripcija govora, veliki jezikovni modeli), zato tehnologija ne bo razočarala. Vprašanje pa je, ali so silna vlaganja upravičena.

Pričakovanja o popolni avtomatizaciji in poenostavitvi procesov trčijo ob kompleksnost realnega sveta in človeških organizacij – zato še nimamo samovozečih avtomobilov. Zaradi počasnejše adaptacije procesov so možna razočaranja na borzah, a balonček ne bo popolnoma počil, le realnosti se bo prilagodil.

Jure Klobčar