Na nacionalni konferenci o umetni inteligenci poudarek na regulaciji in varnosti

Cilj akta o umetni inteligenci je, da se zagotovi, da so na trgu EU proizvodi in storitve, ki vključujejo umetno inteligenco, varni za zdravje in življenje ljudi, da spoštujejo obstoječo zakonodajo o človekovih pravicah in temeljnih svoboščinah in da se omogoči razvoj enotnega trga za zakonite, varne in zaupanja vredne rešitve umetne inteligence, je ob začetku panela o novi evropski zakonodaji in nacionalnem programu spodbujanja razvoja in uporabe umetne inteligence v Sloveniji dejala državna sekretarka na ministrstvu za digitalno preobrazbo Aida Kamišalić Latifić.

Nacionalni program enotno naslavlja problematiko umetne inteligence na ravni države, v središče pa postavlja človeka in njegovo dobrobit. "Vizija je izboljšati kakovost življenja prebivalcev Slovenije z razvojem in uvajanjem zaupanja vredne umetne inteligence. Ključno pa je, da program naslavlja problematiko horizontalno in medresorsko, kar po eni strani zahteva tesnejše sodelovanje ministrstev, vseh deležnikov, po drugi strani pa seveda omogoča soočanje z izzivi bolj enotno," je pojasnila državna sekretarka.

Akt EU o umetni inteligenci natančno ureja določena vprašanja, še vedno pa bo potrebne nekaj implementacijske zakonodaje na nacionalni ravni, zlasti v povezavi z regulatornimi peskovniki, prek katerih se bo preverjalo, ali je določen sistem umetne inteligence skladen z zahtevami iz tega akta, ocenila Vasilka Sancin z ljubljanske pravne fakultete.

Raziskovalka Vida Groznik z ljubljanske fakultete za računalništvo in informatiko v novi evropski zakonodaji ne vidi dodatnih omejitev za razvoj umetne inteligence. Ima sicer nekaj pomislekov glede uvrstitve izobraževalnih in medicinskih modelov med visoko tvegane produkte, vendar meni, da se bo te izzive lahko obšlo z dobro zastavljenimi regulatornimi peskovniki.

V gospodarstvu je strah pred dokumentom pretiran, je ocenil Jure Jeraj iz podjetja Result. Se ga pa mora razumeti z vidika obširnosti in kompleksnosti, je dodal.

Pri razvoju umetne inteligence bo bistveno tudi financiranje. Nekaj aktivnosti na tem področju Slovenija že izvaja, kot je financiranje raziskovalnih projektov, načrtuje pa se tudi razpise na področju prehoda iz raziskovalnega v inovacijski del, je pojasnil Tomaž Boh z ministrstva za visoko šolstvo, znanost in inovacije.

Umetna inteligenca predstavlja tudi realnost na področju modernizacije obrambnih sistemov. "Informacijska varnost, kibernetski napadi, vse to je nekaj, s čemer se Slovenija danes sooča," je pred začetkom panela o umetni inteligenci in kibernetskih grožnjah opozoril državni sekretar na obrambnem ministrstvu Damir Črnčec. Odpornost pred hibridnimi grožnjami je ključnega pomena za nacionalno varnost, umetno inteligenco se že uporablja pri napadih in na nas je, da iščemo rešitve za zaščito in izvajamo preventivno dejavnost, je izpostavil.

Slovenija je zaradi članstva v Varnostnem svetu ZN in stališča do vojne v Ukrajini dodatno izpostavljena varnostnim tveganjem. Pri zagotavljanju kibernetske varnosti se sicer soočamo pomanjkanju kvalificiranih kadrov. Nekateri vidijo rešitev v umetni inteligenci, ki bi lahko odkrivala kibernetske napade, obdelovala množice podatkov in podobno, je dejal Kory Golob iz Urada RS za informacijsko varnost. A prinaša ta tehnologija tudi velika tveganja, saj jo nasprotna stran uporablja za izvajanje zelo sofisticiranih napadov, je opozoril.

Pri Obveščevalno varnostni službi (OVS) so pri vpeljavi umetne v svoje procese so zaradi kadrovskih in finančnih investicij, ki bi bile potrebne, trenutno še nekoliko previdni. "Malo tipamo teren in spremljamo, kaj delajo drugi, predvsem Nato," je dejal direktor OVS Andrej Fefer.

Stalni predstavnik Slovenije pri Svetu Evrope Andrej Slapničar je izpostavil uporabo umetne inteligence v oboroževalnih sistemih. Pri tem je opozoril ne tveganje, da z regulacijo pride do pretiranega samoomejevanje, medtem ko se nasprotna stran ne bo omejevala.

V Sloveniji so že zabeležili primere lažnih posnetkov predstavnikov političnega vrha, ustvarjenih s pomočjo umetne inteligence, je opozoril vodja nacionalnega odzivnega centra za kibernetsko varnost Gorazd Božič. Med večjimi izzivi so tudi napačni odgovori, ki jih pogosto podajajo orodja, kot je ChatGPT.

Domen Mongus z mariborske fakultete za elekrotehniko, računalništvo in informatiko si je medtem zaželel, da slovenski raziskovalci ne bi zgolj sledili trendom, temveč bi jih tudi postavljali.

Zagotavljanje kibernetske varnosti je pomembno tudi v zasebnem sektorju. V podjetju Nil zato med drugim posvečajo veliko pozornosti izobraževanju zaposlenih, je pojasnila predstavnica podjetja Kristina Batistič.