Stroka o UI: Vprašanje regulacije

V letošnjem decembru sta Svet EU in Evropski parlament dosegla okvirni dogovor o aktu, ki vsebuje pravila za uporabo UI v uniji. Dogovor je podprla tudi Evropska komisija. Njegov namen je zagotoviti varnost sistemov UI ter spoštovanje temeljnih pravic in vrednot, obenem pa spodbujati vlaganje in inovacije na tem področju.

Čeprav so ZDA in Kitajska v razvoju UI nekoliko bolj napredne kot pa EU in so tudi že naredile nekaj korakov v smeri regulacije tovrstnih tehnologij, pa je po besedah raziskovalca na Oddelku za inovacije in digitalizacijo v pravu Univerze na Dunaju Žiga Škorjanca ravno EU tista, ki je trenutno na poti k učinkovitejši in celovitejši regulaciji UI. "Akt EU o umetni inteligenci v zahodnem svetu zagotovo predstavlja prvo regulacijo na tem področju, ki zajema vse sektorje. Gre tudi za prvo celovito pravno regulacijo na svetovnem nivoju," je dejal za STA.

Z njim se strinja tudi strokovnjak za umetno inteligenco Marko Grobelnik, ki meni, da z aktom o UI to področje šele zdaj prehaja v fazo, ko bomo sploh imeli pravno zavezujočo regulacijo. "Do zdaj so namreč veljala zgolj določena priporočila na primer Organizacije za gospodarsko sodelovanje in razvoj (OECD) in Unesca," je poudaril.

Najbolj kompleksen predvsem sklop o sistemih UI velikega tveganja

Evropska regulacija po besedah Grobelnika ne regulira tehnologije, ampak njeno uporabo v določenem sektorju. "Vedeti moramo, da je na primer uporaba ChatGPT v medicini za diagnosticiranje bolnika nekaj popolnoma drugega kot njegova uporaba v zabavni industriji," je opozoril.

Akt bo sicer določal obveznosti za ponudnike in uporabnike glede na stopnjo tveganja, ki ga povzroča ta tehnologija. Po pojasnitvah Škorjanca se začenja s prepovedanimi praksami, ki očitno ogrožajo temeljne pravice ljudi. Pri uporabah UI, kjer praksa ni prepovedana in kjer ne gre za sistem visokega tveganja, se bo po njegovih besedah zagotavljala zgolj transparentnost. "Končni uporabnik bo torej moral biti seznanjen s tem, da določeno orodje temelji na umetni inteligenci," je dejal Škorjanc. Uporabe te tehnologije, kjer je stopnja tveganja zelo majhna ali celo zanemarljiva, pa ne bodo regulirane.

Kot je pojasnil, pa bo najbolj kompleksen del akta obsegal sklop o sistemih umetne inteligence velikega tveganja, ki se nanaša na zagotavljanje varnosti produktov. Primeri takšnih sistemov so nekatere kritične infrastrukture, na primer na področju vode, plina in elektrike, sistemi za določanje dostopa do izobraževalnih ustanov ali za zaposlovanje ljudi ali nekateri sistemi, ki se uporabljajo na področju kazenskega pregona, pravosodja itd. Ti sistemi bodo zato morali izpolnjevati stroge zahteve, predvsem implementirati načine obvladovanja tveganja, zagotavljati jasne informacije oz. navodila za uporabnike, temeljiti na človeškem nadzoru, visoki stopnji robustnosti, natančnosti in kibernetski varnosti.

Politični sporazum o aktu morata zdaj uradno potrditi Evropski parlament in Svet EU, veljati pa bo začel 20 dni po objavi v Uradnem listu, na svoji spletni strani navaja Evropska Komisija. Akt o umetni inteligenci se bo nato začel uporabljati dve leti po začetku veljavnosti, razen nekaterih posebnih določb. Prepovedi se bodo uporabljale že po šestih mesecih, medtem ko se bodo pravila o umetni inteligenci za splošne namene uporabljala po dvanajstih mesecih.

Izziv predvsem v demokratizaciji razvoja umetne inteligence

Tako po besedah Grobelnika kot Škorjanca bo tovrstna regulacija vsekakor omogočila razvoj varnejših in bolj učinkovitih sistemov, ki temeljijo na tehnologijah umetne inteligence. Kot opozarjata, pa ima vsaka regulacija tudi svoje izzive. Nekoliko odprto še vedno ostaja vprašanje demokratizacije razvoja umetne inteligence.

"Zavedati se moramo, da vsaka regulacija, bolj kot je stroga, bolj je naklonjena največjim ponudnikom tehnologije, saj jih razmeroma najmanj obremenjuje. Slednji si namreč lažje privoščijo implementacijo ukrepov za skladnost in v primeru nestrinjanja z nadzorno inštitucijo tudi sprožijo pravni spor. Pri malih ali srednje velikih podjetjih je zgodba drugačna, zato lahko regulacija zaradi njihove slabše finančne sposobnosti zatre razvoj inovacij. To je bila tudi ena ključnih točk v razpravi o aktu. Nujno je, da bodo za ta podjetja veljala manj stroga pravila, ki jim bodo zagotovila pot na trg," je pojasnil Škorjanc.

Po besedah pravnice in profesorice na Pravni fakulteti Univerze v Ljubljani Vasilke Sancin pa je tudi dostopnost UI zagotovo eden večjih izzivov in lahko sproži več vprašanj glede uresničevanja posameznih človekovih pravic, od pravice do učinkovitega pravnega sredstva in poštenega sojenja, če so na primer sistemi UI dostopni le eni od strank v sporu, do uveljavljanja pravice do zdravja, če so določene zdravstvene storitve, na primer nevrotehnologije, ki uporabljajo UI, dostopne samo premožnejšim slojem prebivalstva.

"Prepoved vsakršnega razlikovanja, zlasti glede na raso, spol, jezik, vero, politični ali drugi nazor itd., mora biti eno temeljnih vodil pri slehernem razvoju in uporabi UI. Vse preveč je že dokazov in študij, da so že razviti sistemi UI v nekaterih primerih izrazito diskriminatorni, kar pomeni, da bi bilo nanje treba uvesti moratorij, nadaljnji razvoj pa prepovedati, dokler se vsakršni predsodki ne odpravijo," je poudarila.

"Smiseln se zato zdi previdnostni pristop, da se torej UI uporablja, če se predhodno dokaže, da ni diskriminatorna, kar pa se ugotavlja v vseh fazah življenjskega cikla UI. Transparentnost je pri tem ključnega pomena," je dejala.

Dodaten izziv pri regulaciji umetne inteligence pa se med drugim pojavlja tudi na področju avtorskih pravic, predvsem, kako definirati avtorstvo v primeru, ko je v ustvarjanje vpletena umetna inteligenca, je opozoril Škorjanc. Po njegovih besedah pa je po trenutnem evropskem avtorskem pravu lahko samo fizična oseba avtor vsebin. "Ko torej posameznik tehnične sisteme, ki bodisi temeljijo na UI bodisi ne, uporablja kot orodje, je sam še vedno avtor produkta oz. vsebine. Če bi se torej zgodilo, da bi vsebino generiral sistem brez kakršnegakoli vpliva človeka, pa avtorsko pravo ne bi smatralo umetno inteligenčnega sistema za avtorja. Vemo pa, da taki sistemi danes še ne obstajajo," je pojasnil.

Ključno vprašanje torej ni, ali ima avtorske pravice orodje ali fizična oseba, temveč ali so ob določeni ustvarjeni vsebini avtorske pravice pri uporabniku ali ponudniku orodja. "Tu so še določene nejasnosti, ki jih bo potrebno še razjasniti," je opozoril.

Kljub hitremu razvoju umetne inteligence bo načrtovana regulacija po mnenju strokovnjakov učinkovita

Ob izjemno hitrem razvoju umetne inteligence se sicer poraja vprašanje, ali je sploh možno oblikovati učinkovito regulacijo, ki bi ta razvoj dohajala. Po mnenju Škorjanca pa ni razloga, da akt EU o UI ne bi bil učinkovit pri doseganju zastavljenih ciljev. "Je pa res, da je pametno regulacijo težje narediti kot pa nespametno, ki vse enostavno prepove ali pa ki je zastarela že na dan, ko stopi v veljavo," je dejal.

"Regulacija je cikličen proces, ki ni nikoli čisto zaključen," je poudaril. Kot je pojasnil bo ravno zato akt o umetni inteligenci odprte narave in se bo z razvojem tehnologije umetne inteligence tudi dopolnjeval in nadgrajeval. "Ob tem pa je ključno, da se tehnične koncepte, ki se jih definira kot UI, zastavi dovolj široko, da bodo zakonska pravila veljala tudi za novo razvite tehnologije," je še izpostavil.