Umetna inteligenca prinaša nove izzive in tveganja za mladostnike

UI postaja sestavni del življenja mladostnikov. Raziskava, ki sta jo v letu 2024 v okviru projekta Digitalna zrelost mladih: družbene potrebe in neformalno izobraževanje mladih v digitalni dobi izvedli ljubljanski fakulteta za družbene vede in pedagoška fakulteta, je pokazala, da UI pri šolskem delu dnevno uporablja 20,4 odstotka srednješolcev, tedensko 39,9 odstotka, mesečno 21,5 odstotka in nekajkrat letno 14,3 odstotka. UI pri šolskem delu po raziskavi nikoli ne uporablja le 3,9 odstotka srednješolcev.

Marko Puschner s Točke osveščanja o varni rabi interneta Safe.si, ki deluje v okviru fakultete za družbene vede, je za STA poudaril, da je lahko UI, še posebej generativna, zelo uporabna pri številnih opravilih, vendar pa prinaša tudi številna tveganja in izzive.

"Ker ima ohlapna etična varovala ali pa jih sploh nima, jo je mogoče zlorabiti v različne namene, ki lahko posamezniku povzročijo škodo in osebno stisko," je poudaril.

Po njegovih besedah je zelo pomembna kritična presoja in preverjanje informacij, ki jih proizvede UI. "Še posebej, če jo posameznik uporabi za pomembne naloge, na osnovi odgovorov sprejema bistvene odločitve ali išče odgovore o občutljivih temah," je dejal.

Tveganja za mladostnike zlasti napačne informacije, čustvena navezanost in ustvarjanje spolnih vsebin

Na Safe.si podrobno spremljajo tveganja, ki jih mladostnikom prinaša UI. Med bolj problematična uvrščajo ravno napačne informacije, pa tudi razumevanje orodja UI kot prijatelja in predelavo ter izdelavo golih fotografij.

Številni učenci si pri šolskem delu pomagajo z orodji UI, a odgovori, čeprav na videz pravilni, lahko vsebujejo napake, opozarjajo. Pri Safe.si svetujejo, naj učenci zato informacije dodatno preverijo v učbenikih in literaturi. Da bi osnovnošolce in srednješolce opozorili na to problematiko, bodo pri Safe.si v februarju šolam poslali plakat, ki opozarja na možnost napačnih odgovorov UI.

Kot je opozoril Puschner, so za mladostnike še posebej problematični klepetalniki, kot sta na primer MyAI in ChatGPT, saj dobro posnemajo človeške odgovore, uporabnika pa tako zelo hitro zavedejo v mišljenje, da se pogovarja z resnično osebo.

Mladi se lahko po njegovih besedah čustveno navežejo na tak klepetalnik, ga sprejemajo kot prijatelja, se k njemu zatekajo, kadar so osamljeni, mu zaupajo čustvene stiske in težave. "To lahko pusti negativne posledice na razvoju mladostnika in ustvari nerealna pričakovanja do soljudi," je poudaril. Pri Safe.si opozarjajo, da gre zgolj za algoritme brez čustev, katerih nasveti so lahko zavajajoči in nevarni.

Na točki za prijavo posnetkov spolnih zlorab otrok Spletno oko pa opozarjajo tudi na velik izziv, ki se navezuje na predelave posnetkov s spolno vsebino oz. na t. i. deepnude.

Storilci zlorab na tem področju brez privolitve s pomočjo UI vstavijo obraze žrtev v posnetke spolne narave, ki so lahko videti zelo prepričljivo. Čeprav gre za lažne podobe, so posledice za žrtve lahko resne, navajajo pri Spletnem očesu. Ob sramu in prizadetosti lahko čutijo tudi negotovost glede nadaljnjega ukrepanja. Kot poudarjajo, je zato ključno, da se starši informirajo o vseh tovrstnih tveganjih in se o njih redno in na odprt način pogovarjajo z otroki.

Orodja UI treba uporabljati odgovorno

Za varno, odgovorno in zdravo uporabo UI so na Safe.si za mladostnike pripravili nekatera priporočila. Med drugim izpostavljajo, da naj mladostniki med 13. in 18. letom orodja generativne UI uporabljajo le z dovoljenjem staršev. Informacije, ki jih prejmejo, naj vedno preverijo pri zanesljivih virih, nikoli pa naj v teh orodjih ne delijo osebnih ali zasebnih podatkov.

Uporabljajo naj le zaupanja vredna orodja ter preverijo pogoje uporabe in varovanje zasebnosti. Pomembno je, da imajo nadzor nad pogovorom. Če odgovori povzročajo neprijetne občutke, naj pogovor prekinejo ali spremenijo temo. Škodljive ali neprimerne vsebine naj prijavijo ponudnikom storitve, saj povratne informacije pomagajo izboljšati varnost.

UI naj uporabljajo etično in odgovorno, na primer za učenje, raziskovanje in kreativnost, ne pa za goljufanje ali nasilje. Pri aplikacijah in igrah, ki temeljijo na UI, pa naj bodo zmerni, da se izognejo tveganju zasvojenosti.

Ozaveščenost o tveganjih UI še vedno majhna

Kot opozarja Puschner, se v javnosti še vedno veliko pozornosti posveča pozitivnim vidikom uporabe UI, medtem ko se o tveganjih govori bistveno premalo. Zaradi tega so letošnji mesec in dan varne rabe interneta na Safe.si posvetili UI. Da bi mladostnike, starše in učitelje še dodatno opozorili na tveganja in jih spodbudili h kritičnemu premisleku, pripravljajo številne aktivnosti, kot sta spletni seminar za starše in konferenco za učitelje in druge šolske delavce.

Dan varne rabe interneta je osrednji dogodek evropske mreže centrov za varnejši internet. Znotraj nje že od leta 2005 uspešno deluje tudi slovenski Center za varnejši internet in Safe.si.

V Sloveniji smo dan varne rabe interneta prvič praznovali leta 2006, kot glavni koordinator za Slovenijo pa so ga na Safe.si razširili na ves februar, ki so ga poimenovali mesec varne rabe interneta.