Okrogla miza: Strah pred pametno umetno inteligenco je zaenkrat odveč

Kot je dejal Jonas Valbjorn Andersen z IT Univerze v Kopenhagnu, "smo še zelo daleč od pametne umetne inteligence"; ta namreč resda spreminja načine, kako delujemo, vendar pa človeka ne more nadomestiti.

Vseeno pa je po besedah Paula Kuyerja z dublinske City University umetna inteligenca izzvala človekovo dojemanje sebe kot "univerzalnega" racionalnega misleca, kar je eden od razlogov, da je pomembno razumeti, kaj umetna inteligenca sploh je.

Ivan Bratko z ljubljanske fakultete za računalništvo in informatiko je v svoji predstavitvi tako med drugim pojasnil delovanje umetne inteligence na podlagi t.i. črne oziroma transparentne škatle.

Ko umetna inteligenca deluje kot črna škatla, uporabnik ne ve, kako je sistem iz podatkov ustvaril rezultate, medtem ko to za transparentno škatlo ne velja. "Transparentne škatle so pomembne za zaupanje v umetno inteligenco oziroma za zaupanja vredno inteligenco," kar je tudi eden od ciljev evropske strategije za umetno inteligenco.

Kot je še pojasnil Bratko, je bil največji napredek v zadnjem desetletju dosežen na področju t.i. globokega učenja, kjer se je število napak pri rezultatih zmanjšalo z okoli 25 odstotkov leta 2010 na okoli dva odstotka leta 2016, vendar pa so nevronske mreže postale toliko bolj kompleksne, da jih je vedno težje oziroma že skoraj nemogoče razumeti - postajajo črne škatle.

Kljub napredku pa algoritmi še vedno naredijo tudi človeku povsem nerazumljive napake, kar je Bratko ponazoril s primerom sistema za prepoznavanje slik, ki ni prepoznal pande in jo je namesto za pando označil za gibona.

Tovrstne napake vzbujajo tudi vprašanje glede varnosti takšnih algoritmov, saj v veliko primerih uporabe niso sprejemljive, na primer v avtomobilski industriji in avtonomni vožnji.

Aljaž Košmerlj z Instituta Jožef Stefan pa je ob tem poudaril, da so sistemi umetne inteligence trenutno orodja - v resnici preprosta orodja, ki so namenjena izvajanju določene naloge.

Pred okroglo mizo je potekala tudi mednarodna delavnica z istim naslovom, celoten dogodek pa je bil namenjen iskanju "konkretnih rešitev o prihodnosti razvoja algoritmov, umetne inteligence, kibernetike, kognitivnih sistemov in kibernetske varnosti, tudi iz socialno-etičnega vidika".