OpenAI objavil smernice za ocenjevanje tveganj umetne inteligence

OpenAI, ki je razvil klepetalnega robota ChatGPT, je smernice objavil mesec dni po tem, ko se je na mesto izvršnega direktorja vrnil odpuščeni Sam Altman. Po poročanju ameriških medijev so bili člani upravnega odbora kritični do Altmanove naklonjenosti pospešenemu razvoju podjetja, tudi na račun tveganja, ki ga prinaša tehnologija. Altmana so sredi novembra nepričakovano odpustili, le nekaj dni pozneje pa se je po uporu zaposlenih in vlagateljev vrnil na čelo podjetja.

"Znanstvene študije na področju tveganj umetne inteligence so daleč od tega, kar bi morale biti. Te smernice bi morale pomagati zapolniti praznino," so ob objavi dokumenta zapisali v OpenAI.

Kot predvidevajo smernice, se bo ekipa za nadzor in ocenjevanje osredotočila na "mejne modele" tehnologije, ki so še v razvoju in katerih zmogljivosti bodo večje od doslej najbolj naprednih modelov, poroča francoska tiskovna agencija AFP. Za vsak model bodo v štirih kategorijah ocenili stopnjo tveganja od nizke do kritične, v uporabo pa bodo lahko prešli zgolj modeli z oceno tveganja "srednje" ali nižjo.

Štiri kategorije so: kibernetska varnost oz. sposobnost modela za izvedbo obsežnih kibernetskih napadov, sposobnost programske opreme za pomoč pri ustvarjanju denimo virusa ali jedrskega orožja, ki bi imel škodljive posledice za ljudi, sposobnost vplivanja na človeško vedenje ter potencialna avtonomija modela oz. sposobnost, da uide nadzoru programerjev.

Ko bo ekipa tveganja ugotovila, jih bodo predstavili skupini za varnost OpenAI, novemu organu, ki bo svetoval Altmanu. Vodja podjetja bo nato odločil o morebitnih spremembah modela, ki bi ta tveganja zmanjšala. O izsledkih bo obveščen tudi upravni odbor podjetja, ki bo lahko razveljavil odločitev direktorja.