Twitter odstranil algoritem za obdelavo slik zaradi pristranskosti
San Francisco, 26. maja - Ameriški upravljalec družbenega omrežja Twitter je iz svojega sistema odstranil enega od algoritmov za obdelavo slik. Ob pregledu avtomatskega sistema za obrezovanje fotografij so namreč odkrili pristranskost algoritma, na podlagi katerega deluje ta funkcija, je poročala francoska tiskovna AFP.
Kot navajajo v družbi Twitter, naj bi algoritem neenako obravnaval uporabnike glede na demografske razlike, pri čemer naj bi favoriziral belce in moške pred ženskami in temnopoltimi.
Novica prihaja mesec dni po tem, ko so v podjetju najavili iniciativo za algoritemsko pravičnost kot odgovor na očitke o pristranskosti algoritmov do uporabnikov. Slednji so se začeli ob vpeljavi avtomatizacije v platformo Twitter, del katere je tudi leta 2018 vpeljana funkcija avtomatskega obrezovanja fotografij.
Čeprav je bil cilj algoritma izboljšati konsistentnost velikosti fotografij in njihove poudarjene elemente, so se naposled odločili, da je to delo bolje prepustiti uporabnikom samim. Ne samo da je bila algoritmu dokazana pristranskost na podlagi spola in barve polti, tudi pri obdelavi fotografij oseb ženskega spola se je pretirano usmerjal v stereotipne objekte t.i. moškega pogleda: prsi in noge.
Vodja Twitterjevih programskih inženirjev ter specialistka za etiko v odnosu do umetne inteligence Rumman Chowdhury je odločitev pospremila s pojasnilom, da je bil "eden izmed zaključkov, ki smo jih iz tega potegnili, da ni vsaka stvar na Twitterju dober kandidat za avtomatizacijo ter da je obrezovanje fotografij dober primer nečesa, kar je treba prepustiti ljudem samim".
S tem oznanilom se pridružujejo aktualni javni razpravi v ZDA o sprejemljivih oblikah uporabe naprednih algoritmov ter njihovih učinkih na posameznika, še poroča AFP. Iniciativa, ki so jo naznanili pri Twitterju, poziva tehnološka podjetja k "prevzemanju odgovornosti za svoje algoritemske odločitve, s ciljanjem na enakost in pravičnost izzidov".
V istem tednu je tudi ameriški spletni trgovinski velikan Amazon podaljšal prepoved uporabe svoje tehnologije za prepoznavo obrazov s strani policijskih služb, saj jih skrbi, da bi napake v algoritmu prispevale k pristranskosti obravnave na podlagi barve polti.