Naslovnica Magazin Kako zagotoviti, da bo umetna inteligenca pravična

Kako zagotoviti, da bo umetna inteligenca pravična

Avtor: Spletno Uredništvo
Strokovnjaki iz EU Policy Lab so s sodelovanjem Evropskega centra za algoritemsko preglednost (ECAT) poskusili bolje razumeti, kako ljudje komunicirajo z umetno inteligenco (UI). Še posebej so se posvetili vršanjem glede nadzora, temeljnih pravic ter pojmovanja pristranskosti in ‘pravične’ UI.

Kako zagotoviti, da bo umetna inteligenca pravičnaStrokovnjaki za načrtovanje in vedenjske vpoglede iz laboratorija EU Policy Lab so s podporo kolegov iz Evropskega centra za algoritemsko preglednost (ECAT) podrobneje analizirali nekaj pomembnih vidikov interakcij med človekom in umetno inteligenco. Njihove ugotovitve so še posebej pomembne za uveljavitev lani sprejetega zakona Evropske unije o umetni inteligenci (UI).

»Naš kvantitativni eksperiment je vključeval kadrovske in bančne strokovnjake iz Italije in Nemčije, ki so se odločali o zaposlovanju in dajanju posojil pod vplivom priporočil umetne inteligence. Rezultati so bili osupljivi: uporaba ‘pravične’ umetne inteligence je na primer zmanjšala pristranskost glede na spol, ni pa odpravila vpliva že obstoječih človeških pristranskosti pri odločanju,« so pojasnili s Skupnega raziskovalnega središča pri Komisiji EU.

Te ugotovitve so potrdili tudi prek intervjujev z udeleženci in strokovnjaki za UI. Strokovnjaki so tako pogosto dajali prednost interesom podjetja pred poštenostjo in poudarjali potrebo po jasnejših smernicah o tem, kdaj preglasiti predloge umetne inteligence. Če je kdo mislil, da lahko človeški nadzor služi kot učinkovito preverjanje pred pristranskostjo UI, se je torej očitno motil.

Najnovejše ugotovitve EU Policy Lab in ECAT kažejo na potrebo po prehodu od individualnega nadzora k integriranemu sistemu, kateri bo zasnovan tako, da bo naslavljal pristranskosti ljudi in umetne inteligence. Resnični nadzor vključuje več kot le programiranje umetne inteligence, da bo poštena ali zanašanje na individualno presojo. Zato se s strani stroke zagovarja celovit pristop.

Takšen pristop naj bi zajemal tehnični ukrepe (za zagotovitev, da so sistemi UI zasnovani in posodobljeni z mislijo na pravičnost), organizacijske strategije za spodbujanje kulture (katera daje prednost poštenosti in zagotavlja usposabljanje o upravljanju orodij UI) ter politični posegi (določili naj bi jasne smernice za sodelovanje med človekom in umetno inteligenco).

 

Povezani Članki

E-Novice

Prijavi se na pregled dogodkov in bodi na tekočem.