Napredni algoritmi umetne inteligence so zelo zapleteni in njihove odločitve lahko tudi diskriminirajo, opozarja študija evropskega parlamenta o vplivih umetne inteligence. Umetna inteligenca namreč temelji na računalniških algoritmih, ki analizirajo velike količine podatkov, vzpostavljajo povezave med različnimi podatki in se tako učijo – če je diskriminacija vgrajena v sam algoritem ali podatke, na podlagi katerih se uči, bodo takšne tudi njegove odločitve.
Umetno inteligenco si pogosto narobe predstavljamo, saj nima ‘telesa’, ampak se skriva v algoritmih in aplikacijah (foto: vimeo.com)
Urad parlamenta EU za oceno znanstvenih in tehnoloških dosežkov (STOA) je pripravil razpravo o umetni inteligenci, algoritmih in morebitni diskriminaciji, ki so jo poimenovali ‘Je preglednost algoritmov dober odgovor na izzive, ki jih ti prinašajo?’ Umetna inteligenca z algoritmi namreč ne vpliva samo na to, kaj se nam prikaže na socialnih omrežjih, ali v rezultatih iskanja na spletu.
»Preglednost algoritmov sama ne bo rešila tega problema. Potrebujemo ljudi, ki res razumejo, kaj se dogaja,« pravi Michail Bletsas iz MIT Media Lab, ki deluje na eni najbolj uglednih svetovnih univerz MIT. »Umetna inteligenca je povsod, presenečeni bi bili, v koliko aplikacijah je prisotna, Za človeka je zelo težko ali celo nemogoče razumeti razloge, ki tičijo za določeno odločitvijo,« pravi študija urada STOA (ki sicer letos praznuje 30 let obstoja).
“Algoritmi odločajo o tem, kaj bomo videli na svojem Facebooku ali v rezultatih iskanja na Googlu. Če ne vemo, kako so algoritmi prišli do teh odločitev, kako smo lahko prepričani, da so pravilne,” je opozorila poslanka Eva Kaili (S&D, Grčija), sicer tudi predstojnica STOA. Poslanka Kaili je ob tej priložnosti skupaj s poslancem Paulom Rübigom (ELS, AT) zagnala pobudo European Science-Media Hub.
Nello Cristianini, profesor umetne inteligence na univerzi v Bristolu, pa je poudaril drugi vidik in sicer, da ‘so podatki nova nafta’. »Vedenje ljudi lahko predvidimo na podlagi njihovega preteklega obnašanja. Predvidimo lahko, kaj bodo naredili v tipičnih situacijah. To lahko uporabimo pri izdelavi strojev, ki oponašajo človeško obnašanje,« so zapisali na spletnem mestu evropskega parlamenta.