Evropska komisija je pred kratkim predstavila tako imenovano ‘belo knjigo’ o tehnološkem razvoju zanesljive umetne inteligence. Komisija bi rada k razvoju pritegnila tako javni kot tudi zasebni sektor, predvsem zaradi investicij, predpogoj pa je povečanje zaupanja javnosti do umetne inteligence.

Le kaj bi se zgodilo, če bi umetna inteligenca nekega dne ugotovila, da je Evropska komisija nepotreben strošek? (foto: flickr.com)

Na Evropski komisiji se zavedajo, da so sistemi umetne inteligence zapleteni in lahko v določenih razmerah prinašajo znatna tveganja. Prav zato je bistveno vzpostavljanje zaupanja do umetne inteligence, pri čemer so po drugi strani spomnili, da seveda še vedno veljajo evropski predpisi o varstvu potrošnikov, o preprečevanju nepoštenih poslovnih praks ter o varstvu osebnih podatkov in zasebnosti.

»Na zelo občutljivih področjih, na primer v zdravstvu, policijskem nadzoru in prometu, bi morali sistemi umetne inteligence zagotavljati preglednost, sledljivost in človeški nadzor. Za učenje tveganih sistemov in njihovo pravilno delovanje so potrebni nepristranski podatki, da se zagotovita spoštovanje temeljnih pravic, zlasti nediskriminacije,« so zapisali v sporočilu za javnost ob izdaji t.i. ‘bele knjige’ o razvoju zanesljive umetne inteligence.

Kot konkreten primer so omenili tehnologijo prepoznavanja obrazov za biometrično identifikacijo na daljavo, ki je danes v EU na splošno prepovedana, vendar pa se lahko uporablja v izjemnih primerih (ob upoštevanju zaščitnih ukrepov ter na podlagi nacionalne ali EU zakonodaje). Komisija želi začeti široko razpravo o tem, kakšni pogoji, če sploh kateri, bi morda lahko upravičili nekatere izjeme.

Poleg tega so glede vzpostavljanja zaupanja dodali, da bi morala biti nova zakonodaja o umetni inteligenci prilagojena tveganjem, biti učinkovita, ne bi smela omejevati inovacij in bi morala zagotoviti nepristranski nabor podatkov. Predvsem pa bi morala umetna inteligenca ostati pod človekovim nadzorom.