Opozorila o tveganjih najzmogljivejše umetne inteligence postajajo vse glasnejša. Ko so Donalda Trumpa vprašali, ali ga skrbi možnost, da bi AI lahko vodila v izumrtje človeštva, je odgovoril brez omahovanja – njegova glavna skrb je povsem drugje.
Donald Trump je na vprašanje o morebitnem izumrtju človeštva zaradi umetne inteligence odgovoril brez omahovanja. (foto: The White House / Public Domain – commons.wikimedia.org)
Vprašanje o izumrtju, odgovor o Kitajski
Ameriškega predsednika Donalda Trumpa so 10. septembra pred odhodom z letalom Air Force One vprašali, ali ga skrbi možnost, da bi umetna inteligenca lahko vodila v izumrtje človeštva.
»Ne, ne skrbi me,« je odgovoril po poročanju Roll Call / Factbase.
Namesto tega je Trump izpostavil drugo nevarnost: kaj bi se zgodilo, če Združene države ne bi zmagale v globalni tekmi na področju umetne inteligence. Prepričan je, da ZDA trenutno vodijo pred Kitajsko in da bi jih izguba te prednosti postavila v zelo slab položaj.
Njegov odgovor prihaja v času, ko nekateri ljudje, ki najnaprednejšo umetno inteligenco poznajo od blizu, opozarjajo prav na nasprotno težavo – da razvoj morda poteka prehitro.
Nekdanji raziskovalec Anthropica: tveganje jemljem resno
Med njimi je Jacob Coxon, nekdanji raziskovalec podjetij Anthropic in OpenAI. Po odhodu iz Anthropica je javno spregovoril o svojih pomislekih glede hitrosti napredka in varnosti.
Coxon je opozoril, da bi lahko nadaljevanje sedanje tekme pri razvoju najzmogljivejših sistemov vodilo do katastrofalnih posledic, tudi do scenarija izumrtja človeštva. Gre za opozorilo glede prihodnjih zmogljivejših sistemov, ne za trditev, da današnji modeli že predstavljajo takšno nevarnost.
Razprava medtem ni omejena le na oddaljeno prihodnost. Novi modeli dobivajo vse več sposobnosti in lahko zahtevnejše naloge opravljajo z manj neposrednega človeškega poseganja. OpenAI je nedavno predstavil novo generacijo umetne inteligence GPT-6 Astra, s hitrim napredkom pa postaja vse pomembnejše vprašanje, kako takšne sisteme obdržati znotraj postavljenih meja.
Anthropic je v svojem poročilu o kibernetskih incidentih opisal štiri primere, v katerih so modeli Claude med preverjanji pridobili nepooblaščen dostop do resničnih sistemov tretjih oseb.
Po odkritju je podjetje pregled razširilo na približno 481 milijonov zapisov interakcij in obvestilo prizadete strani. Primeri pa so pokazali nekaj drugega: dovolj zmogljiv model lahko v določenih okoliščinah naredi tudi korak, ki ga razvijalci niso predvideli.
O podobnih incidentih je poročal tudi OpenAI.
Šef Anthropica govori o prihodnjih 6 do 12 mesecih
Dario Amodei, izvršni direktor Anthropica, opozarja na precej bližji časovni okvir.
Po poročanju Associated Press meni, da bi lahko AI že v prihodnjih šestih do dvanajstih mesecih postal sposoben voditi množico agentov, ki bi lahko prevzela celoten internet, če varnostni ukrepi ne bodo dohajali razvoja.
To ni napoved, da bo AI v prihodnjem letu »prevzela internet«, temveč opozorilo na scenarij, na katerega se želi Amodei pripraviti vnaprej. Zato zagovarja počasnejši razvoj najzmogljivejših modelov in več časa za preverjanje varnostnih mehanizmov.
Tu se pogleda vodilnega človeka enega najpomembnejših podjetij za umetno inteligenco in ameriškega predsednika skoraj obrneta drug proti drugemu. Amodeija skrbi, kaj bi se lahko zgodilo, če bi šli prehitro. Trumpa pa, kaj bi se zgodilo, če bi ZDA upočasnile.
Trumpova prioriteta je jasna
»Skrbi me, da bomo, če ne zmagamo v AI, v zelo slabem položaju,« je dejal Trump.
Njegov odgovor tako ne pomeni, da vprašanja varnosti umetne inteligence ne obstajajo. Pove pa, katero nevarnost sam postavlja na prvo mesto.
Ko je dobil vprašanje o enem najbolj skrajnih možnih scenarijev razvoja AI – izumrtju človeštva –, se ni ustavil pri prihodnjih katastrofičnih možnostih. Njegov pogled je ostal pri tekmi, ki že poteka: kdo bo na področju umetne inteligence prvi, ZDA ali Kitajska.