Človeški spomin ni nezmotljiv, umetna inteligenca pa lahko njegove napake še okrepi. V nadzorovanem poskusu MIT so udeleženci po pogovoru z zavajajočim klepetalnikom oblikovali več kot trikrat toliko lažnih spominov kot kontrolna skupina. Druge raziskave kažejo, da lahko na spomin vplivajo tudi prirejene fotografije, videoposnetki in napačni povzetki dogodkov.

Dvojna podoba obraza simbolizira, kako lahko umetna inteligenca vpliva na naše spomine in dojemanje resničnosti. (foto: Frank Flores / Unsplash+)

Ko se v spomin prikrade nekaj, česar ni bilo

Predstavljajte si, da ste priča prometni nesreči. Zapomnite si avtomobil, križišče in prometni znak ob cesti. Naslednji dan preberete povzetek dogodka, ki ga je pripravila umetna inteligenca, vendar je v njem prometni znak opisan drugače, kot ste ga videli. Ko vas nekdo pozneje vpraša, kaj se je zgodilo, lahko napačno podrobnost navedete kot del lastnega spomina. Pri tem se vam sploh ni treba zavedati, da ste jo izvedeli šele naknadno.

Prav takšen vpliv poznejših informacij na spomin so v zadnjih letih preučevali raziskovalci ameriških univerz. Njihovi poskusi kažejo, da lahko zavajajoči pogovori z umetno inteligenco, prirejene podobe in napačni povzetki dogodkov vplivajo na to, kako si ljudje zapomnijo že videne prizore. Presenetljiva ni samo možnost napačnega spominjanja, temveč tudi prepričanost, s katero lahko posameznik zagovarja podrobnost, ki je v resnici ni bilo. Psihologija že desetletja ugotavlja, da spomin ne deluje kot nespremenjen posnetek preteklosti. Vsakič, ko se nekega dogodka spominjamo, možgani obnavljajo informacije, pri čemer lahko nanje vplivajo tudi poznejše izkušnje in sporočila drugih ljudi. Umetna inteligenca te človeške ranljivosti ni ustvarila, je pa ponudila nove načine, kako lahko napačne informacije postanejo del našega dojemanja preteklih dogodkov.

Pogovor s klepetalnikom je povečal število lažnih spominov

Raziskovalci ameriškega Massachusetts Institute of Technology (MIT) so avgusta 2024 objavili raziskavo, v kateri je sodelovalo 200 ljudi. Udeleženci so si ogledali posnetek kaznivega dejanja, nato pa so raziskovalci preverjali, kako se spominjajo prikazanega dogajanja. Primerjali so štiri eksperimentalne pogoje: kontrolno skupino, klasično anketo, vnaprej pripravljenega klepetalnika in generativnega klepetalnika, ki je uporabljal velik jezikovni model. Med vprašanja so namenoma vključili pet zavajajočih informacij. Najizrazitejši učinek so zaznali pri generativnem klepetalniku. Udeleženci te skupine so neposredno po pogovoru oblikovali več kot trikrat toliko lažnih spominov kot kontrolna skupina, v primerjavi s klasično anketo pa je bilo takšnih spominov 1,7-krat toliko. Raziskava je pokazala tudi, da je bilo 36,4 odstotka odgovorov v skupini z generativnim klepetalnikom pod vplivom zavajajočih informacij, posredovanih med pogovorom.

Raziskovalci so spomin udeležencev ponovno preverili po enem tednu. Število lažnih spominov, nastalih v skupini z generativnim klepetalnikom, se ni zmanjšalo, prepričanost o njihovi pravilnosti pa je ostala višja kot v kontrolni skupini. To nakazuje, da vpliv zavajajočega pogovora v obravnavanih razmerah ni bil omejen samo na trenutek, ko so ljudje odgovarjali na vprašanja. Poskus je bil zasnovan kot simulacija zasliševanja prič, zato njegovih rezultatov ni mogoče neposredno prenesti na običajne pogovore z umetno inteligenco. Pokaže pa, zakaj je lahko uporaba takšnih orodij občutljiva v okoliščinah, kjer je natančnost pričevanja odločilna. Če sistem človeku med spraševanjem ponuja napačne podrobnosti, lahko vpliva na odgovore, čeprav jih sogovornik dojema kot lasten spomin.

Kaj se zgodi, ko umetna inteligenca spremeni fotografijo?

Pri naslednjem raziskovalnem koraku so znanstveniki namesto pogovora uporabili vizualno gradivo. Zanimalo jih je, kako na človekovo spominjanje vplivajo fotografije in videoposnetki, ki jih je spremenila ali ustvarila umetna inteligenca. V raziskavi, objavljeni aprila 2025 v zborniku znanstvene konference CHI in dostopni prek raziskovalnega repozitorija MIT, je sodelovalo 200 ljudi. Razdeljeni so bili v štiri skupine po 50. Po ogledu izvirnih fotografij so prejeli različne oblike gradiva: nespremenjene fotografije, fotografije, prirejene z umetno inteligenco, umetno ustvarjene videoposnetke ali videoposnetke, nastale iz že prirejenih fotografij. Največji vpliv so raziskovalci zaznali pri zadnji skupini. Udeleženci, ki so gledali videoposnetke iz umetno spremenjenih fotografij, so imeli 2,05-krat toliko lažnih spominskih priklicev kot kontrolna skupina. Njihova prepričanost o pravilnosti teh spominov je bila prav tako višja. Raziskava je s tem pokazala, da lahko naknadno spremenjeno vizualno gradivo vpliva na to, kako si človek zapomni prvotno prikazane prizore.

Takšne ugotovitve postajajo pomembnejše z razvojem orodij, ki lahko s fotografije odstranijo predmet, dodajo osebo ali iz statične podobe ustvarijo gibljiv prizor. Tehnologija ima številne koristne in ustvarjalne možnosti uporabe, vendar umetno spremenjena podoba ne more samodejno veljati za zanesljiv prikaz resničnega dogodka. Težava nastane predvsem takrat, ko izgubimo podatek o njenem izvoru in jo začnemo obravnavati kot pristno dokumentarno gradivo. Zaupanje digitalnim informacijam sicer ni pomembno samo pri fotografijah in videoposnetkih. Na Dnevnih Novicah smo že pisali o tem, kako lahko umetna inteligenca omeji raznolikost informacij, ki jih prejmemo pri iskanju odgovorov. Raziskave spomina opozarjajo na drugačno posledico: informacije, s katerimi se srečamo pozneje, lahko vplivajo tudi na naše spominjanje že doživetega.

Napačen povzetek je močno spremenil odgovore udeležencev

Še neposrednejši vpogled v vpliv napačnih informacij prinaša raziskava znanstvenikov Georgetown University in University of Washington, objavljena septembra 2026 in predstavljena na konferenci AIES oktobra istega leta. Raziskovalci so preverjali, kako natančno veliki jezikovni modeli povzemajo videoposnetke dogodkov in ali lahko napake v povzetkih vplivajo na poznejše spominjanje gledalcev. Najprej so analizirali 20 povzetkov dveh kratkih animiranih videoposnetkov prometne nesreče, ki sta jih pripravljala ChatGPT in Gemini. Rezultat je bil presenetljiv: v 19 od 20 povzetkov ni bilo omenjeno niti osrednje dogajanje – trčenje avtomobila s pešcem. Sistemi so v povprečju izpustili 51,6 odstotka pomembnih podrobnosti. Gre za ugotovitve omejenega raziskovalnega preizkusa, ne za splošno oceno zanesljivosti obeh sistemov.

V drugem delu raziskave so preverili, kaj se zgodi, ko ljudje po ogledu dogodka preberejo povzetek z napačno informacijo. Obe stopnji poskusa je opravilo 331 udeležencev, v končno statistično analizo pa so jih vključili 328. Najprej so si ogledali animirani posnetek avtomobila, ki se približa križišču, zavije desno in trči v pešca. Na križišču je bil bodisi znak STOP bodisi znak za odstop prednosti. Po 24 do 48 urah so udeleženci prebrali povzetek dogodka. Nekateri so prejeli pravilno različico, drugim pa so raziskovalci namenoma spremenili informacijo o prometnem znaku. Nato so jih vprašali, katerega znaka se spominjajo z izvirnega posnetka. Razlika je bila izrazita. Med udeleženci, ki so prebrali pravilen povzetek, jih je prometni znak pravilno prepoznalo 83,6 odstotka. Med tistimi, ki so prejeli zavajajočo različico, je bilo pravilnih odgovorov samo 44,8 odstotka. Razlika je znašala 38,8 odstotne točke, čeprav so si vsi pred tem ogledali izvirni dogodek.

Znanstveniki so preverili tudi, ali na odgovore vpliva informacija o avtorju povzetka. Nekaterim udeležencem so povedali, da je besedilo ustvarila umetna inteligenca, drugim, da ga je pripravil človek. To razlikovanje ni odpravilo vpliva napačne informacije. Ljudje so bili dovzetni za zavajajočo vsebino ne glede na to, komu so pripisovali njeno avtorstvo. Pri razlagi rezultatov je pomembna razlika med napačno prepoznano podrobnostjo in povsem izmišljenim spominom na celoten dogodek. Raziskava ni pokazala, da so udeleženci pozabili prometno nesrečo ali da jim je tehnologija izbrisala spomin. Pokazala je, da lahko zavajajoč povzetek občutno zmanjša pravilnost poznejšega prepoznavanja posameznega dela dogodka.

Ko ena napačna podrobnost postane pomembna

V običajnem pogovoru napačno zapomnjen prometni znak morda ne bi imel večjih posledic. Drugače je pri policijskih preiskavah, pričanjih in sodnih postopkih, kjer lahko že posamezna podrobnost vpliva na rekonstrukcijo dogajanja. Če priča pred zaslišanjem prebere napačen povzetek posnetka ali odgovarja na sugestivna vprašanja, je lahko razlikovanje med njenimi neposrednimi opažanji in naknadno prejetimi informacijami zahtevnejše. Toda uporaba umetne inteligence že dolgo ni omejena na takšne okoliščine. Samodejni povzetki se uporabljajo pri službenih sestankih, urejanju dokumentov, pregledu daljših pogovorov in iskanju informacij. Če sistem v povzetku izpusti pomemben del dogovora ali napačno pripiše izjavo določeni osebi, lahko uporabnik pozneje iz takšnega zapisa izpelje napačen sklep o tem, kaj se je zgodilo.

Ali takšne napake v vsakdanjem življenju tudi dejansko povzročajo lažne spomine tako pogosto kot v laboratorijskih poskusih, za zdaj ni mogoče zanesljivo oceniti. Obravnavane raziskave so potekale v posebej zasnovanih okoliščinah, rezultati pa ne pomenijo, da umetna inteligenca pri vseh ljudeh enako vpliva na pomnjenje. Kljub temu ponujajo tehten razlog, da pomembnih informacij ne preverjamo izključno prek samodejno ustvarjenih povzetkov. Koristno je ohraniti izvirne dokumente, posnetke in zapiske, zlasti kadar bi bilo treba pozneje ponovno ugotoviti, kaj je nekdo dejansko izjavil ali storil. Pozornost si zaslužijo tudi vprašanja, ki že vsebujejo domnevo o določenem dogodku. Med vprašanjem, kaj je človek videl, in vprašanjem, ali je opazil določeno stvar, obstaja pomembna razlika, če te stvari v resnici sploh ni bilo.

Najbolj prepričljiv spomin ni vedno tudi pravilen

Človeški spomin lahko vsebuje napake, ne da bi se tega zavedali. Raziskovalci ta pojav poznajo že desetletja, umetna inteligenca pa je vanj vnesla novo razsežnost. Napačna informacija danes ni nujno zapisana v časopisnem članku ali izrečena med pogovorom. Pojavi se lahko v prepričljivem digitalnem povzetku, prirejeni fotografiji ali videoposnetku, ki ga na prvi pogled težko ločimo od resničnega.

Raziskave MIT in Georgetowna kažejo, da lahko takšne vsebine v določenih okoliščinah vplivajo na poznejše spominjanje. Umetna inteligenca pri tem ne bere misli in ne posega neposredno v možgane. Zadostuje lahko napačna informacija, ki jo človek sprejme po dogodku in jo pozneje vključi v svojo predstavo o tem, kaj se je zgodilo. V svetu, kjer lahko umetna inteligenca v nekaj sekundah ustvari prepričljiv prikaz nečesa, česar nikoli ni bilo, zato ni pomembno samo vprašanje, ali lahko verjamemo temu, kar vidimo. Enako pomembno postaja, ali bomo čez nekaj dni še pravilno vedeli, kaj smo dejansko doživeli in kaj nam je bilo predstavljeno šele pozneje.