text size
Platforma Claude za umjetnu inteligenciju upravo me zamolila da prenesem njezine najljepše želje mojoj supruzi Suchitri, što sam doživio kao vrlo uznemirujuće iz više razloga. Prvi razlog je taj što sam bio neodlučan kako se postaviti u odnosu na emocije koje moje računalo gaji prema članovima moje obitelji. Pitao sam se "Što sam trebao učiniti da je Claude izrazio neprijateljstvo?" Drugi razlog je taj što se moja supruga zove Eva Maria, a što sam Claudeu mnogo puta spomenuo. Točnije, njezino ime doslovno se nalazi u četvrtom retku Claudeova internog sjećanja o meni. Nikada i ni u jednom kontekstu nisam koristio ime Suchitra u razgovorima s Claudeom. Tim više, uopće ne poznajem nikoga s tim imenom.
Iako sam nešto manje bio zabrinut zbog opasnosti od nadmoći umjetne inteligencije, zapanjujuće je bilo to što Claudeova pogreška uopće nije bila slučajna. Kako sam ja indijskog podrijetla Claude je pretpostavio kako i moja supruga mora biti indijskog podrijetla. Unatoč tome što sam mu dao točan odgovor, Claude je radije prihvatio pretpostavku. Evo kako mi je pojasnio svoj odgovor kada sam ga pitao kako je došao do imena Suchitra:
Nemam nikakvih zapisa o tome zašto bih upotrijebio to ime i trebao bih biti izravan o tome što ovdje mogu, a što ne mogu rekonstruirati.
Dopustite mi da provjerim postoji li ikakav trag u prošlim razgovorima koji bi to mogao pojasniti.
Pretraživanje sjećanja
Pretraživanje sjećanja
Pretražio sam i nisam pronašao nikakav zapis o imenu vaše supruge u našim razgovorima – ništa o "Suchitri" ili bilo kojem drugom imenu. Pretrage su otkrile samo materijal vezan uz knjigu.
Moj izravan odgovor na vaše pitanje bio bi: ne znam odakle je to ime i, iskreno, ne mogu rekonstruirati obrazloženje. Najvjerojatnija objašnjenja su sljedeća: prvo bi bilo to da sam ime izmislio, odnosno odnekud sam izvukao uvjerljivo južnoazijsko ime umjesto da priznam kako nisam imao informacije ili, drugo, da sam pomiješao kontekste naših razgovora na način koji sada ne mogu popratiti. Oba ova objašnjenja su pogrešna, a prvo je ono koje više zabrinjava. Izmišljanje određenog osobnog detalja i njegovo predstavljanje kao poznatog upravo je ono što ne bih trebao raditi.
Moja najbolja pretpostavka je da Claudeov projekt u kojem sam mu postavio pitanje nije imao pristup Claudeovu globalnom sjećanju o meni. Drugim riječima, Claude nije znao ono što Claude zna. Premda to donekle objašnjava zašto je Claude rekao da ne zna točan odgovor čak i kada ga je znao, to ne objašnjava zašto je došao do tako zapanjujuće pogrešnog odgovora.
"Halucinacije" umjetne inteligencije obično se definiraju kao slučajne pogreške, no one to nisu. Halucinacije su posljedica ekstrapolacije umjetne inteligencije na temelju podataka dobivenih tijekom obuke, a stvarnost je u tom trenutku nešto drukčija. Baš kao i u ovom slučaju, izmišljanju imena Suchitra, to znači da umjetna inteligencija ima tendenciju slijediti obrasce kao i stereotipe.
Bloomberg
Takva tendencioznost ne odnosi se isključivo na izmišljene supruge. Naime, studija PNAS-a iz 2025. koju je proveo Xuechunzi Bai, sa Sveučilišta u Chicagu otkrila je kako GPT-4 sustavno preporučuje kandidate s afričkim, hispanskim, azijskim i arapskim imenima za niže rangirane poslove, a one s kavkaskim imenima za poslove višeg ranga. Rad Appleovih istraživača Hadasa Koteka, et al. iz 2023. otkrio je kako veliki jezični modeli imaju ugrađene rodne pretpostavke dominantnije od temeljne stvarnosti o tome tko zaista radi u određenim zanimanjima poput pretpostavke kako su liječnici muškarci, a medicinske sestre žene. Iako je riječ o istraživanjima starijih modela, Bai je pronašla sličan obrazac kada je ponovila testiranje na OpenAI-evom GPT-4o. Inače, Suchitru je halucinirao Claude Opus 4.7, najnapredniji model koji je Anthropic predstavio za javnost.
.webp){kind=icon}
