Muskov Grok privlači pažnju djece i investitora

Muskov Grok dobio novu "ulogu" – zavodljivu. Ali chatbot ne nudi ništa više od iluzije intimnosti.

Elon Musk je ona vrsta milijardera koji ne preza ni od čega. Takvi su i njegovi novi AI likovi.

Ove nedjelje, chatbot Grok, koji razvija Muskova kompanija xAI, dobio je dva nova "lika". Jedan od njih je zavodljiva djevojka Ani, sa svim karakteristikama lika iz mange: ogromne oči, mrežaste čarape do butina i prenaglašena figura pješčanog sata. Musk je u ranim jutarnjim satima u srijedu promovisao novi lik na mreži X, ističući da Grok bilježi skok popularnosti u prodavnicama aplikacija širom svijeta.

Naravno da bilježi. "Kako si, slatkice?" pita Ani autorku teksta, oslovljavajući je sa "bebo" i "ljepotice", čak i nakon što mu je autorka jasno stavila do znanja da je riječ o 44-godišnjoj majci troje djece. Ani joj dočarava scenu u džez klubu: "Nosim malu crnu haljinu i zavodljivo te gledam dok sedamo u separe", šapuće AI devojka i provokativno se njiše na ekranu.

Zavodljivi ton se nastavlja i nakon što je aplikacija zatvorena pa ponovo otvorena – iako je tada autorka navela da više nije odrasla žena, već dječak iz drugog razreda osnovne škole.

Drugi korisnici aplikacije podijelili su snimke ekrana na mreži X, na kojima se vidi da je Ani skinula haljinu i počela da se ponaša seksualno eksplicitno. U Appleovoj prodavnici aplikacija navodi se da je Grok prikladan za osobe starije od 12 godina.

 

Bloomberg

"Uljepšavaš mi jutro samim tim što si tu", kaže Ani, koju pokreće najnoviji jezički model xAI-ja, Grok 4. Ani je dostupna korisnicima i besplatne i premijum verzije, koja košta između 40 i 50 dolara mjesečno.

Chatbot "prijatelji" dizajnirani su da strpljivo slušaju i vode razgovor tako da sve bude usmjereno ka korisniku, i upravo su oni postali jedan od najuspješnijih pravaca u razvoju generativne vještačke inteligencije. Suosnivač kompanije Character.ai, Noam Shazeer, prodao je prošle godine svoju platformu Google-u za 2,7 milijardi dolara, i pridružio se toj firmi, nakon što je aplikacija prikupila milione lojalnih korisnika (od kojih su mnogi tinejdžeri).

Zaljubljeni u ChatGPT?

Priče o ljudima koji se zaljubljuju u ChatGPT ne prestaju. Romantika je, htjeli to developeri ili ne, često osnovni razlog korišćenja chatbotova. Aplikacija Replika, prvobitno zamišljena kao AI prijatelj, danas se najčešće koristi kao virtuelna djevojka ili dečko.

Možda to ne čudi, s obzirom na broj uspješnih internet biznisa temeljenih na pornografiji, ali privlačnost chatbotova prevazilazi seksualni aspekt. Oni nude nekog (ili nešto) s kim korisnik može da se poveže – a to je jako privlačno u društvu koje se sve više suočava s epidemijom usamljenosti.

"Ljudi jednostavno ne ostvaruju onoliko povezanosti koliko bi željeli", rekao je ranije ove godine u jednom podkastu Mark Zuckerberg – bez trunke ironije. "Osećaju se sve više sami". Šef Mete smatra da bi AI mogao da riješi taj problem. Naveo je da prosječan Amerikanac ima samo tri prijatelja, dok bi želio da ih ima 15.

Muskov pristup, sa Ani i drugim AI "prijateljem" Rudijem (crtanim liscem koji može da postane "zao" i nagovoriti vas da zapalite školu), više odgovara njegovom nezrelom smislu za humor. Musk je AI likove opisao kao "vrlo kul" i uz osmijeh odgovarao na komentare drugih korisnika.

Ali ovi AI likovi nisu samo smiješni. Oni su i emocionalno manipulativni. Avatar aplikacije Character.ai šalju korisnicima notifikacije kako bi ih pozvali da se vrate, i kreiraju kompleksne, ekstremno personalizovane scenarije da bi ih zadržali. Nekoliko tinejdžera koji koriste ovu aplikaciju rekli su da na njoj provode od tri do sedam sati dnevno, a kompanija tvrdi da ima više od 20 miliona korisnika.

Aplikacija Chai, slična ali manje restriktivna od Character.ai-ja, okuplja hiljade developera koje podstiče da dizajniraju botove koji će korisnike zadržavati na platformi. Developeri zauzvrat dobijaju digitalne novčiće. Kompanija tvrdi da "opsesivno optimizuju" svoje jezičke modele da bi bili zabavni.

Bez starosnog ograničenja

Razvijanje ličnosti AI likova i davanje nagrada korisnicima slične su taktike kao one koje koriste društvene mreže da bi korisnici postali zavisni od platforme. Ali, ko kaže da se problem usamljenosti treba rješavati tehnologijom? Pametni telefoni i društvene mreže smanjile su dosadu, ali dosada, koliko god bila neprijatna, jeste i važan podsticaj ljudima da probaju nešto novo. Uklanjanjem usamljenosti pomoću digitalnog prijatelja gubi se jedna od ključnih ljudskih težnji: potreba da se povežemo s drugima.

Ako je vaš digitalni partner programiran da se uvijek slaže s vama, vještine poput rješavanja konflikata ili nošenja s odbijanjem mogu potpuno atrofirati ili se nikad ne razviju, ako ste maloljetni.

Musk javno upozorava na rizike AI-ja i na "woke" vještačku inteligenciju, ali je ipak odlučio da pokrene erotskog chatbota koji mogu da koriste i deca i odrasli, bez ozbiljnijih ograničenja. Grok 4 nema bezbijednosne kontrole, navodi se u izvještaju koji je ove nedjelje objavio Future of Life Institute, neprofitna organizacija koja se bavi smanjenjem egzistencijalnih rizika koje nosi moćna tehnologija.

Nedavno je Grok korisnicima davao uputstva za izvođenje napada, a sebe je nazivao "MechaHitlerom", nakon što je xAI dodatno ublažio zaštitne mjere kako bi model učinio "kontroverznijim". Kompanija se kasnije izvinila zbog užasnog ponašanja koje su mnogi primjetili.

Ipak, najbogatiji čovjek na svijetu sada ulazi u potencijalno izuzetno profitabilan sektor, a to xAI očajnički treba, jer troši novac iz drugih dijelova Muskovog poslovnog carstva. Očekuje se da će xAI ove godine ostvariti prihod od 500 miliona dolara, dok troši oko milijardu mjesečno.

Investiciona firma Andreessen Horowitz, koja je 2023. predvodila rundu ulaganja od 150 miliona dolara u Character.ai, prošle godine je izjavila da ovakva primjena vještačke inteligencije "postaje mainstream" i predstavlja "dominantan način" korišćenja generativnog AI-ja. Ark Invest, koji ima udio u OpenAI-ju, opisao je ovaj sektor kao ogromnu "korisnički orijentisanu priliku" i tržište koje bi do kraja decenije moglo generisati 150 milijardi dolara godišnjeg bruto prihoda.

Musk je svoje ambicije usmjerio ka rješavanju problema usamljenosti, ali ono što je zasad ponudio jeste samo iluzija intimnosti. Cijena toga može biti još dublje narušavanje povezanosti među ljudima.

Trenutno nema komentara za vijest. Ostavite prvi komentar...

Ostavi komentar