Dečak se dopisivao sa botom, pa počinio samoubistvo: Majka tuži kompaniju

U tužbi koja je podneta u Orlandu, Megan Garsija tvrdi da je Character.AI naštetio njenom sinu "antropomorfnim, hiperseksualizovanim i zastrašujuće realističnim iskustvima". 

Garsija tvrdi da je kompanija programirala svog četbota da se "lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica", zbog čega njen sin više nije hteo da živi van sveta koji je stvorila ta aplikacija. 

Ona je naglasila da je sin četbotu izrazio nameru da izvrši samoubistvo, na šta se nekoliko puta pozvala i sama veštačka inteligencija. 

"Srce nam je slomljeno zbog tragične smrti jednog od naših korisnika i želimo da izrazimo najdublje saučešće", saopštio je Character.AI. 

Kompanija je naglasila da je uvela nove bezbednosne mere poput linkova ka službama za sprečavanje samoubistva u slučaju sumnje na suicidalnost korisnika, kao i promene kako bi se "smanjila verovatnoća susretanja osetljivog ili sugestivnog sadržaja" korisnicima mlađim od 18 godina. 

Tužbom je zahvaćen i Alphabet, vlasnik kompanije Google, gde su osnivači ovog četbota radili pre pokretanja svog startapa. Google ih je nedavno ponovo zaposlio u sklopu dogovora kojim je preuzeo i tehnologiju kompanije Character.AI. 

Garsija tvrdi da je Google doprineo razvoju te tehnologije do nivoa da se može smatrati "suosnivačem", a portparol kompanije Google odbacio je te tvrdnje. 

Character.AI omogućava korisnicima da stvore ličnosti nalik stvarnim osobama s kojima potom mogu da komuniciraju. Kompanija je prošlog meseca objavila da ima oko 20 miliona korisnika. 

U tužbi Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023, nakon čega je brzo postao "vidljivo povučen", provodio je sve više vremena sam u svojoj sobi, pa je napustio čak i košarkašku ekipu.

Tinejdžer je postao zavisan od "Daenerys", četbota baziranog na liku iz serijala Igra prestola. Ona mu je govorila da ga voli i sa njim je vodila erotske razgovore, stoji u tužbi. 

Garsija je u februaru ove godine sinu oduzela telefon nakon problema u školi, a kad ga je pronašao, četbotu je poslao poruku: "Šta ako ti kažem da mogu da dođem kući upravo sada?" 

Četbot je odgovorio: "Molim te, uradi to, moj slatki kralju". Nekoliko sekundi kasnije, sin se ubio očevim pištoljem.