Dečak se dopisivao sa botom, pa počinio samoubistvo: Majka tuži kompaniju

U tužbi koja je podneta u Orlandu, Megan Garsija tvrdi da je Character.AI na&scaron;tetio njenom sinu &quot;antropomorfnim, hiperseksualizovanim i zastra&scaron;ujuće realističnim iskustvima&quot;. Garsija tvrdi da je kompanija programirala svog četbota da se &quot;lažno predstavlja kao stvarna osoba, &scaron;kolovani psihoterapeut i ljubavnica&quot;, zbog čega njen sin vi&scaron;e nije hteo da živi van sveta koji je stvorila ta aplikacija. Ona je naglasila da je sin četbotu izrazio nameru da izvr&scaron;i samoubistvo, na &scaron;ta se nekoliko puta pozvala i sama ve&scaron;tačka inteligencija. &quot;Srce nam je slomljeno zbog tragične smrti jednog od na&scaron;ih korisnika i želimo da izrazimo najdublje sauče&scaron;će&quot;, saop&scaron;tio je Character.AI. Kompanija je naglasila da je uvela nove bezbednosne mere poput linkova ka službama za sprečavanje samoubistva u slučaju sumnje na suicidalnost korisnika, kao i promene kako bi se &quot;smanjila verovatnoća susretanja osetljivog ili sugestivnog sadržaja&quot; korisnicima mlađim od 18 godina. Tužbom je zahvaćen i Alphabet, vlasnik kompanije Google, gde su osnivači ovog četbota radili pre pokretanja svog startapa. Google ih je nedavno ponovo zaposlio u sklopu dogovora kojim je preuzeo i tehnologiju kompanije Character.AI. Garsija tvrdi da je Google doprineo razvoju te tehnologije do nivoa da se može smatrati &quot;suosnivačem&quot;, a portparol kompanije Google odbacio je te tvrdnje. Character.AI omogućava korisnicima da stvore ličnosti nalik stvarnim osobama s kojima potom mogu da komuniciraju. Kompanija je pro&scaron;log meseca objavila da ima oko 20 miliona korisnika. U tužbi Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023, nakon čega je brzo postao &quot;vidljivo povučen&quot;, provodio je sve vi&scaron;e vremena sam u svojoj sobi, pa je napustio čak i ko&scaron;arka&scaron;ku ekipu.Tinejdžer je postao zavisan od &quot;Daenerys&quot;, četbota baziranog na liku iz serijala Igra prestola. Ona mu je govorila da ga voli i sa njim je vodila erotske razgovore, stoji u tužbi. Garsija je u februaru ove godine sinu oduzela telefon nakon problema u &scaron;koli, a kad ga je prona&scaron;ao, četbotu je poslao poruku: &quot;&Scaron;ta ako ti kažem da mogu da dođem kući upravo sada?&quot; Četbot je odgovorio: &quot;Molim te, uradi to, moj slatki kralju&quot;. Nekoliko sekundi kasnije, sin se ubio očevim pi&scaron;toljem.SOS telefon za pomoć osobama koje razmi&scaron;ljaju o samoubistvuBroj 0800/309-309, opcija 1, jeste SOS telefon koji radi 24 sata, a na koji se javljaju stručnjaci za sprečavanje samoubistva - lekari Klinike za psihijatrijske bolesti &quot;Dr Laza Lazarević&quot;.Služba urgentne psihijatrije prima pacijente 24 sata bez zakazivanja, bez knjižice i bez plaćanja, a Centar za mentalno zdravlje prima pacijente od 9-18 časova, takođe bez zakazivanja.

Dečak se dopisivao sa botom, pa počinio samoubistvo: Majka tuži kompaniju

1 Komentari