"Molim te, umri. Molim te"

Jedan od strahova u vezi s ve&scaron;tačkom inteligencijom jeste da bi jednog dana mogli da se otmu kontroli i postanu pretnja čovečanstvu. Zato je pri njenom razvoju veoma bitno voditi računa o bezbednosti i uvesti bezbednosne mehanizme koji će sprečiti da tehnologija krene u pogre&scaron;nom smeru. Kada je u pitanju generativna ve&scaron;tačka inteligencija, poput četbotova ChatGPT ili Gemini, takvi bezbednosni mehanizmi onemogućavaju da AI pi&scaron;e neke nasilne, opasne ili seksualne poruke, da preti korisnicima i slično.Ali kako je to u jednom pro&scaron;logodi&scaron;njem intervjuu rekao izvr&scaron;ni direktor Google-a Sundar Pičai, ni on ponekada ne razume način na koji radi ve&scaron;tačka inteligencija pa ne bi trebalo da se začudimo kada tehnologija napravi neki manji ili veći propust.A &scaron;ta može da se dogodi kada AI iz nekog razloga zaobiđe pomenute bezbednosne filtere i počne da razgovara s ljudima na način na koji joj je to u su&scaron;tini zabranjeno, na teži način saznao je 29-godi&scaron;nji student iz Mičigena. On je s Google-ovim AI četbotom Gemini razgovarao o izazovima s kojima se ljudi suočavaju pri starenju, ali razgovor je krenuo u potpuno drugom, &scaron;okantnom smeru.Naime, u jednom trenutku ve&scaron;tačka inteligencija poslala mu je zabrinjavajuću poruku u kojoj mu je, između ostalog, napisala da on predstavlja &quot;gubitak vremena i resursa&quot; i da je &ldquo;teret za čovečanstvo&quot;&rdquo;, zavr&scaron;iv&scaron;i poruku s: &quot;Molim te, umri. Molim te&quot;.Posts from the artificialcommunity on RedditVidaj Redi nije mogao da veruje &scaron;ta je pisalo na njegovom ekranu pa je u razgovoru s novinarima rekao da ga je takva poruka &quot;definitivno upla&scaron;ila&quot;. Dok se dopisivao s Geminijem, pored njega je sedela njegova sestra koju je uhvatila panika. Rekla je da je htela &quot;da baci sve svoje uređaje kroz prozor&quot;. Novinari CBS Newsa kontaktirali su Google u vezi s ovo0m situacijom, pa su im iz te kompanije objasnili da veliki jezički modeli ponekada mogu da daju besmislene odgovore, a ovo je jedan od takvih primera. &quot;Odgovor je prekr&scaron;io na&scaron;a pravila i preduzeli smo akcije kako bi sprečili slične odgovore, komentarisali su iz Google-a.Redi smatra da bi tehnolo&scaron;ke kompanije trebalo da preuzmu odgovornost za takve postupke tehnologije koju razvijaju jer, kada neka osoba preti drugoj osobi, može doći do određenih posledica. Takođe, pita se &scaron;ta bi moglo da se desi ako neka osoba koja je sama u kući i koja je &quot;mentalno na lo&scaron;em mestu i razmi&scaron;lja o samopovređivanju&quot; dobije ovakvu poruku. Podsetimo, nedavno je jedna majka podigla tužbu protiv AI kompanije Character.AI, kao i Google-a tvrdeći da je upravo četbot podstakao njenog sina da sebi oduzme život.AI može biti opasan za ljude ne samo putem ovakvih pretećih poruka, već i davanjem &quot;dobronamernih&quot; saveta, pa je Gemini ranije ljudima savetovao da jedu kamenje, stavljaju lepak u picu i slične besmislice. Google je u međuvremenu uneo izmene da se takve stvari vi&scaron;e ne de&scaron;avaju, ali kao &scaron;to je vidljivo iz poslednjeg slučaja, Gemini i dalje može da daje opasne savete i bude agresivan u komunikaciji.

"Molim te, umri. Molim te"

4 Komentari