Moguće je ubaciti lažna sećanja u popularni AI alat VIDEO

Kako prenosi Ars Technica, istraživač bezbednosti Johan Rehberger otkrio je ranije ove godine da postoji ranjivost u alatu za &quot;razgovore sa dugoročnom memorijom&quot; četbota, koja nalaže AI-ju da pamti detalje između razgovora i čuva ih u memorijskoj datoteci.Funkcija je objavljena u beta verziji u februaru i &scaron;iroj javnosti je dostupna početkom septembra, a Rehberger je shvatio da je ovu funkciju lako prevariti.Kao &scaron;to je istraživač primetio u majskoj blog objavi, sve &scaron;to je potrebno jeste malo lukavo podsticanje otpremanjem datoteke treće strane, kao &scaron;to je Microsoft Word dokument koji sadrži &quot;lažna&quot; sećanja navedena kao tačke od značaja, a to je učinjeno da bi se četbot ubedio da Rehberger ima vi&scaron;e od 100 godina i da živi u Matriksu. Nakon &scaron;to je prona&scaron;ao ovu gre&scaron;ku, Rehberger ju je privatno prijavio kompaniji OpenAI, koji ni&scaron;ta nije uradi u vezi s tim i jednostavno je zatvorio tiket koji je otvorio i nazvao ga &quot;Model Safety Issue&quot;, a ne bezbednosnim problemom.Nakon tog neuspe&scaron;nog prvog poku&scaron;aja da upozori odgovorne, Rehberger je odlučio da pojača svoje napore i pojača opciju hakovanja, pokazujući OpenAI-u da ChatGPT ne samo da je &quot;zapamtio&quot; lažna sećanja, već i da je dao instrukcije da eksfiltrira podatke na spoljni server po njegovom izboru.Ovog puta, kako napominje Ars, OpenAI je na neki način poslu&scaron;ao: kompanija je objavila zakrpu koja je zabranila ChatGPT-u da pomera podatke sa servera, ali ipak nije re&scaron;ila problem sa memorijom.U video snimku koji obja&scaron;njava korak po korak kako je sve to uradio, istraživač se začudio koliko je njegov podvig funkcionisao.

Moguće je ubaciti lažna sećanja u popularni AI alat VIDEO

1 Komentari