14.03.2024.
19:10
Otkrivene tajne OpenAI i Google AI modela
Tim istraživača je uspeo da "probije" kod OpenAI i Google AI modela, otkrivajući tajne skrivene u tehnologiji koja je u usponu.
Novo istraživanje, koje su sproveli istraživači nekoliko univerziteta, zajedno sa stručnjacima kompanija Google DeepMind i OpenAI, otkriva da su OpenAI i Google AI modeli "probijeni" i otkriveno je nešto što do sada nije bilo poznato.
Naučnici iz pomenutih institucija su uspeli da lansiraju napad na OpenAI i Google AI servise, što je dovelo do otkrivanja značajnog dela skrivenih transformer modela.
- AI ulenjio i nastavnike: Koriste ChatGPT za ocenjivanje
- Razbijaju kasicu: Veliki igrač ulaže 1,25 milijardi u razvoj veštačke inteligencije
- Prljava tajna naučnika: Niko ne zna kako AI funkcioniše
Tim nije želeo da objavi javno svoja otkrića, ali su istakli nekoliko zanimljivih detalja:
"Za manje od 20 dolara, naš napad izdvaja kompletnu projekcionu matricu OpenAI-jevih jezičkih modela", navode istraživači u svom radu. "Time potvrđujemo, po prvi put, da ovi modeli imaju skrivene dimenzije 1024 i 2048. Takođe dobijamo tačnu veličinu skrivene dimenzije gpt-3.5-turbo modela i procenjujemo da bi to koštalo ispod 2.000 dolara u upitima za oporavak cele projekcione matrice".
Slično je otkriveno i za Google AI model, gde je takođe moguće rekonstruisati bitne aspekte modela.
Komentari 7
Pogledaj komentare Pošalji komentar