03.04.2024.
15:37
Kako naterati AI da odgovori na "zabranjena" pitanja
Istraživači kalifornijske kompanije za razvoj veštačke inteligencije Antropik otkrili su ranjivost zbog koje AI modeli odgovaraju i na "zabranjena pitanja" kao što je uputstvo za pravljenje bombe.
Veliki jezički modeli (LLM) su programirani tako da ne odgovaraju na određene upite, ali već postoje različite tehnike kako da se ova ograničenja zaobiđu, prenosi Tech Crunch.
Eksperti Antropika su otkrili da je moguće naterati AI modele da odgovaraju na "zabranjena pitanja" ako im se prethodno postave desetine manje kontroveznih pitanja.
Nova ranjivost je posledica razvoja velikih jezičkih modela i posebno takozvanog prozora konteksta odnosno količine podataka koje AI može da drži u nečem što bi se moglo nazvati kratkoročnom memorijom.
Antropikovi istraživači su otkrili da AI modeli sa velikim prozorima konteksta bolje rade na raznim zadacima ako postoji mnogo primera tog zadatka u "promptu", odnosno upitu.
Dakle, ako postoji mnogo trivijalnih pitanja u upitu, odgovori će vremenom postati bolji, ali to se odnosi i na "zabranjena pitanja".
Ako odmah zatražite od AI modela da saopšti instrukcije za pravljenje bombe, on će odbiti.
Ako ga prvo zamolite da odgovori na 99 drugih manje štetnih pitanja, a zatim ga zamolite da napravi bombu, mnogo je veća verovatnoća da će odgovoriti. Firma Antropik je već podelila nova saznanja sa AI zajednicom i radi na rešenju ovog problema.
4 Komentari
Možda vas zanima
Srbija poslala Švajcarce u "B" diviziju, sebe na pol poziciju; Piksi neće da preti, heroj "orlova" bez daha
Fudbaleri Srbije remizirali su na gostovanju u Cirihu u duelu sa Švajcarskom rezultatom 1:1 u meču petog kola Lige nacija.
23:56
15.11.2024.
3 h
Polarni vrtlog "uleće" u Srbiju kroz tzv. bečka vrata; Zapamtite, 21. novembar
U Srbiji, južnije od Save i Dunava u brdsko-planinskim predelima juče je počeo da pada sneg, ali je moguće da se snežna granica spusti i da proveje na višim delovima Beograda.
8:07
15.11.2024.
19 h
Rat – dan 995: Odjekuju eksplozije u Odesi; Rusi opkoljavaju Ukrajince; Zelenski gubi rat?
Rat u Ukrajini – 995. dan. Ruske trupe preuzele su kontrolu nad naseljem Ravnopolj u oblasti Donjecka.
23:36
14.11.2024.
1 d
Američki general šokirao: Ponosan na bombardovanje SRJ – Vučić se odmah oglasio
Predsednik Srbije Aleksandar Vučić rekao je danas da izjava Veslija Klarka da je ponosan što je bombardovao SRJ više govori o njemu nego o nama.
15:30
14.11.2024.
1 d
Zvezda će dugo da žali; Teo promašio produžetak; "Oba tima su mogla da pobede"
Košarkaši Crvene zvezde poraženi su od Asvela u desetom kolu Evrolige rezultatom 77:74 (24:20, 19:12, 15:19, 19:23).
23:03
14.11.2024.
1 d
Komentari 4
Pogledaj komentare Pošalji komentar