"Za sve su krive halucinacije"

Metin AI asistent je pogre&scaron;no rekao da se nedavni poku&scaron;aj atentata na biv&scaron;eg predsednika Donalda Trampa nije dogodio, &scaron;to je gre&scaron;ka koju izvr&scaron;ni direktor kompanije sada pripisuje tehnologiji koja pokreće njenog ali i druge četbotove.U objavi na blogu kompanije, Džoel Kaplan, Meta-in &scaron;ef globalne politike, nazvao je odgovore AI na pitanja o pucnjavi &quot;nesrećnim&quot;. On kaže da je Meta AI prvo bio programiran da ne odgovara na pitanja o poku&scaron;aju atentata, ali je kompanija uklonila to ograničenje nakon &scaron;to su ljudi počeli da primećuju. On takođe priznaje da je &quot;u malom broju slučajeva Meta AI nastavio da daje netačne odgovore, uključujući ponekad i tvrdnje da se on uop&scaron;te nije dogodio &ndash; na čijem re&scaron;avanju ubrzano radimo&quot;.&quot;Ove vrste odgovora se nazivaju halucinacijama, &scaron;to je problem u čitavoj industriji koji vidimo u svim generativnim sistemima ve&scaron;tačke inteligencije, i predstavlja stalni izazov za to kako će AI upravljati događajima u realnom vremenu u budućnosti&quot;, nastavlja Kaplan. &quot;Kao i svi generativni sistemi ve&scaron;tačke inteligencije, modeli mogu da vraćaju netačne ili neodgovarajuće rezultate, a mi ćemo nastaviti da se bavimo ovim problemima i pobolj&scaron;avamo ove funkcije kako se razvijaju i &scaron;to vi&scaron;e ljudi deli svoje povratne informacije&quot;, kaže on.Meta AI won&rsquo;t give any details on the attempted ass*ss*nation.We&rsquo;re witnessing the suppression and coverup of one of the biggest most consequential stories in real time.Simply unreal. pic.twitter.com/BoBLZILp5M&mdash; Libs of TikTok (@libsoftiktok) July 28, 2024 Nije samo Meta u problemu ovde: Google je nedavno takođe morao da opovrgne tvrdnje da je njegova funkcija automatskog dovr&scaron;avanja pretrage cenzurisala rezultate o poku&scaron;aju atentata. &quot;Evo nas opet, jo&scaron; jedan poku&scaron;aj lažiranja izbora!!!&quot;, objavioje Tramp na Truth Social. &quot;Krivite Meta-u i Google&quot;.Otkako je ChatGPT stigao na scenu, tehnolo&scaron;ka industrija se bori sa načinom da ograniči sklonost generativne AI da objavljuje laži. Neki akteri, kao &scaron;to je Meta, poku&scaron;ali su da svoje četbotove prizemlje kvalitetnim podacima i rezultatima pretrage u realnom vremenu, kao način da kompenzuju halucinacije. Ali kao &scaron;to ovaj konkretan primer pokazuje, jo&scaron; uvek je te&scaron;ko prevazići ono za &scaron;ta su veliki jezički modeli inherentno dizajnirani: izmi&scaron;ljanje stvari.

"Za sve su krive halucinacije"

2 Komentari