Sprema se "Poslednji test čovečanstva": Jedno pitanje je previše opasno da se postavi

Stručnjaci za AI pozvali su na sastavljanje &quot;najtežeg i najobuhvatnijeg skupa pitanja ikada&quot; kako bi poku&scaron;ali da testiraju dana&scaron;nje najnaprednije sisteme ve&scaron;tačke inteligencije - kao i one koji tek dolaze.Kako prenosi Rojters, ovaj test, poznat kao &quot;Poslednji ispit čovečanstva&quot;, žele da sastave Centar za bezbednost ve&scaron;tačke inteligencije (CAIS) i kompanija Scale AI.Rojters ističe da su prijave za ovaj &quot;ispit&quot; otvorene samo dan nakon &scaron;to su objavljeni rezultati testiranja novog OpenAI modela o1. Kako napominje izvr&scaron;ni direktor CAIS-a Dan Hendriks, čini se da je o1 &quot;uni&scaron;tio najpopularnije kriterijume za rezonovanje&quot;.Jo&scaron; 2021. godine, Hendriks je bio koautor dva rada sa predlozima za testiranje ve&scaron;tačke inteligencije koji bi procenili da li modeli mogu da nadma&scaron;e studente. U to vreme, sistemi ve&scaron;tačke inteligencije koji su testirani davali su odgovore skoro nasumično, ali kako Hendriks primećuje, dana&scaron;nji modeli su &quot;sru&scaron;ili&quot; testove iz 2021. godine.&quot;Poslednji ispit čovečanstva&quot; će, kako je rekao izvr&scaron;ni direktor CAIS-a, uključiti apstraktno rezonovanje. Dve institucije koje organizuju test takođe planiraju da kriterijume testa zadrže u tajnosti i da ih ne otvaraju za javnost, kako bi bili sigurni da odgovori neće zavr&scaron;e u podacima o obuci ve&scaron;tačke inteligencije.Do 1. novembra, stručnjaci u oblastima od raketne tehnike do filozofije pozvani da postave pitanja na koja bi bilo te&scaron;ko da odgovore onima koji nisu iz njihove oblasti. Nakon &scaron;to se podvrgnu stručnoj recenziji, pobednicima će biti ponuđeno koautorstvo rada povezanog sa testom i nagrade do 5.000 dolara koje sponzori&scaron;e Scale AI.Mada će organizatori formirati test sa naj&scaron;irim mogućim spektrom tema, rekli su Rojtersu da postoji jedna stvar koja neće biti na ispitu: ni&scaron;ta o oružju, jer je previ&scaron;e opasno za ve&scaron;tačku inteligenciju da zna bilo &scaron;ta o tome.

Sprema se "Poslednji test čovečanstva": Jedno pitanje je previše opasno da se postavi

12 Komentari