Sprema se "Poslednji test čovečanstva": Jedno pitanje je previše opasno da se postavi

Stručnjaci za AI pozvali su na sastavljanje "najtežeg i najobuhvatnijeg skupa pitanja ikada" kako bi pokušali da testiraju današnje najnaprednije sisteme veštačke inteligencije - kao i one koji tek dolaze.

Kako prenosi Rojters, ovaj test, poznat kao "Poslednji ispit čovečanstva", žele da sastave Centar za bezbednost veštačke inteligencije (CAIS) i kompanija Scale AI.

Rojters ističe da su prijave za ovaj "ispit" otvorene samo dan nakon što su objavljeni rezultati testiranja novog OpenAI modela o1. Kako napominje izvršni direktor CAIS-a Dan Hendriks, čini se da je o1 "uništio najpopularnije kriterijume za rezonovanje".

Još 2021. godine, Hendriks je bio koautor dva rada sa predlozima za testiranje veštačke inteligencije koji bi procenili da li modeli mogu da nadmaše studente. U to vreme, sistemi veštačke inteligencije koji su testirani davali su odgovore skoro nasumično, ali kako Hendriks primećuje, današnji modeli su "srušili" testove iz 2021. godine.

"Poslednji ispit čovečanstva" će, kako je rekao izvršni direktor CAIS-a, uključiti apstraktno rezonovanje. Dve institucije koje organizuju test takođe planiraju da kriterijume testa zadrže u tajnosti i da ih ne otvaraju za javnost, kako bi bili sigurni da odgovori neće završe u podacima o obuci veštačke inteligencije.

Do 1. novembra, stručnjaci u oblastima od raketne tehnike do filozofije pozvani da postave pitanja na koja bi bilo teško da odgovore onima koji nisu iz njihove oblasti. Nakon što se podvrgnu stručnoj recenziji, pobednicima će biti ponuđeno koautorstvo rada povezanog sa testom i nagrade do 5.000 dolara koje sponzoriše Scale AI.

Mada će organizatori formirati test sa najširim mogućim spektrom tema, rekli su Rojtersu da postoji jedna stvar koja neće biti na ispitu: ništa o oružju, jer je previše opasno za veštačku inteligenciju da zna bilo šta o tome.