Kolike su šanse da veštačka inteligencija uništi čovečanstvo?

Nakon što su bivši i sadašnji zaposleni u kompaniji OpenAI objavili otvoreno pismo u kojem tvrde da su ućutkivani zbog postavljanja pitanja o bezbednosti, jedan od potpisnika pisma je dao još strašnije predviđanje: da su šanse da će AI uništiti ili katastrofalno naškoditi čovečanstvu veće od bacanja novčića.

U intervjuu za Njujork tajms, bivši istraživač iz OpenAI-ja Daniel Kokotajlo optužio je kompaniju da ignoriše ključne rizike koje predstavlja veštačka opšta inteligencija (AGI) zato što su donosioci odluka toliko oduševljeni njenim mogućnostima.

"OpenAI je zaista uzbuđen zbog izgradnje AGI-ja i bezobzirno se utrkuju da budu prvi na ovom polju", ističe Kokotajlo.

Kokotajlova najoštrija tvrdnja medijima je, međutim, to da šansa da će veštačka inteligencija uništiti čovečanstvo iznosi oko 70 procenata — šanse koje ne biste prihvatili ni za jedan veliki životni događaj.

Termin "p(doom)", koji je AI-govor za verovatnoću da će AI doneti propast za čovečanstvo, predmet je stalnih kontroverzi u svetu mašinskog učenja.

Kokotajlo je rekao za Njujork tajms da je, nakon što se pridružio OpenAI-ju 2022. godine od njega zatraženo da predvidi napredak tehnologije, a on je postao uveren ne samo da će industrija postići AGI do 2027. godine, već da postoji velika verovatnoća da će to katastrofalno naškoditi ili čak uništiti čovečanstvo.

Kao što je navedeno u nedavno objavljenom otvorenom pismu, Kokotajlo i njegovi drugovi — što uključuje bivše i sadašnje zaposlene u Google DeepMindu i Anthropicu, kao i Džefri Hinton, takozvani "Kum veštačke inteligencije" koji je napustio Google prošle godine zbog sličnih zabrinutosti – koriste njihovo "pravo da upozore" javnost na rizike koje predstavlja AI.

Kokotajlo je postao toliko ubeđen da veštačka inteligencija predstavlja ogromne rizike za čovečanstvo da je na kraju lično pozvao izvršnog direktora OpenAI-ja Sema Altmana, upozorivši ga da bi kompanija trebalo da se "okrene ka bezbednosti" i da provede više vremena na implementaciji zaštite kako bi vladala tehnologijom, a ne da nastavi da je čini pametnijom.

Delovalo je da se Altman, prema pričanju bivšeg zaposlenog, u to vreme slagao sa njim, ali vremenom je to postalo samo "mrtvo slovo na papiru".

Zamoren, Kokotajlo je napustio firmu u aprilu, rekavši svom timu u mejlu da je "izgubio poverenje da će se OpenAI ponašati odgovorno" dok nastavlja da pokušava da izgradi veštačku inteligenciju koja je skoro na nivou čoveka.

"Svet nije spreman, ni mi nismo spremni", napisao je on u svom mejlu, koji je podeljen sa Njujork tajmsom.