Kolike su šanse da veštačka inteligencija uništi čovečanstvo?

Nakon &scaron;to su biv&scaron;i i sada&scaron;nji zaposleni u kompaniji OpenAI objavili otvoreno pismo u kojem tvrde da su ućutkivani zbog postavljanja pitanja o bezbednosti, jedan od potpisnika pisma je dao jo&scaron; stra&scaron;nije predviđanje: da su &scaron;anse da će AI uni&scaron;titi ili katastrofalno na&scaron;koditi čovečanstvu veće od bacanja novčića.U intervjuu za Njujork tajms, biv&scaron;i istraživač iz OpenAI-ja Daniel Kokotajlo optužio je kompaniju da ignori&scaron;e ključne rizike koje predstavlja ve&scaron;tačka op&scaron;ta inteligencija (AGI) zato &scaron;to su donosioci odluka toliko odu&scaron;evljeni njenim mogućnostima.&quot;OpenAI je zaista uzbuđen zbog izgradnje AGI-ja i bezobzirno se utrkuju da budu prvi na ovom polju&quot;, ističe Kokotajlo.Kokotajlova najo&scaron;trija tvrdnja medijima je, međutim, to da &scaron;ansa da će ve&scaron;tačka inteligencija uni&scaron;titi čovečanstvo iznosi oko 70 procenata &mdash; &scaron;anse koje ne biste prihvatili ni za jedan veliki životni događaj.1/15: In April, I resigned from OpenAI after losing confidence that the company would behave responsibly in its attempt to build artificial general intelligence &mdash; &ldquo;AI systems that are generally smarter than humans.&rdquo; https://t.co/yzMKnZwros&mdash; Daniel Kokotajlo (@DKokotajlo67142) June 4, 2024 Termin &quot;p(doom)&quot;, koji je AI-govor za verovatnoću da će AI doneti propast za čovečanstvo, predmet je stalnih kontroverzi u svetu ma&scaron;inskog učenja.Kokotajlo je rekao za Njujork tajms da je, nakon &scaron;to se pridružio OpenAI-ju 2022. godine od njega zatraženo da predvidi napredak tehnologije, a on je postao uveren ne samo da će industrija postići AGI do 2027. godine, već da postoji velika verovatnoća da će to katastrofalno na&scaron;koditi ili čak uni&scaron;titi čovečanstvo.Kao &scaron;to je navedeno u nedavno objavljenom otvorenom pismu, Kokotajlo i njegovi drugovi &mdash; &scaron;to uključuje biv&scaron;e i sada&scaron;nje zaposlene u Google DeepMindu i Anthropicu, kao i Džefri Hinton, takozvani &quot;Kum ve&scaron;tačke inteligencije&quot; koji je napustio Google pro&scaron;le godine zbog sličnih zabrinutosti &ndash; koriste njihovo &quot;pravo da upozore&quot; javnost na rizike koje predstavlja AI.Kokotajlo je postao toliko ubeđen da ve&scaron;tačka inteligencija predstavlja ogromne rizike za čovečanstvo da je na kraju lično pozvao izvr&scaron;nog direktora OpenAI-ja Sema Altmana, upozoriv&scaron;i ga da bi kompanija trebalo da se &quot;okrene ka bezbednosti&quot; i da provede vi&scaron;e vremena na implementaciji za&scaron;tite kako bi vladala tehnologijom, a ne da nastavi da je čini pametnijom.Delovalo je da se Altman, prema pričanju biv&scaron;eg zaposlenog, u to vreme slagao sa njim, ali vremenom je to postalo samo &quot;mrtvo slovo na papiru&quot;.Zamoren, Kokotajlo je napustio firmu u aprilu, rekav&scaron;i svom timu u mejlu da je &quot;izgubio poverenje da će se OpenAI pona&scaron;ati odgovorno&quot; dok nastavlja da poku&scaron;ava da izgradi ve&scaron;tačku inteligenciju koja je skoro na nivou čoveka.&quot;Svet nije spreman, ni mi nismo spremni&quot;, napisao je on u svom mejlu, koji je podeljen sa Njujork tajmsom.

Kolike su šanse da veštačka inteligencija uništi čovečanstvo?

20 Komentari