Veštačka inteligencija bi slučajno mogla da izazove treći svetski rat?

Kinezi ulažu znatne resurse u istraživanje i razvoj tehnologije, a to se ponajviše odnosi na razvoj veštačke inteligencije, polje na komde Kina i SAD dominiraju.

Jedna od primena veštačke inteligencije je u vojne namene. Sa daljim razvojem i porastom autonomnije vojnih vozila i dronova, kao i promenom u načinu komunikacije (budući da ćemo u budućnosti sve više komunicirati sa veštačkom inteligencijom), postoji ozbiljna opasnost da bi zbog nekog nesporazuma ili delovanja autonomnih vozila mogao da započne ozbiljan konflikt ili čak rat.

Kao okidač potencijalnog sukoba posebno se ističu dronovi, odnosno bespilotne letelice, koje se sve češće koriste u vojnim dejstvima.

Razlika između SAD i Kine je u tome što su Kinezi razvili veću autonomniju. Dok američki dronovi imaju mogućnost osnovnog autopilota, kineski dronovi skoro da sami mogu da odlučuju o napadima na ciljeve.

Kao problem se postavlja to što još nije poznato kako će se "interpretirati određena ponašanja" koja podrazumevaju upotrebu autonomne opreme.

Budući da su bespilotne letelice u pitanju, vojske su spremne da rizikuju sa njihovom upotrebom i da ih pošalju na područja na koja nikada ne bi slali vojnike - jer nema rizika od ljudskih žrtava. Međutim, ako autonomna letelica završi na mestu na kome ne bi smela da se nađe, pitanje je kako će to druga strana prihvatiti. Kako je reč o dronu u kojem nema ljudske posade, možda se odluče za obaranje takvih letelica.

Pitanje je šta će se dogoditi ako autonomna letelica prepozna opasnost, pa počne da puca i ubije nekoga?

To neće biti odluka koju su doneli vojnici ili njihovi zapovednici, već veštačka inteligencija. Takav napad bi mogao da pokrene brz vojni odgovor i opšti rat.

Da bi se takve stvari u budućnosti izbegle potrebno je već sada definisati pravila oružanih sukoba za autonomne sisteme.

Jasno je da će rizik od pomenutih scenarija i početka slučajnog rata biti sve veći, pa bi jedna takva akcija pokrenuta od strane veštačke inteligencije, možda, mogla da pokrene lavinu i sukob koji bi uticao na stotine miliona ljudi.