Američka vojska umalo je pokrenula operaciju presretanja kineskog broda na Bliskom istoku nakon što je obaveštajni izveštaj, sastavljen uz pomoć veštačke inteligencije (AI), pogrešno naveo da brod prevozi komponente programa nuklearnog naoružanja, naveli su danas izvori upoznatim sa događajem.
Izveštaj je ovog proleća kružio američkom vojskom tokom rata sa Iranom i pokrenuo plan za presretanje broda, preneo je CNN.
Prema četiri izvora, američka vojska pripremala je operaciju, dok su se, prema dvojici izvora, naoružani pripadnici vojske spremali da se ukrcaju na brod.
Vojni avioni su u tom trenutku već bili u vazduhu, navela su dva izvora.
Neposredno pre planirane operacije, zvaničnici su detaljnije proverili izveštaj i utvrdili da ga je sastavio analitičar Komande za specijalne operacije uz pomoć veštačke inteligencije.
Četbot koji je analitičar koristio netačno je identifikovao materijal koji je brod prevozio, ali nije poznato šta je tačno bilo pogrešno identifikovano.
Prema jednom izvoru, izveštaj je bio "potpuno lažan", ali je "skoro započeo rat".
Svaka američka operacija protiv kineskog broda mogla je da dovede do oružanog sukoba između SAD i Kine.
U konkretnom slučaju, analitičar je četbotu postavio pitanja o obaveštajnim izveštajima u vezi sa brodskim manifestom, koji su poticali iz Američke komande za specijalne operacije za Pacifik sa sedištem na Havajima.
Nije jasno da li je korišćeni četbot bio komercijalno dostupan ili proizvod američke vlade.
Prema izvorima, AI je kombinovao obaveštajne podatke otvorenog koda sa tajnim signalnim obaveštajnim podacima i na osnovu toga izveo zaključak o materijalu koji je brod prevozio.
Analitičar je potom ponovo koristio veštačku inteligenciju kako bi nalaze oblikovao u standardni obaveštajni izveštaj, koji je zatim distribuiran.
Komanda za specijalne operacije SAD za Pacifik i Pentagon nisu odgovorili na zahtev za komentar.
Više američkih zvaničnika upoznatih sa situacijom navelo je da različiti delovi vlade koriste različite AI alate, pod različitim komandama i bezbednosnim standardima, kao i da ne postoji jedinstven skup standarda za proveru informacija koje ti alati generišu.
Američka vojska ubrzava primenu AI kako bi, prema navodima zvaničnika, omogućila brže donošenje odluka na bojnom polju, uključujući izbor ciljeva i raspoređivanje vojnih sredstava.
U januaru je američki sekretar za odbranu Pit Hegset objavio "Strategiju ubrzanja veštačke inteligencije", sa ciljem da se ubrza njena upotreba u vojsci.
Hegset je tada rekao da će biti omogućeno eksperimentisanje, uklonjene birokratske prepreke i usmerene investicije kako bi SAD zadržale vodeću poziciju u vojnoj primeni veštačke inteligencije.
Strategija predviđa i širu dostupnost AI alata civilnom i vojnom osoblju.
Prema izvorima upoznatim sa politikom američke vojske, AI se sve više koristi i u procesu određivanja ciljeva, ali ne postoje jasne smernice o tome kako će ljudsko učešće sprečiti civilne žrtve ili slučajno nanošenje štete sopstvenim snagama.
Jedan od izvora je rekao da slučaj kineskog broda nije izolovan primer "halucinacije" AI sistema u obaveštajnoj zajednici.
Prema više izvora, AI vrši pritisak na analitičare da brže proizvode i distribuiraju obaveštajne podatke, što povećava mogućnost grešaka, dok mlađi analitičari, koji su više navikli na korišćenje ovih alata, mogu da budu skloniji da im veruju bez dovoljne provere.
Autor: S.M.
