"Za dlaku" izbjegnut rat: Američka vojska zamalo napala kineski brod zbog lažnog izvještaja vještačke inteligencije

Obavještajni izvještaj, koji je ovog proljeća kružio unutar američke vojske usred rata s Iranom, odmah je upalio alarme: kineski brod na Bliskom istoku navodno je prevozio komponente za program nuklearnog oružja.

Američka vojska je odmah prešla na djelo s planiranim akcijama presretanja plovila, navode četiri izvora za CNN upoznata s ovim slučajem. Prema riječima dvojice izvora, naoružani pripadnici američke vojske pripremali su se za ukrcavanje na brod, dok su vojne letjelice bile u zraku.

"Gotovo započeo rat"

Tek neposredno prije planirane operacije zvaničnici su detaljnije istražili dokument koji je sastavio analitičar komande za specijalne operacije i otkrili da je on u potpunosti generiran uz pomoć vještačke inteligencije (AI).

Utvrđeno je da je chatbot kojeg je analitičar koristio netačno identifikovao materijal koji je brod prevozio, iako CNN nije uspio saznati o kakvom se tačno pogrešno identifikovanom teretu radilo.

Izvještaj je, prema navodima jednog izvora, bio "u potpunosti lažan", ali je također "skoro započeo rat". Bilo kakva američka operacija protiv kineskog broda mogla je prerasti u oružani sukob između dvije svjetske sile.

Duboki rizici primjene AI u ratnim zonama

Širom američke vojske i obavještajne zajednice zvaničnici vrše pritisak da se vještačka inteligencija (AI) integriše u gotovo svaki segment rada – od analize sirovih obavještajnih podataka i odabira meta za napade, do logistike i upravljanja lancima snabdijevanja.

Ipak, ovaj incident ogoljuje duboke rizike korištenja ove moćne i nedovoljno shvaćene tehnologije za vojne ciljeve usred oružanog sukoba. Analitičari već dugo upozoravaju da oslanjanje na loše ili korumpirane podatke u sistemima vještačke inteligencije može dovesti do katastrofalnih pogrešnih procjena.

U ovom konkretnom slučaju, analitičar je upitao chatbot o izvještajima u vezi s manifestom tereta na brodu s Havaja.

Chatbot je spojio obavještajne podatke iz otvorenih izvora sa tajnim podacima iz vladinih arhiva, donijevši sudbonosan, ali pogrešan zaključak. Analitičar je potom ponovo upotrijebio AI da pronađene podatke upakuje u standardni obavještajni izvještaj i distribuira ih.

Pritisak za bržu primjenu i manjak standarda

Strategija ubrzanja vještačke inteligencije, koju je u januaru objavio ministar odbrane SAD-a Pete Hegseth, nastoji proširiti primjenu AI modela na sve nivoe civilnog i vojnog osoblja kako SAD ne bi zaostale za rivalima poput Kine.

Međutim, napori su decentralizirani, a različiti dijelovi vlade koriste različite alate i sigurnosne standarde bez jedinstvenog sistema verifikacije informacija. Dok Washington raspravlja o scenarijima u kojima AI može izmaknuti ljudskoj kontroli, ovaj slučaj s kineskim brodom naglašava neposredniju opasnost: ljude koji donose pogubne odluke na osnovu netačnih podataka.

Izvori upozoravaju da se vojska prebrzo okreće vještačkoj inteligenciji za odabir ciljeva, što nosi ogroman rizik od fatalnih grešaka i civilnih žrtava. Slučajevi "halucinacija" kod ovih alata nisu izolovani, a pritisak da se izvještaji proizvode brže posebno pogađa mlađe analitičare, koji su skloniji tome da sistemima vjeruju bez kritike.

"Vještačka inteligencija vam omogućava da brže dođete do loše ideje", zaključio je jedan od izvora upoznatih sa slučajem.

╰┈➤ Program N1 televizije možete pratiti UŽIVO na ovom linku kao i putem aplikacija za Android /iPhone/iPad