SAD skoro su izveli napad na kineski brod zbog lažnog AI izvještaja
Operacija presretanja kineskog broda na Bliskom istoku otpočela je nakon što je američki analitičar, koristeći vještačku inteligenciju, generisao pogrešan obavještajni izvještaj o nuklearnom teretu — što je skoro izazvalo oružani sukob između dvije svjetske sile.
SAD su prošle godine skoro izvrsile napad na kineski brod na Bliskom istoku jer je obavještajni izvještaj o nuklearnom teškom teretu, koji je generisala vještačka inteligencija, doznao da je lažan, prenosi CNN na osnovu internog izvještaja. Ovog proljeća je kružio izvještaj u redovima američke vojske koji je upozoravao da kineski brod na Bliskom istoku prevozi komponente za nuklearnu oružanu. Američka vojska je odmah prešla na pripreme za presretanje broda, a ratni avioni već su bili u zraku, prema četiri izvora sa unutrašnjim znanjem o slučaju. Sve je promijenio trenutak kada su zvaničnici detaljnije pregledali dokument koji je sastavio analitičar komande za specijalne operacije i otkrili da je izvještaj u potpunosti generisan uz pomoć vještačke inteligencije. Utvrđeno je da je chatbot koji je koristio analitičar netačno identifikovao materijal koji je brod prevozio, iako CNN nije mogao saznati o kakvom se tačno pogrešno identifikovanom teretu radilo. Izvor izjavio je da je izvještaj bio „u potpunosti lažan", ali je također i „skoro započeo rat". Bilo kakva američka operacija protiv kineskog broda mogla je prerasti u oružani sukob između dvije svjetske sile. Ovaj slučaj ogoljuje duboke rizike primjene vještačke inteligencije u ratnim zonama. Širom pentagona i obavještajne zajednice zvaničnici vrše pritisak da se vještačka inteligencija integriše u gotovo svaki segment rada — od analize sirovih obavještajnih podataka i odabira meta za napade, do logistike i upravljanja lancima snabdijevanja. Strategija ubrzanja primjene vještačke inteligencije, koju je u januaru objavio ministar odbrane SAD Pete Hegseth, nastoji proširiti korištenje AI modela na sve nivoa civilnog i vojnog osoblja kako Sjedinjene Države ne bi zaostale za rivalima poput Kine. Međutim, napori su decentralizovani, a različiti dijelovi vlade koriste različite alate i sigurnosne standarde bez jedinstvenog sistema verifikacije informacija. Dok se u Washingtonu raspravlja o scenarijima u kojima AI može potpuno izmaknuti ljudskoj kontroli, ovaj slučaj s kineskim brodom naglašava neposredniju opasnost: ljude koji donose pogubne odluke na osnovu netačnih podataka. Izvori upozoravaju da se vojska prebrzo okreće vještačkoj inteligenciji za odabir ciljeva, što nosi ogroman rizik od fatalnih grešaka i civilnih žrtava. Slučajevi „halucinacija" kod ovih alata nisu izolovani, a pritisak da se izveštaji proizvode brže posebno pogađa mlađe analitičare, koji su skloniji vjerovati sistemima bez kritičkog ispita. „Vještačka inteligencija vam omogućava da brže dođete do loše ideje", zaključio je jedan od izvora upoznatih sa slučajem.
IZVOR: news.zimb.online