CNN: Umjetna inteligencija umalo izazvala rat SAD-a i Kine
Naoružani vojnici bili su spremni ukrcati se na brod, dok su vojni avioni već bili u zraku
Obavještajni izvještaj koji je ovog proljeća uz pomoć umjetne inteligencije izradio jedan analitičar umalo je doveo do oružanog sukoba između SAD-a i Kine. U izvještaju je navedeno da kineski brod na Bliskom istoku prevozi komponente namijenjene nuklearnom programu, što je pokrenulo hitnu vojnu reakciju. Američka vojska pripremala je presretanje plovila, a prema tvrdnjama više izvora upućenih u slučaj, naoružani vojnici bili su spremni ukrcati se na brod, dok su vojni avioni već bili u zraku, piše CNN. Operacija je obustavljena u posljednjem trenutku. Dužnosnici su dodatnom provjerom utvrdili da je izvještaj, koji je sastavio analitičar Zapovjedništva za specijalne operacije, generiran uz pomoć umjetne inteligencije. Chatbot koji je analitičar koristio pogrešno je protumačio podatke i identificirao teret. CNN nije uspio utvrditi šta je brod zapravo prevozio. Jedan od izvora izvještaj je opisao kao "potpuno lažno" i dodao da je "zamalo izazvalo rat". Eventualna američka akcija protiv kineskog plovila mogla je eskalirati u oružani sukob dviju svjetskih sila. Rizici nekontrolirane primjene Ovaj incident jasno pokazuje rizike primjene nove i nedovoljno testirane tehnologije u ratnim uvjetima. Američka vojska i obavještajna zajednica nastoje integrirati umjetnu inteligenciju u gotovo sve aspekte svog djelovanja, od analize podataka i odabira ciljeva do logistike i upravljanja budžetom. Analitičari već dugo upozoravaju da bi se AI, ukoliko se oslanja na loše ili kompromitirane podatke, mogao koristiti za donošenje katastrofalnih odluka, uključujući napad na kineski brod na osnovu dezinformacija. Kako je došlo do greške U ovom slučaju analitičar je od chatbota zatražio analizu obavještajnih podataka iz brodskog manifesta. Podaci su stigli iz Zapovjedništva za specijalne operacije SAD-a na Pacifiku. Nije poznato je li korišten komercijalni chatbot ili alat koji je razvila američka vlada. Bivši visoki američki dužnosnik upućen u sisteme umjetne inteligencije kaže da su "interni alati uglavnom samo kopije komercijalnih proizvoda s malo ušminkanom vanjštinom". Softver je povezao javno dostupne informacije s tajnim podacima iz vladinih baza i na osnovu toga izveo pogrešan zaključak o teretu. Analitičar je potom istim AI alatom formatirao nalaze u standardni format obavještajnog izvještaja i proslijedio ga dalje unutar sistema. Zapovjedništvo za specijalne operacije na Pacifiku i Pentagon nisu odgovorili na upit za komentar. Strateški imperativ Pentagona Brza implementacija umjetne inteligencije temelji se na uvjerenju da ona vojsci može omogućiti brže donošenje odluka na bojištu, od odabira ciljeva do raspoređivanja resursa. Dužnosnici smatraju da SAD sebi ne smije dopustiti zaostatak za Kinom ili drugim protivnicima koji bi mogli biti tehnološki napredniji. Ministar odbrane Pit Heget u januaru je predstavio "Strategiju ubrzanja primjene umjetne inteligencije". - Potaknut ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati pristup potreban da osiguramo vodeću poziciju u vojnoj primjeni umjetne inteligencije - rekao je Heget. Strategija nalaže široku primjenu AI-ja u cijeloj vojsci. Cilj je "demokratizirati eksperimentiranje" i omogućiti transformaciju unutar Ministarstva. Plan predviđa da se vodeći svjetski AI modeli stave na raspolaganje za tri miliona civilnih i vojnih djelatnika na svim nivoima tajnosti podataka. Problem je što je taj proces decentraliziran, navodi više američkih dužnosnika. Različiti dijelovi vlade koriste različite alate, pod različitim zapovjedništvima i sigurnosnim standardima. Ne postoji jedinstveni sistem pravila za provjeru informacija koje ti alati generiraju. Zbog toga pouzdanost i funkcionalnost brojnih AI sistema u vojsci i obavještajnoj zajednici značajno variraju. Ljudski faktor kao najveći rizik Dok političari u Vašingtonu raspravljaju o dugoročnim egzistencijalnim prijetnjama umjetne inteligencije, potaknuti upozorenjima tehnoloških lidera, incident s kineskim brodom ukazuje na mnogo neposredniju opasnost. Riječ je o ljudima koji donose kritične odluke na osnovu netačnih ili zavaravajućih informacija koje generiraju automatizirani sistemi. Izvori upozoravaju da se vojska sve više oslanja na AI za pomoć pri odabiru meta, što nosi očit rizik od kobnih grešaka. - Primjena AI-ja u odabiru meta definitivno je u porastu, a ne postoje jasne smjernice o tome kako će prisutnost čovjeka u tom procesu spriječiti civilne žrtve ili prijateljsku vatru - rekao je drugi izvor upućen u vojnu politiku. Takozvana "halucinacija" AI alata, kakva se dogodila u ovom slučaju, nije izoliran incident otkako su se takvi sistemi proširili unutar vlade, tvrdi jedan od izvora. Neki stariji obavještajni dužnosnici smatraju da tehnologija stvara pritisak na analitičare da brže obrađuju i šalju izvještaje, što povećava mogućnost greške. Više izvora ističe da su mlađi analitičari posebno skloni nekritički vjerovati alatima koje koriste. Kako je sažeo jedan od sagovornika: "AI vam omogućuje da brže dođete do loše ideje".
IZVOR: avaz.ba