Prema istraživanju Si-En-Ena (CNN), izveštaj američke vojne obaveštajne službe, sastavljen uz pomoć veštačke inteligencije, pogrešno je tvrdio da kineski brod na Bliskom istoku prevozi komponente povezane sa programom nuklearnog naoružanja; to je zamalo navelo američke snage da presretnu i ukrcaju se na brod tokom sukoba sa Iranom.
Četiri osobe upoznate sa ovim slučajem izjavile su za Si-En-En da je obaveštajni izveštaj odmah izazvao uzbunu u američkim oružanim snagama, koje su počele pripreme za operaciju protiv kineskog broda. Naoružano osoblje se navodno spremalo za ukrcavanje, dok su se američki vojni avioni već nalazili u vazduhu.
Operacija je obustavljena tek nakon što su zvaničnici detaljnije pregledali polazne obaveštajne podatke i otkrili da je izveštaj generisan uz pomoć čet-bota sa veštačkom inteligencijom. Čet-bot je pogrešno identifikovao materijal koji je brod prevozio. Si-En-En nije uspeo da utvrdi šta je brod zapravo prevozio. Jedan izvor je opisao dobijenu obaveštajnu procenu kao „potpuno pogrešnu”, dodajući da je ona „zamalo izazvala rat”. Američka operacija protiv kineskog broda mogla je dovesti do direktnog sukoba između Vašingtona i Pekinga, sa potencijalom za eskalaciju daleko izvan okvira samog incidenta. Incident se dogodio tokom proleća, dok su američke snage sprovodile vojne operacije protiv Irana.
Slučaj je navodno počeo kada je analitičar povezan sa komandom za specijalne operacije SAD pregledao obaveštajne podatke o manifestu broda. Informacije su potekle od Komande za specijalne operacije SAD za Pacifik, sa sedištem na Havajima. Umesto da se osloni isključivo na konvencionalne procedure obaveštajne analize, analitičar je o tim informacijama upitao čet-bot sa veštačkom inteligencijom. Prema navodima izvora Si-En-Ena, čet-bot je kombinovao javno dostupne informacije sa poverljivim podacima dobijenim putem obaveštajnog rada na signalima (SIGINT), kojima raspolaže američka vlada, pre nego što je doneo pogrešan zaključak o teretu broda. Analitičar je zatim ponovo upotrebio veštačku inteligenciju kako bi te nalaze pretvorio u standardni obaveštajni izveštaj.
Taj drugi korak bio je posebno značajan jer je dobijeni dokument predstavljen u uobičajenom formatu konvencionalnog vojnog obaveštajnog izveštaja. Zatim je distribuiran unutar američkih oružanih snaga, gde je osoblje preduzelo radnje na osnovu njegovog sadržaja. „Interni alati su uglavnom samo kopije komercijalnih proizvoda kojima je samo malo popravljena spoljašnjost”, rekao je za Si-En-En bivši visoki američki zvaničnik upoznat sa sistemima veštačke inteligencije koje koriste vojni i obaveštajni analitičari. Ovaj incident ukazuje na potencijalne posledice situacija u kojima sistemi veštačke inteligencije u vojnom okruženju gene，rišu netačne informacije, budući da obaveštajne procene mogu direktno uticati na upotrebu sile.
Veliki jezički modeli sposobni su da daju odgovore koji deluju uverljivo, a sadrže činjenične greške – pojava koja se često naziva „halucinacijom” veštačke inteligencije. U ovom slučaju, međutim, pogrešan rezultat je, prema izveštajima, prevazišao okvire izolovane analitičke greške i uvršten je u operativni obaveštajni izveštaj. Incident se dogodio u trenutku kada Pentagon ubrzano širi upotrebu veštačke inteligencije. Ministar odbrane Pit Hegset promoviše pristup koji prioritet daje veštačkoj inteligenciji u čitavim Oružanim snagama SAD, uvodeći je u različite oblasti – od obaveštajne analize i određivanja ciljeva do logistike, planiranja budžeta i upravljanja lancem snabdevanja.
Penzionisani pukovnik američkog Ratnog vazduhoplovstva Sedrik Lejton, vojni analitičar CNN-a, istakao je da analitičari i dalje moraju samostalno da utvrde da li su informacije unete u sisteme veštačke inteligencije tačne i uverljive. „I dalje je neophodna prava analiza kako bi se tačno utvrdilo šta se dešava i kako bi se osiguralo da su podaci koji se koriste u ovim alatima veštačke inteligencije, pre svega, istiniti, a zatim i uverljivi”, rekao je Lejton. „To su stvari koje od obaveštajnog analitičara zaista zahtevaju mnogo vremena da bi se razjasnile.” Ovaj slučaj pokreće pitanja o bezbednosti i pouzdanosti sistema veštačke inteligencije koji se koriste za obradu osetljivih obaveštajnih podataka.
