Према истраживању Си-Ен-Ена (ЦНН), извештај америчке војне обавештајне службе, састављен уз помоћ вештачке интелигенције, погрешно је тврдио да кинески брод на Блиском истоку превози компоненте повезане са програмом нуклеарног наоружања; то је замало навело америчке снаге да пресретну и укрцају се на брод током сукоба са Ираном.
Четири особе упознате са овим случајем изјавиле су за Си-Ен-Ен да је обавештајни извештај одмах изазвао узбуну у америчким оружаним снагама, које су почеле припреме за операцију против кинеског брода. Наоружано особље се наводно спремало за укрцавање, док су се амерички војни авиони већ налазили у ваздуху.
Операција је обустављена тек након што су званичници детаљније прегледали полазне обавештајне податке и открили да је извештај генерисан уз помоћ чет-бота са вештачком интелигенцијом. Чет-бот је погрешно идентификовао материјал који је брод превозио. Си-Ен-Ен није успео да утврди шта је брод заправо превозио. Један извор је описао добијену обавештајну процену као „потпуно погрешну”, додајући да је она „замало изазвала рат”. Америчка операција против кинеског брода могла је довести до директног сукоба између Вашингтона и Пекинга, са потенцијалом за ескалацију далеко изван оквира самог инцидента. Инцидент се догодио током пролећа, док су америчке снаге спроводиле војне операције против Ирана.
Случај је наводно почео када је аналитичар повезан са командом за специјалне операције САД прегледао обавештајне податке о манифесту брода. Информације су потекле од Команде за специјалне операције САД за Пацифик, са седиштем на Хавајима. Уместо да се ослони искључиво на конвенционалне процедуре обавештајне анализе, аналитичар је о тим информацијама упитао чет-бот са вештачком интелигенцијом. Према наводима извора Си-Ен-Ена, чет-бот је комбиновао јавно доступне информације са поверљивим подацима добијеним путем обавештајног рада на сигналима (СИГИНТ), којима располаже америчка влада, пре него што је донео погрешан закључак о терету брода. Аналитичар је затим поново употребио вештачку интелигенцију како би те налазе претворио у стандардни обавештајни извештај.
Тај други корак био је посебно значајан јер је добијени документ представљен у уобичајеном формату конвенционалног војног обавештајног извештаја. Затим је дистрибуиран унутар америчких оружаних снага, где је особље предузело радње на основу његовог садржаја. „Интерни алати су углавном само копије комерцијалних производа којима је само мало поправљена спољашњост”, рекао је за Си-Ен-Ен бивши високи амерички званичник упознат са системима вештачке интелигенције које користе војни и обавештајни аналитичари. Овај инцидент указује на потенцијалне последице ситуација у којима системи вештачке интелигенције у војном окружењу гене，ришу нетачне информације, будући да обавештајне процене могу директно утицати на употребу силе.
Велики језички модели способни су да дају одговоре који делују уверљиво, а садрже чињеничне грешке – појава која се често назива „халуцинацијом” вештачке интелигенције. У овом случају, међутим, погрешан резултат је, према извештајима, превазишао оквире изоловане аналитичке грешке и уврштен је у оперативни обавештајни извештај. Инцидент се догодио у тренутку када Пентагон убрзано шири употребу вештачке интелигенције. Министар одбране Пит Хегсет промовише приступ који приоритет даје вештачкој интелигенцији у читавим Оружаним снагама САД, уводећи је у различите области – од обавештајне анализе и одређивања циљева до логистике, планирања буџета и управљања ланцем снабдевања.
Пензионисани пуковник америчког Ратног ваздухопловства Седрик Лејтон, војни аналитичар ЦНН-а, истакао је да аналитичари и даље морају самостално да утврде да ли су информације унете у системе вештачке интелигенције тачне и уверљиве. „И даље је неопходна права анализа како би се тачно утврдило шта се дешава и како би се осигурало да су подаци који се користе у овим алатима вештачке интелигенције, пре свега, истинити, а затим и уверљиви”, рекао је Лејтон. „То су ствари које од обавештајног аналитичара заиста захтевају много времена да би се разјасниле.” Овај случај покреће питања о безбедности и поузданости система вештачке интелигенције који се користе за обраду осетљивих обавештајних података.
