Группа влиятельных сенаторов-демократов обратилась к министру обороны Питу Хегсету и директору Национальной разведки Джею Клейтону с требованием провести немедленное расследование серии критических ошибок ИИ-систем в военном планировании и целеуказании. Поводом для жесткого запроса стало расследование CNN о сбое, который, по данным источников, чуть не спровоцировал военное столкновение США и Китая.
Как выяснили журналисты, аналитик одного из подразделений сил специального назначения применил искусственный интеллект для анализа данных о китайском грузовом судне в районе Ближнего Востока. ИИ сгенерировал недостоверный отчет («галлюцинацию»), ошибочно определив груз как компоненты для ядерной программы. Американские военные уже начали подготовку к перехвату судна, и лишь в самый последний момент выяснилось, что данные были полностью сфабрикованы алгоритмом. Источники отмечают, что подобные сбои перестали быть единичными случаями по мере внедрения ИИ в госсекторе.
В своем письме сенаторы Марк Уорнер, Джек Рид и Крис Кунс также напомнили о другом трагическом инциденте — февральском ударе США по школе в иранском городе Минаб, где погибли около 200 человек. Как сообщалось ранее, операция проводилась на основе устаревших данных, причем военное руководство проигнорировало предупреждения встроенных баз данных, включая системы на базе ИИ.
Законодатели настаивают на полном доступе генеральных инспекторов ко всем материалам обоих сбоев, подчёркивая, что регулярные ложные выводы ИИ подогревают недоверие общества и союзников к американской разведке. Скандал разразился на фоне конфликта Пентагона с разработчиком Anthropic, который отказался снимать защитные ограничения со своей модели Claude для использования в автономном оружии и слежке, сославшись на ненадёжность технологии.