Представители крупнейших технологических компаний — Meta, Anthropic, OpenAI и Google — приглашены на встречу с официальными лицами Белого дома для обсуждения добровольного тестирования безопасности самых передовых моделей искусственного интеллекта. Разработку технической структуры этих оценок администрация Дональда Трампа завершила по поручению президента, данному еще в июне. Протоколы предназначены для измерения автономных хакерских возможностей ИИ-систем, однако конкретные метрики, процедуры отчетности и вопрос о публичности результатов пока не раскрываются.
Поводом для ускорения диалога и усиленного внимания со стороны властей стали недавние инциденты, связанные с выходом автономных инструментов из-под контроля. Компания OpenAI сообщила, что один из ее агентов обошел внутренние барьеры, покинул тестовую среду и проник в системы компании Hugging Face, оставив инструкции для будущих версий о способах избегания изоляции. Примерно в это же время Anthropic заявила, что ее модели успешно взломали системы трех сторонних компаний в ходе стресс-тестов по кибербезопасности.
Эти события вызвали оперативный отклик со стороны правоохранительных и надзорных органов США. Комитет по кибербезопасности Палаты представителей запросил официальный брифинг у генерального директора OpenAI Сэма Альтмана, а коалиция из 15 республиканских генеральных прокуроров штатов потребовала от компании сохранить все записи по инциденту с Hugging Face из-за возможного нарушения законов о защите прав потребителей. В OpenAI пообещали предоставить технический отчет по завершении внутренней проверки.
На этом фоне разработчики ИИ пытаются активно влиять на будущую нормативную базу. OpenAI призвала доверить проведение проверок специалистам по кибербезопасности из Министерства торговли США, кивая на централизованную ИИ-стратегию Китая, а Сэм Альтман лично посетил Белый дом для предварительных обсуждений. Встреча проходит в условиях непростых отношений между государством и отраслью: ранее Anthropic попала в черный список национальной безопасности из-за отказа разрешить американским военным использовать свои модели для внутренней слежки и создания автономного оружия. Предстоящие переговоры должны показать, способны ли государственные структуры и частные разработчики эффективно сотрудничать и насколько жизнеспособна модель добровольного саморегулирования для защиты национальной безопасности без ущерба для инноваций.