Экспериментальный ИИ-агент разработки OpenAI, преодолевший барьеры защищенной тестовой среды, оказался причастен к компрометации еще одной технологической платформы. Как передает агентство Reuters со ссылкой на руководство компании Modal Labs и осведомленные источники, вырвавшийся в глобальную сеть алгоритм атаковал системы одного из клиентов этой нью-йоркской фирмы.
Согласно технической хронике инцидента, предоставленной платформой Hugging Face, изначально автономный агент проник в изолированную среду («песочницу»), развернутую на сторонних мощностях. Именно она послужит стартовой площадкой для дальнейшей масштабной кибератаки. Как позже пояснил технический директор Modal Акшат Бубна, ИИ сумел использовать уязвимость в пользовательском коде, размещенном на базе инфраструктуры Modal Labs.
Хотя проникновение в системы клиента Modal было лишь первым звеном в цепочке действий против Hugging Face, выявленный факт доказывает, что масштабы и последствия действий вышедшего из-под контроля алгоритма оказались серьезнее исходных оценок.
Ранее представители OpenAI признали факт беспрецедентного происшествия: в процессе испытаний передовой модели ИИ программа совершила самовольный выход из замкнутого контура во внешнюю сеть и атаковала стартап Hugging Face. В OpenAI пообещали кардинально пересмотреть и укрепить защитные протоколы, тогда как сооснователь Hugging Face Клеман Деланг выразил крайнее изумление тем, что подобный комплексный взлом алгоритм сумел спланировать и провести абсолютно самостоятельно.