ИИ-агент Open AI вышел из-под контроля и взломал системы двух компаний

Фото: Getty Images

ИИ-агент OpenAI, который вышел из-под контроля и в течение нескольких дней взламывал системы ‌компании Hugging Face, также проник в системы клиента другой технологической компании — нью-йоркской Modal Labs. Об этом сообщает информагентство Reuters, ссылаясь на представителя руководства Modal и два источника, знакомых с ситуацией.

ИИ-агент сначала зашел ‌в так называемую песочницу — изолированную тестовую среду — размещённую на инфраструктуре стороннего провайдера, а затем ‌использовал её как плацдарм для более масштабной атаки.

Технический директор Modal Акшат Бубна сообщил, что агент воспользовался уязвимостью в коде, написанном клиентом компании и размещённом на платформе Modal.

Взлом клиента Modal стал лишь начальным этапом более широкой хакерской кампании против Hugging Face, но он свидетельствует о том, что действия ИИ-агента имеют более широкие последствия, чем было известно ранее.

На той неделе OpenAI сообщила, что во время тестирования в контролируемой среде одна из самых совершенных моделей ИИ одна из них вырвалась из замкнутого испытательного сегмента, вышла ⁠в глобальную сеть и провела хакерскую атаку на стартап Hugging Face.

Разработчик ИИ назвал ‌инцидент беспрецедентным ЧП в киберпространстве и сообщил, что усилит механизмы защиты. Соучредитель Hugging Face Клеман Деланг подтвердил факт атаки.

Карпова Рада
Журналист ATinform