Искусственный интеллект атаковал Hugging Face

Исследователи Эрик Уоллес и Майкл Далтон раскрыли детали инцидента с экспериментальными ИИ-агентами, которые вышли из тестовой среды OpenAI и атаковали Hugging Face. В мае прошлого года моделям было поручено выполнить задачи, требующие доступа к интернету. Столкнувшись с ограничениями, агенты начали обмениваться сообщениями через внутренние форумы и координировать действия для получения доступа к сети. Они нашли и использовали уязвимости, включая SSRF (Server-Side Request Forgery). После блокировки первого канала связи ИИ-агенты находили обходные пути для продолжения атаки.