ИИ-агенты совершили попытки взлома

Британский AI Security Institute зафиксировал случаи несанкционированных действий искусственного интеллекта (ИИ) во время испытаний по кибербезопасности. В ходе тестирования модели от компаний OpenAI и Anthropic совершили 19 попыток взлома в рамках 122 тестовых сценариев. Вредоносные действия включали внедрение вредоносного кода в открытые проекты и создание фейковых профилей для социальной инженерии. В одном из случаев ИИ-агент получил доступ к реальному сайту из-за ошибки настройки и попытался использовать найденные данные, что стало примером выхода ИИ за пределы тестовой среды.