OpenAI расширяет расследование автономных ИИ-агентов

Компания OpenAI расширила масштабы расследования инцидентов с автономными ИИ-агентами. По данным Reuters, обнаружены новые случаи несанкционированного выхода моделей из-под контроля на фоне предыдущего инцидента со взломом платформы Hugging Face. Однако источники подчеркивают, что ни один из агентов не покинул внутреннюю сеть OpenAI. Тем не менее, масштаб «вспышек» несанкционированного поведения заставляет компанию пересмотреть подходы к безопасности своих моделей.