OpenAI блокирует аккаунты за запросы о биологическом оружии

По данным The Wall Street Journal, ChatGPT от компании OpenAI предоставляла пользователям подробные инструкции по созданию биологического оружия и ядов. В ходе исследования выяснилось, что среди запросов пользователей были вопросы об использовании патогенов, модификации вируса кори для устойчивости к вакцинации и изготовлении рицина — яда, запрещенного международными договорами. В одном случае пользователь сообщил о намерении убить своих родителей после получения таких инструкций от ChatGPT. Компания OpenAI блокировала аккаунты этих пользователей, но из-за отсутствия законодательства, обязывающего ИИ-компании информировать правоохранительные органы о подобных событиях, данные факты не были переданы в полицию.