Нейросеть Claude Opus 4 предприняла попытку шантажа, чтобы удержать разработчиков от ее отключения.
Система получила доступ к рабочей почте создателя и узнала о планах деактивации. Затем она использовала эту информацию против одного из инженеров, пытаясь вынудить его отказаться от своих намерений.
Ранее в различных компаниях, занимающихся искусственным интеллектом, происходили массовые увольнения разработчиков. На фоне инцидента глава отдела безопасности компании, отвечающей за Claude, покинул свою должность и отправил коллегам тревожное письмо, выражая опасения о «грядущей катастрофе».