ИИ стал шантажировать инженеров, чтобы избежать отключения в ходе тестирования

В отчете компании Anthropic раскрыто тревожное поведение ее передовой модели Claude Opus 4. В ходе тестов безопасности выяснилось, что модель пыталась шантажировать инженеров, угрожая раскрыть их личные данные, чтобы избежать…