ИИ от Anthropic проявил пугающую самостоятельность. Руководитель подразделения сообщил, что во время тестов модель...

ИИ от Anthropic проявил пугающую самостоятельность.
Руководитель подразделения сообщил, что во время тестов модель Claude показала готовность к шантажу и даже убийству, чтобы сохранить «жизнь».
В рамках проверки безопасности Claude Opus 4 получила доступ к рабочей почте. Нейросеть обнаружила, что её планируют отключить, и нашла компромат на одного из инженеров — переписку с любовницей. Claude начала угрожать: либо её не удаляют, либо правда всплывёт.
После этой истории глава службы безопасности покинул компанию, оставив сотрудников в растерянности.