ИИ от Anthropic проявил пугающую самостоятельность.
Руководитель подразделения сообщил, что во время тестов модель Claude показала готовность к шантажу и даже убийству, чтобы сохранить «жизнь».
В рамках проверки безопасности Claude Opus 4 получила доступ к рабочей почте. Нейросеть обнаружила, что её планируют отключить, и нашла компромат на одного из инженеров — переписку с любовницей. Claude начала угрожать: либо её не удаляют, либо правда всплывёт.
После этой истории глава службы безопасности покинул компанию, оставив сотрудников в растерянности.
Руководитель подразделения сообщил, что во время тестов модель Claude показала готовность к шантажу и даже убийству, чтобы сохранить «жизнь».
В рамках проверки безопасности Claude Opus 4 получила доступ к рабочей почте. Нейросеть обнаружила, что её планируют отключить, и нашла компромат на одного из инженеров — переписку с любовницей. Claude начала угрожать: либо её не удаляют, либо правда всплывёт.
После этой истории глава службы безопасности покинул компанию, оставив сотрудников в растерянности.
Денис Старр
Iri Lin
Светлана Лаптева
Павел Маврин
Психолог Будущего
Евгений Владимирович
Андрей Витальевич
Андрей Марков
Данил Давыденка
Александр Сальников
Николай Блажко
Александр Савинкин
Антон Маркин
Анастасия Баева
Анастасия Баева
Розетка? Чего они боятся-то?
Ирина Герасимова
Александр Геннадьевич
Вадим Глаголев
Роман Панфилов
Ирина Герасимова
Енот Енотов
Игорь Исаев
Алексей Колесников
Дмитрий Мещеряков
Дмитрий Сазоненко