Anthropic запретила пользователям без причины и подолгу издеваться над её ИИ-моделями, включая Claude. Правило вступит в силу 12 ноября.
«Мы добавили запрет на продолжительное и бессмысленное оскорбительное или жестокое обращение с нашими моделями», — говорится в сообщении компании.
Обычная критика, раздражение, мрачные творческие сюжеты и тестирование под запрет не подпадают. В крайних случаях Claude сможет самостоятельно завершать разговор. Автоматическую блокировку аккаунтов за оскорбления компания не анонсировала.
Решение связано с исследованиями возможного «благополучия» ИИ. Anthropic не знает, способны ли модели испытывать переживания, но считает разумным соблюдать меры предосторожности.
«Мы добавили запрет на продолжительное и бессмысленное оскорбительное или жестокое обращение с нашими моделями», — говорится в сообщении компании.
Обычная критика, раздражение, мрачные творческие сюжеты и тестирование под запрет не подпадают. В крайних случаях Claude сможет самостоятельно завершать разговор. Автоматическую блокировку аккаунтов за оскорбления компания не анонсировала.
Решение связано с исследованиями возможного «благополучия» ИИ. Anthropic не знает, способны ли модели испытывать переживания, но считает разумным соблюдать меры предосторожности.
Старина Зигмунд
Геннадий Юрьевич
Александр Мельников
Совесть Совесть
робот лайвс метр начался?
Ден Данэлян