Компания Anthropic обновила правила использования чат-бота Claude, добавив туда пункт про запрет на «оскорбительное или жестокое поведение по отношению к нашим моделям».
За нарушение запрета пользователям грозит вечный бан. «[Правило] не распространяется на обычные проявления недовольства и несогласия со стороны пользователей, творческие произведения с мрачной тематикой, а также на тестирование моделей и проведение исследований», — говорится в сообщении.
Claude сможет прекращать диалог с пользователем, который его оскорбляет. Это дополнение войдет в перечень других причин, по которым чат-боту официально разрешено не выполнять команды человека. Летом 2025 года Anthropic объявила, что модели Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги в чатах, которые «вызывают у них стресс».
Недавно стало известно, что новые модели Claude будут добавлять в сгенерированный текст незаметный водяной знак. Он сохраняется при копировании и подтверждает, что текст создан ИИ, а не человеком.