Anthropic запретила оскорблять Claude в новых правилах использования

Компания Anthropic представила масштабное обновление политики использования языковых моделей Claude. В обновлённом документе разработчики не только детализировали требования к безопасности в критически важных отраслях, но и ввели неожиданное этическое правило: запрет на систематические издевательства над нейросетью. Новая редакция призвана чётко очертить границы допустимого применения ИИ для пользователей и корпоративных клиентов.

Защита модели и право завершить диалог

Согласно обновлённым правилам, пользователям запрещается бесцельно проявлять жестокость и систематически оскорблять искусственный интеллект. Разработчики уточнили, что ограничение распространяется исключительно на крайние случаи деструктивного общения.

При этом Anthropic не ограничивает исследовательскую свободу и обычное человеческое взаимодействие. Пользователи по-прежнему могут:

• Критиковать ответы ассистента и указывать на логические ошибки;
• Спорить с моделью и тестировать устойчивость её аргументов;
• Подвергать алгоритмы стресс-тестам и выражать раздражение при получении некорректных результатов.

Однако если пользователь переходит к постоянной целенаправленной травле, Claude наделяется правом защитить свои границы и самостоятельно завершить диалог в одностороннем порядке.

Ограничения на оружие, слежку и автономные решения

Значительная часть изменений касается предотвращения физических и социальных рисков. Anthropic прямо запретила применение своих систем для создания оружия, выделив в отдельную категорию софт для координации вооружений и управления беспилотными аппаратами.

Кроме того, Claude запрещено задействовать для негласной слежки за людьми без их явного согласия. Искусственный интеллект также нельзя привлекать к принятию решений о том, кого именно следует расследовать или арестовывать.

Для сфер с высокой степенью ответственности действуют отдельные требования:

• В медицине и финансах любые рекомендации и выводы нейросети должны проходить обязательную верификацию квалифицированным специалистом.
• При интеграции модели в управление физическим оборудованием оператор обязан сохранять визуальный контроль за процессом и иметь возможность в любой момент остановить работу машин.

Дезинформация и смягчение правил для политических кампаний

Политика Anthropic по-прежнему бескомпромиссна в вопросах информационных манипуляций. Сервисы компании нельзя применять для создания сетей поддельных профилей, генерации фейков и проведения скрытых кампаний влияния.

В то же время компания пошла на точечное послабление: был снят тотальный запрет на персонализированные политические кампании. Теперь такой инструмент разрешён, однако за рамками дозволенного остаются манипуляции, обман избирателей и сбор персональных данных без законных оснований.

Новые правила взаимодействия с Claude вступят в силу 12 ноября 2026 года. В компании подчёркивают, что большинство представленных формулировок лишь конкретизируют и формализуют ранее действовавшие ограничения.