Anthropic обновляет политику использования Claude для запрета злоупотреблений моделью, вмешательства в выборы и слежки
aiinsider ·
Anthropic обновила политику использования модели Claude, чтобы явно запретить несколько форм злоупотреблений, включая вмешательство в выборы, слежку и создание программного обеспечения для оружия. Существенным новым дополнением стал запрет на продолжительные вербальные оскорбления, направленные непосредственно на ИИ-модели. Это правило направлено на крайние случаи, когда пользователи неоднократно проявляют жестокость без видимой цели, отличая такое поведение от обычного разочарования или творческого тестирования. Обновление последовало за сообщениями о том, что Anthropic сотрудничала с религиозными учеными в дискуссиях о том, обладает ли Claude сознанием или душой. Кроме того, пересмотренная политика включает строгие запреты на обманные кампании, такие как использование фейковых аккаунтов или вымышленных новостных изданий. Отдельный раздел под названием «Не подрывать демократические процессы» дополнительно усиливает меры защиты против обмана избирателей или нарушения хода выборов. Эти изменения отражают постоянные усилия Anthropic по снижению рисков misuse ИИ в политических и социальных контекстах.
aiinsider