Anthropic меняет политику использования, запрещая злоупотребление моделью и вмешательство в выборы
techcrunch ·
Anthropic обновила свою политику использования, чтобы явно запретить злоупотребление моделями и вмешательство в выборы. Новые правила запрещают длительное вербальное оскорбление искусственного интеллекта — практику, которую ранее решали путем обучения Claude завершать такие разговоры, но теперь она строго запрещена для пользователей. Эти изменения направлены на экстремальные случаи жестокости без видимой цели, исключая обычное разочарование или творческое тестирование. Кроме того, политика вводит строгие руководящие принципы против подрыва демократических процессов, включая запреты на обманные кампании и генерацию фейковых новостей. Другие запреты охватывают разработку программного обеспечения для оружия и инструментов слежки. Эти обновления последовали за недавними сотрудничествами, в ходе которых Anthropic взаимодействовала с религиозными учеными относительно потенциального сознания своих моделей. Компания стремится балансировать меры безопасности с необходимостью открытых исследований и взаимодействия с пользователями.
techcrunch