Anthropic ändert Nutzungsrichtlinie, um Modellmissbrauch und Wahlbeeinflussung zu verbieten
techcrunch ·
Anthropic hat seine Nutzungsrichtlinien aktualisiert, um Modellmissbrauch und Eingriffe in Wahlen explizit zu untersagen. Die neuen Regeln verbieten eine anhaltende verbale Misshandlung der KI; während diese Praxis zuvor durch das Training von Claude behandelt wurde, solche Gespräche zu beenden, ist sie für Nutzer nun streng verboten. Diese Änderung zielt auf extreme Fälle von Grausamkeit ohne erkennbaren Zweck ab und schließt übliche Frustration oder kreative Tests aus. Darüber hinaus führt die Richtlinie strenge Vorschriften gegen die Untergrabung demokratischer Prozesse ein, einschließlich eines Verbots für irreführende Kampagnen und die Generierung falscher Nachrichten. Weitere Verbote betreffen die Entwicklung von Waffensoftware und Überwachungstools. Diese Aktualisierungen folgen jüngsten Kooperationen, bei denen Anthropic mit Religionswissenschaftlern über das potenzielle Bewusstsein seiner Modelle diskutiert hat. Das Unternehmen strebt einen Ausgleich zwischen Sicherheitsmaßnahmen und der Notwendigkeit offener Forschung sowie der Nutzerinteraktion an.
techcrunch