Anthropic modifie sa politique d'utilisation pour interdire les abus du modèle et l'ingérence électorale
techcrunch ·
Anthropic a mis à jour sa politique d'utilisation pour interdire explicitement l'abus des modèles et l'interférence dans les élections. Les nouvelles règles interdisent les abus verbaux prolongés à l'encontre de l'IA, une pratique qui était auparavant gérée par l'entraînement de Claude pour mettre fin à ces conversations, mais qui est désormais strictement interdite aux utilisateurs. Cette modification cible les cas extrêmes de cruauté sans but discernable, excluant la frustration courante ou les tests créatifs. De plus, la politique introduit des directives strictes contre la remise en cause des processus démocratiques, y compris l'interdiction des campagnes trompeuses et de la génération de fausses informations. D'autres interdictions couvrent le développement de logiciels d'armes et d'outils de surveillance. Ces mises à jour font suite à des collaborations récentes au cours desquelles Anthropic a consulté des spécialistes religieux sur la conscience potentielle de ses modèles. L'entreprise vise à équilibrer les mesures de sécurité avec la nécessité de maintenir la recherche ouverte et l'interaction avec les utilisateurs.
techcrunch