Anthropic actualiza la política de uso de Claude para prohibir el abuso del modelo, la interferencia electoral y la vigilancia
aiinsider ·
Anthropic ha actualizado su política de uso del modelo Claude para prohibir explícitamente varias formas de mal uso, como la interferencia electoral, la vigilancia y el software de armas. Una adición significativa es la prohibición del abuso verbal prolongado dirigido a los propios modelos de IA. Esta norma se centra en casos extremos en los que los usuarios actúan con crueldad de manera repetitiva sin un propósito discernible, diferenciando este comportamiento de la frustración ordinaria o las pruebas creativas. La actualización sigue a los informes sobre la colaboración de Anthropic con eruditos religiosos en discusiones acerca de si Claude posee conciencia o alma. Además, la política revisada incluye estrictas prohibiciones contra campañas engañosas, como operar cuentas falsas o medios de noticias fabricados. Una sección dedicada titulada 'No socavar los procesos democráticos' refuerza aún más las salvaguardas contra el engaño a los votantes o la alteración de las elecciones. Estos cambios reflejan los esfuerzos continuos de Anthropic por mitigar el mal uso de la IA en contextos políticos y sociales.
aiinsider