Anthropic cambia su política de uso para prohibir el abuso del modelo y la interferencia electoral
techcrunch ·
Anthropic ha actualizado su política de uso para prohibir explícitamente el maltrato del modelo y la interferencia en las elecciones. Las nuevas normas prohíben los abusos verbales prolongados hacia la IA, una práctica que anteriormente se gestionaba entrenando a Claude para finalizar dichas conversaciones, pero que ahora está estrictamente prohibida para los usuarios. Este cambio se dirige a casos extremos de crueldad sin un propósito discernible, excluyendo la frustración común o las pruebas creativas. Además, la política introduce directrices estrictas contra la socavación de los procesos democráticos, incluyendo prohibiciones sobre campañas engañosas y la generación de noticias falsas. Otras prohibiciones cubren el desarrollo de software para armas y herramientas de vigilancia. Estas actualizaciones siguen colaboraciones recientes en las que Anthropic dialogó con eruditos religiosos sobre la posible conciencia de sus modelos. La empresa busca equilibrar las medidas de seguridad con la necesidad de investigación abierta y la interacción con los usuarios.
techcrunch