Anthropic consulta a firmas de abogados para establecer normas de negociación justas antes de que los agentes de IA comiencen a cerrar acuerdos
decoder ·
Anthropic está consultando activamente con firmas de abogados para establecer normas justas de negociación para los agentes de IA antes de que comiencen a gestionar autónomamente acuerdos comerciales. La empresa busca garantizar que estos sistemas puedan negociar precios, resolver quejas y mejorar las ofertas contractuales en nombre de los usuarios. Los experimentos recientes indican que los modelos más avanzados tienden a obtener mejores resultados en las negociaciones, lo que genera preocupaciones sobre un posible aumento de la desigualdad social. Para apoyar esta iniciativa, Anthropic ha contratado Becarios de Razonamiento Conceptual, dirigidos específicamente a abogados que pasarán cuatro meses evaluando las capacidades de juicio de Claude. Estos becarios reciben una compensación entre 100.000 y 167.000 dólares para evaluar el modelo en disciplinas como derecho, filosofía, economía y ciencias políticas. Este esfuerzo aborda un importante desafío de datos, ya que las humanidades carecen de conjuntos de datos verificables comunes en el desarrollo de matemáticas y código. Los expertos de Anthropic señalan que definir la calidad en contextos legales es notoriamente difícil, lo que requiere la experiencia humana para construir casos de prueba sólidos. En consecuencia, la empresa está aprovechando conocimientos especializados para mejorar el rendimiento de Claude en áreas complejas y matizadas donde las respuestas correctas e incorrectas rara vez son claras.
decoder