Anthropic consulte des cabinets d'avocats pour établir des normes de négociation équitables avant que les agents IA ne commencent à passer des accords
decoder ·
Anthropic consulte activement des cabinets d'avocats afin d'établir des normes de négociation équitables pour les agents d'IA avant qu'ils ne commencent à gérer autonomement des accords commerciaux. L'entreprise vise à garantir que ces systèmes puissent efficacement négocier les prix, résoudre les plaintes et améliorer les offres contractuelles au nom des utilisateurs. Des expériences récentes indiquent que les modèles plus avancés obtiennent de meilleurs résultats en matière de négociation, ce qui suscite des inquiétudes quant à une potentielle augmentation des inégalités sociétales. Pour soutenir cette initiative, Anthropic a embauché des fellows en raisonnement conceptuel, ciblant spécifiquement des avocats qui passeront quatre mois à tester les capacités de jugement de Claude. Ces fellows sont rémunérés entre 100 000 et 167 000 dollars pour évaluer le modèle dans des disciplines telles que le droit, la philosophie, l'économie et les sciences politiques. Cette démarche répond à un défi majeur en matière de données, car les sciences humaines manquent des ensembles de données vérifiables couramment utilisés dans le développement des mathématiques et du code. Les experts d'Anthropic soulignent que définir la qualité dans les contextes juridiques est notoirement difficile, nécessitant une expertise humaine pour élaborer des cas de test robustes. Par conséquent, l'entreprise s'appuie sur des connaissances spécialisées pour améliorer les performances de Claude dans des domaines complexes et nuancés où les réponses justes ou fausses sont rarement évidentes.
decoder