Anthropic consulta studi legali per definire norme di negoziazione eque prima che gli agenti AI inizino a trattare accordi
decoder ·
Anthropic sta consultando attivamente studi legali per stabilire norme di negoziazione eque per gli agenti AI prima che inizino a gestire autonomamente accordi commerciali. L'azienda mira a garantire che questi sistemi possano contrattare efficacemente sui prezzi, risolvere reclami e migliorare le offerte contrattuali per conto degli utenti. Esperimenti recenti indicano che i modelli più avanzati tendono a ottenere risultati di negoziazione migliori, sollevando preoccupazioni riguardo a un potenziale aumento delle disuguaglianze sociali. Per sostenere questa iniziativa, Anthropic ha assunto Conceptual Reasoning Fellows, mirando specificamente ad avvocati che passeranno quattro mesi a testare le capacità giudicative di Claude. Questi fellows sono compensati tra 100.000 e 167.000 dollari per valutare il modello in discipline come diritto, filosofia, economia e scienze politiche. Questo sforzo affronta una significativa sfida relativa ai dati, poiché le discipline umanistiche mancano dei dataset verificabili comuni nello sviluppo di matematica e codice. Gli esperti di Anthropic notano che definire la qualità nei contesti legali è notoriamente difficile, rendendo necessaria l'esperienza umana per costruire casi di test robusti. Di conseguenza, l'azienda sta sfruttando conoscenze specializzate per migliorare le prestazioni di Claude in aree complesse e sfumate, dove le risposte corrette e sbagliate raramente sono nette.
decoder