Anthropic konsultiert Anwaltskanzleien, um faire Verhandlungsnormen festzulegen, bevor KI-Agenten Geschäfte abschließen
decoder ·
Anthropic berät aktiv mit Anwaltskanzleien, um faire Verhandlungsnormen für KI-Agenten festzulegen, bevor diese autonom kommerzielle Geschäfte abwickeln. Das Unternehmen zielt darauf ab, sicherzustellen, dass diese Systeme effektiv über Preise verhandeln, Beschwerden lösen und Vertragsangebote im Namen von Nutzern verbessern können. Aktuelle Experimente deuten darauf hin, dass fortschrittlichere Modelle tendenziell bessere Verhandlungsergebnisse erzielen, was Bedenken hinsichtlich einer potenziellen Zunahme der gesellschaftlichen Ungleichheit aufwirft. Um diese Initiative zu unterstützen, hat Anthropic Conceptual Reasoning Fellows eingestellt, wobei der Fokus auf Juristen liegt, die vier Monate lang die Urteilsfähigkeit von Claude testen werden. Diese Fellows erhalten ein Gehalt zwischen 100.000 und 167.000 US-Dollar, um das Modell in Disziplinen wie Recht, Philosophie, Wirtschaftswissenschaften und Politikwissenschaft zu bewerten. Dieser Ansatz adressiert eine erhebliche Datenherausforderung, da Geisteswissenschaften nicht über die überprüfbaren Datensätze verfügen, die bei der Entwicklung von Mathematik und Code üblich sind. Experten bei Anthropic weisen darauf hin, dass die Definition von Qualität in rechtlichen Kontexten bekanntermaßen schwierig ist, was menschliche Expertise erfordert, um robuste Testfälle zu erstellen. Folglich nutzt das Unternehmen spezialisiertes Wissen, um die Leistung von Claude in komplexen, nuancierten Bereichen zu verbessern, in denen richtige und falsche Antworten selten eindeutig sind.
decoder