Anthropic консультируется с юридическими фирмами для установления справедливых норм переговоров до начала сделок ИИ-агентов
decoder ·
Anthropic активно консультируется с юридическими фирмами, чтобы установить справедливые нормы ведения переговоров для ИИ-агентов до того, как они начнут самостоятельно обрабатывать коммерческие сделки. Компания стремится обеспечить возможность этих систем эффективно торговаться по ценам, разрешать жалобы и улучшать условия контрактов от имени пользователей. Недавние эксперименты показывают, что более продвинутые модели достигают лучших результатов в переговорах, что вызывает опасения относительно возможного роста социального неравенства. Для поддержки этой инициативы Anthropic наняла стипендиатов по концептуальному мышлению (Conceptual Reasoning Fellows), среди которых преимущественно юристы, которые в течение четырех месяцев будут тестировать способности Claude к рассуждению. Эти специалисты получают вознаграждение в размере от 100 000 до 167 000 долларов за оценку модели в таких дисциплинах, как право, философия, экономика и политология. Эта работа направлена на решение серьезной проблемы с данными: гуманитарные науки не обладают проверяемыми наборами данных, характерными для разработки математики и программного кода. Эксперты Anthropic отмечают, что определение качества в правовом контексте notoriously difficult (чрезвычайно сложно), поэтому требуется человеческий экспертный опыт для создания надежных тестовых случаев. Таким образом, компания использует специализированные знания для улучшения работы Claude в сложных, нюансированных областях, где редко бывают однозначные правильные или неправильные ответы.
decoder