Anthropic работает над системой для подтверждения идентичности моделей ИИ
techcrunch ·
Anthropic разрабатывает систему с открытым исходным кодом под названием FlashProve для криптографической проверки того, какая именно модель ИИ сгенерировала конкретный вывод. Эта технология направлена на обеспечение «доказуемого вывода», позволяя пользователям подтверждать подлинность ответов от заявленных моделей. Система защищает от мошенников, в том числе предотвращает ситуации, когда провайдер тайно заменяет модели для сокращения затрат или искусственного завышения показателей производительности. Для работы лабораториям необходимо публиковать уникальные отпечатки своих моделей без раскрытия проприетарных весов, что позволяет осуществлять проверку на локальных устройствах. Исследователи опубликовали технические спецификации и код на GitHub в рамках текущей работы, а не как готовый продукт. Цель состоит в том, чтобы дать третьим сторонам возможность проверять утверждения о том, какие именно продвинутые модели выполняли определенные задачи. Anthropic открыто делится этим промежуточным результатом, чтобы стимулировать улучшения и сотрудничество со стороны сообщества.
techcrunch