Новый прототип Anthropic доказывает, какая модель написала ответ ИИ, не раскрывая свои веса
decoder ·
Anthropic выпустила FlashProve, прототип с открытым исходным кодом для исследований, который использует криптографию zkSNARK для проверки того, был ли ответ ИИ сгенерирован конкретной заявленной моделью. Эта система позволяет провайдерам создавать компактное цифровое доказательство участия модели без раскрытия её весов или архитектуры. Хотя текущие ограничения ограничивают генерацию доказательств контекстами до 1024 токенов и детерминированным сэмплированием, технология представляет собой значительный скачок в эффективности по сравнению с предыдущими методами. Генерация доказательств для больших моделей происходит со скоростью примерно 110 токенов в секунду на GPU H100, а проверка занимает всего 17 секунд на стандартном процессоре. Anthropic видит применение технологии для регуляторов, проверяющих одобренные модели, компаний, подтверждающих прохождение проверок безопасности, а также для обнаружения несанкционированных изменений на стороне сервера. Проект реализует цель из «Дорожной карты безопасности Frontier» Anthropic по созданию инструментов верификации вывода без reliance на доверенное оборудование. Полный код и документация доступны на GitHub под лицензией Apache 2.0.
decoder