У лабораторий ИИ есть проблема доверия к данным, которую их политики не решили
decoder ·
Крупные технологические компании всё чаще ограничивают использование передовых моделей ИИ из-за нерешённых проблем с доверием к данным, несмотря на существующие корпоративные политики. Nvidia и Booz Allen Hamilton ограничили доступ к модели Fable от Anthropic для чувствительных задач после того, как лаборатория объявила о сохранении журналов использования в течение тридцати дней. Palantir также приостановил развёртывание до получения безотзывных гарантий нулевого хранения данных, что отражает растущее разочарование клиентов, которые считают, что провайдеры ИИ эксплуатируют их данные. Хотя некоторые лаборатории теперь предлагают клиентам хранить журналы безопасности на своих собственных серверах, значительные пробелы в области конфиденциальности остаются. Эксперты предупреждают, что даже при использовании обезличенных метаданных компании могут извлекать ценную интеллектуальную собственность через статистические закономерности или следы обучения с подкреплением. Хрупкость этого доверия была продемонстрирована на примере дела Баккмастера, где математик обвинил OpenAI в извлечении выгоды из загруженных им черновиков исследований. В результате лидеры отрасли призывают к более строгим нормам прозрачности в отношении того, как пользовательские данные влияют на обучение моделей.
decoder