Как использовать ИИ, сохраняя конфиденциальность
wired ·
В статье подчеркиваются серьезные риски для конфиденциальности, связанные с популярными чат-ботами на базе ИИ, которые часто собирают и хранят очень личные данные пользователей для обучения моделей или соблюдения юридических требований. Криптограф Моукси Марлинспайк отмечает, что такие взаимодействия стали новой основной уязвимостью для чувствительной информации, что привело к созданию таких инструментов, как Confer, использующих криптографию для предотвращения серверного наблюдения. Для корпоративных пользователей более сильную защиту обеспечивают политики нулевого хранения данных (Zero Data Retention), предусматривающие немедленное удаление записей, хотя исключения существуют для мониторинга злоупотреблений и некоторых высокорисковых моделей. Обычные потребители обычно полагаются на более слабые обещания на основе политик от сервисов вроде Proton’s Lumo или прокси-сервисов, таких как Duck.ai, которые не предоставляют технических гарантий против логирования. Более надежные решения включают доверенные среды выполнения (TEE), используемые компаниями Meta и Apple, или локальные инструменты ИИ, которые полностью сохраняют данные на устройстве пользователя, albeit с reduced intelligence capabilities. В заключение отмечается, что достижение подлинной конфиденциальности в сфере ИИ часто требует более высоких подписок, поскольку поставщики не могут субсидировать затраты за счет монетизации данных.
wired