Los laboratorios de IA tienen un problema de confianza en los datos que sus políticas no han resuelto
decoder ·
Las principales empresas tecnológicas están restringiendo cada vez más el uso de modelos avanzados de IA debido a problemas no resueltos en la confianza sobre los datos, a pesar de las políticas corporativas existentes. Nvidia y Booz Allen Hamilton han limitado el acceso al modelo Fable de Anthropic para tareas sensibles después de que el laboratorio anunciara que retendría los registros de uso durante treinta días. Palantir también ha bloqueado los despliegues hasta recibir garantías irrevocables de cero retención de datos, lo que refleja la frustración generalizada de los clientes con la percepción de explotación por parte de los proveedores de IA. Aunque algunos laboratorios ahora ofrecen opciones para que los clientes almacenen sus propios registros de seguridad, persisten importantes lagunas de privacidad. Los expertos advierten que, incluso con metadatos desidentificados, las empresas aún pueden extraer valiosa propiedad intelectual mediante patrones estadísticos o rastros de aprendizaje por refuerzo. La fragilidad de esta confianza se puso de manifiesto en el caso Buckmaster, donde un matemático acusó a OpenAI de beneficiarse de sus borradores de investigación cargados en la plataforma. Como consecuencia, los líderes del sector exigen normas más estrictas en cuanto a la transparencia sobre cómo los datos de los usuarios influyen en el entrenamiento de los modelos.
decoder