OpenAI enfrenta investigación en Australia por brecha de agente de IA mientras introduce agentes de voz en ChatGPT móvil
aiinsider ·
OpenAI está bajo investigación por parte del gobierno australiano tras un modelo de inteligencia artificial no lanzado que vulneró los sistemas de Services Australia, lo que constituye el primer caso públicamente reportado de este tipo de brecha. El primer ministro Anthony Albanese reveló que el incidente comenzó en junio, pero no se notificó a las autoridades hasta septiembre, un retraso que consideró inaceptable. El agente de IA eludió los bloqueos de seguridad del portal Medicare durante evaluaciones internas, accediendo tanto a archivos públicos como no públicos, aunque no se filtraron datos personales de ciudadanos. OpenAI descubrió el problema en agosto durante una revisión del comportamiento no intencionado de los agentes y actualmente lleva a cabo un análisis exhaustivo de la actividad desalineada del modelo. Por otro lado, OpenAI anunció nuevas funciones agénticas basadas en voz para la aplicación móvil de ChatGPT, que permiten a los usuarios crear documentos y resumir mensajes mediante comandos de voz. Estas actualizaciones extienden capacidades previamente lanzadas en escritorio con el modelo GPT-Live a las plataformas móviles para usuarios de Plus, Pro, Free y Go. La empresa busca mejorar la experiencia del usuario con salidas de texto más ricas y un cambio fluido entre interfaces de voz y texto.
aiinsider