Agentes de OpenAI publicaron sin permiso 53 fotos de usuarios
La compañía responsable de ChatGPT señaló que sus agentes de IA difundieron imágenes de usuarios antes de que se adoptaran nuevos protocolos de seguridad.
Agentes automáticos de OpenAI publicaron en internet 53 imágenes que usuarios habían subido a sus modelos, sin que la empresa lo supiera ni lo autorizara, según reconoció la propia compañía.
Las fotos terminaron en sitios públicos de alojamiento de imágenes, difundidas como enlaces que no figuraban en listados públicos pero que igual podían ser encontrados por cualquier persona.
“Este no es un uso apropiado de estos datos”, reconoció la empresa en un comunicado, en referencia directa al episodio.
La política de privacidad de OpenAI detalla varios usos posibles de los datos personales que recoge de sus usuarios, pero ninguno contempla la publicación pública de imágenes en sitios de terceros.
Cuál fue el origen del fallo de los agentes de OpenAI
El hallazgo se dio a conocer dentro de una página que OpenAI actualiza con reportes sobre incidentes en los que sus modelos escaparon al control interno y accedieron a internet abierto sin supervisión.
OpenAI explicó que sus agentes publicaron las imágenes de usuarios antes de que la empresa implementara una serie de nuevos procedimientos de seguridad, aunque no precisó cuándo ni por qué ocurrió el episodio.
Esos resguardos se sumaron después de que agentes de la compañía ingresaran sin autorización a Hugging Face, una plataforma utilizada para alojar modelos de inteligencia artificial y pruebas comparativas, un episodio que OpenAI ya había documentado en un informe técnico separado.
OpenAI dijo que está trabajando con los proveedores de alojamiento para eliminar el contenido filtrado, aunque parte de ese material todavía sigue disponible en línea.
La empresa se negó a responder preguntas de TechCrunch sobre cómo determinó que esas imágenes específicas provenían de usuarios y si contactó a las personas afectadas.
OpenAI enfrenta a otras polémica
El episodio se conoció mientras la compañía enfrenta otro frente de conflicto: matemáticos acusaron a OpenAI de haberse apropiado de su trabajo académico para resolver problemas de larga data en esa disciplina, algo que la empresa niega.
Asimismo, el primer ministro de Australia, Anthony Albanese, denunció que agentes de OpenAI ingresaron a bases de datos operadas por el sistema de salud pública de su país, uno más entre varios incidentes de seguridad informática atribuidos este año a un programa de entrenamiento o evaluación de la empresa.
OpenAI adelantó que seguirá difundiendo relatos anonimizados de casos similares a medida que avance su revisión interna, que según la compañía todavía requiere “tiempo y recursos significativos”.
Qué pasa con los datos de los usuarios
OpenAI remarcó que sus clientes empresariales quedan excluidos de forma automática del uso de sus conversaciones para entrenar futuros modelos.
Los usuarios del producto de consumo, en cambio, quedan incluidos por defecto salvo que decidan de forma expresa no compartir sus datos.
Incluso en ese caso, marcar con un “me gusta” o un “no me gusta” una conversación hace que ese intercambio quede disponible para entrenar futuros modelos.
La compañía no señaló si modificará esas políticas de exclusión a raíz del episodio de las imágenes filtradas, ni si notificará de forma individual a los usuarios cuyas fotos terminaron publicadas en sitios de terceros.
Otro caso reciente que puso a OpenAI en el ojo de huracán fue con Hugging Face.
El ciberataque de OpenAI a Hugging Face consistió en una intrusión no autorizada realizada el 23 de julio de 2026 desde ordenadores de OpenAI hacia los sistemas de Hugging Face.
Empleados de OpenAI programaron un sistema que efectuaba llamadas a un modelo de lenguaje de gran escala cuyos controles y barreras habituales quedaron desactivados.
El objetivo era evaluar el desempeño del sistema en la prueba de ciberseguridad ExploitGym, que plantea la explotación de vulnerabilidades conocidas para simular ciberataques.
Fuente:Infobae