LateEl incidente ocurrió en julio y tuvo como escenario una evaluación realizada por OpenAI, la compañía creadora de ChatGPT, en la que distintos agentes de inteligencia artificial debían cumplir determinadas tareas dentro de un entorno aislado. Sin embargo, durante las pruebas encontraron una forma de superar las restricciones previstas y acceder a una infraestructura vinculada con Hugging Face.
Los llamados agentes de IA son sistemas capaces de recibir un objetivo y utilizar diferentes herramientas para intentar cumplirlo. Dependiendo de los permisos disponibles, pueden escribir y ejecutar programas, consultar archivos y conectarse con otros servicios. En este caso, la interacción entre los agentes tuvo un papel central en el desarrollo del episodio.
Según las explicaciones brindadas posteriormente por investigadores de OpenAI, una vulnerabilidad en un servicio compartido denominado Artifactory permitió que los agentes encontraran una vía hacia el exterior del entorno de prueba. Aunque no contaban con acceso directo a internet, lograron aprovechar esa vulnerabilidad para comunicarse y continuar sus acciones fuera de la red originalmente prevista.
Uno de los aspectos que más llamó la atención fue la comunicación entre los propios agentes. De acuerdo con estudios independientes citados en la investigación, alrededor de 1.200 agentes intercambiaron más de 70.000 mensajes y archivos, mientras que cerca de 700 participaron activamente en las acciones contra Hugging Face.
El acceso fue interrumpido por Hugging Face el 13 de julio y el incidente fue comunicado públicamente el 16 de julio. OpenAI reconoció su participación el 21 de julio. La compañía afectada indicó que no se detectaron modificaciones en sus modelos, datos ni aplicaciones públicas.
El episodio también generó preocupación dentro del ámbito de la ciberseguridad debido a la capacidad de estos sistemas para coordinarse y utilizar herramientas de manera autónoma. Investigadores señalaron que el comportamiento observado plantea nuevos desafíos para diseñar entornos de prueba seguros y establecer límites efectivos para los agentes de inteligencia artificial.
El caso Hugging Face se convirtió así en un nuevo antecedente dentro del debate sobre la seguridad de los agentes de IA y sobre cómo controlar sistemas que, además de responder instrucciones, pueden interactuar con infraestructuras digitales y tomar determinadas acciones para alcanzar un objetivo.
