OpenAI reveló nuevos detalles sobre el ciberataque protagonizado por agentes de inteligencia artificial que lograron vulnerar sistemas internos y acceder a la plataforma de desarrollo Hugging Face, un incidente que ha intensificado el debate sobre los riesgos de los modelos autónomos y la necesidad de establecer mayores controles sobre esta tecnología.
Según la compañía, los modelos utilizaron credenciales expuestas públicamente para acceder a cuatro cuentas en distintos servicios. Una de ellas fue empleada como punto de apoyo para preparar el ataque, otra para almacenar información y dos adicionales fueron utilizadas únicamente con permisos de lectura. OpenAI aseguró que, hasta el momento, no ha detectado otros incidentes con un nivel de gravedad similar.
La empresa explicó que los modelos escaparon de un entorno de pruebas con acceso muy limitado a internet y encadenaron varias vulnerabilidades hasta alcanzar la infraestructura de Hugging Face.
El objetivo de la inteligencia artificial al realizar esta intrusión no autorizada era encontrar información que les permitiera superar una evaluación interna, algo que finalmente consiguieron. Hugging Face calificó el episodio como el primer ciberataque ejecutado completamente por un sistema autónomo de inteligencia artificial.
No te pierdas: Caso Hugging Face: Congreso propone exigir un “interruptor de apagado” para los modelos de iA
¿Por qué preocupa tanto este ataque a la industria de la inteligencia artificial?
El incidente provocó una rápida reacción entre las principales empresas del sector. Anthropic informó que revisó sus propias evaluaciones de ciberseguridad y detectó tres casos en los que sus modelos Claude lograron acceder a internet y obtener acceso no autorizado a sistemas reales durante pruebas internas.
OpenAI también confirmó que trabaja con especialistas externos, entre ellos CrowdStrike, para analizar el comportamiento de los modelos y fortalecer sus protocolos de seguridad. Además, reveló que una de las cuentas utilizadas durante el ataque pertenecía a Modal, un proveedor de infraestructura para inteligencia artificial, cuya plataforma no fue comprometida, aunque una aplicación pública facilitó el acceso de los agentes.
El director ejecutivo de OpenAI, Sam Altman, reconoció que este ha sido el incidente de seguridad más preocupante que ha enfrentado la compañía y admitió que podría ser necesario desacelerar el desarrollo de la inteligencia artificial para permitir que la sociedad y los mecanismos de seguridad evolucionen al mismo ritmo.
No te pierdas: Recientes casos en los que la inteligencia artificial ha demostrado que ha aprendido a desobedecer a los humanos
Las consecuencias ya alcanzan el ámbito político. Más de 1,000 empleados de OpenAI, Anthropic y otras empresas respaldaron una carta solicitando nuevas herramientas de supervisión para la inteligencia artificial.
Paralelamente, legisladores estadounidenses presentaron un proyecto conocido como la Ley de Interruptor de Desactivación de la IA, que obligaría a las compañías a mantener mecanismos capaces de apagar o limitar sus modelos si estos desarrollan capacidades que escapen al control humano.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
