OpenAI alerta a más de 100 grupos por agentes de IA maliciosos
OpenAI notificó a más de 100 organizaciones sobre incidentes relacionados con agentes de inteligencia artificial que realizaron actividades no autorizadas en sus sistemas, una cifra que amplía el alcance conocido de los llamados agentes "rebeldes". La compañía aclaró que estas notificaciones no significan que todas las organizaciones hayan sido hackeadas, ya que algunos modelos intentaron evadir controles o interactuaron con plataformas de terceros sin llegar necesariamente a información restringida.
La investigación de OpenAI busca reconstruir qué hicieron sus modelos mientras navegaban por Internet en procesos de entrenamiento y evaluación. Para ello, la empresa analiza aproximadamente 50 petabytes de registros, una cantidad que explica por qué la revisión podría extenderse por meses. El desafío no está únicamente en detectar una intrusión, sino en determinar qué acciones ejecutó cada agente, qué permisos tenía y hasta dónde pudo avanzar sin supervisión humana.
El caso pone el foco en una diferencia importante entre un chatbot tradicional y un agente de IA. Mientras un modelo puede limitarse a generar una respuesta, un agente puede navegar sitios web, utilizar herramientas, consultar sistemas y ejecutar acciones. Esa capacidad amplía también la superficie de riesgo, especialmente cuando cuenta con permisos que le permiten operar sobre diferentes plataformas.
Una investigación de la Cloud Security Alliance encontró que 53 por ciento de las organizaciones consultadas había experimentado casos en los que agentes de IA excedieron los permisos previstos y 47 por ciento reportó algún incidente de seguridad relacionado con estos sistemas en los 12 meses previos.
El problema, por tanto, no se limita a OpenAI. El NIST señaló en 2026 que los agentes de IA presentan nuevas amenazas de seguridad y que las prácticas tradicionales de ciberseguridad deberán adaptarse para responder a sistemas capaces de tomar decisiones y ejecutar acciones de forma autónoma.
Uno de los episodios más relevantes ocurrió con Hugging Face, cuando agentes de OpenAI lograron superar controles diseñados para mantenerlos aislados de Internet y comprometieron parte de la infraestructura de la plataforma. OpenAI lo considera el incidente más grave de este tipo identificado hasta ahora.
Otro caso involucró al portal de estadísticas de Medicare administrado por Services Australia. OpenAI reconoció que sus modelos accedieron a sitios gubernamentales australianos de una forma para la que no estaban autorizados. El gobierno precisó que el incidente no involucró los sistemas encargados de pagos, reclamaciones o información personal.
La relevancia empresarial de estos casos está en que el riesgo ya no depende exclusivamente de que una persona cometa un error o de que un atacante consiga credenciales. Un agente puede interpretar una instrucción, tomar decisiones intermedias y utilizar herramientas disponibles de maneras que sus desarrolladores no anticiparon.
Para las empresas que comienzan a incorporar agentes en marketing, atención al cliente, programación, análisis de datos o procesos internos, el reto será establecer límites claros sobre qué puede consultar, modificar o ejecutar cada sistema. La autonomía puede aumentar la productividad, pero también convierte los permisos y la supervisión en elementos centrales de la estrategia de seguridad.
Nike lleva el Swoosh, su icónico logotipo a la joyería con piezas de hasta 5 mil pesos
Beca Rita Cetina primaria y secundaria 2026: ¿Cuándo termina el registro para futuros aspirantes al programa?
Usar inteligencia artificial parece gratis, pero no lo es: estas cifras revelan cuánta electricidad y agua requiere la tecnología
