La Seguridad De La Inteligencia Artificial En La Banca Ya No Puede Construirse Con Reglas Del Pasado

La industria financiera atraviesa uno de los momentos de transformación tecnológica más profundos de las últimas décadas. La inteligencia artificial dejó de ser una herramienta experimental para convertirse en una capacidad operativa estratégica dentro de bancos, fintech y organizaciones financieras. Sin embargo, mientras la velocidad de adopción se acelera, también crece un riesgo que muchas empresas todavía no terminan de dimensionar: la seguridad de la inteligencia artificial ya no puede depender de modelos diseñados para un mundo donde los usuarios eran únicamente humanos.

Hoy, hablar de inteligencia artificial inevitablemente nos lleva a hablar de agentes autónomos. Y ese cambio modifica completamente las reglas de operación y seguridad dentro del ecosistema financiero.

Hace apenas unos meses, gran parte de las conversaciones sobre IA giraban alrededor de una pregunta muy concreta: cuál era el mejor modelo para determinado caso de uso. Las organizaciones analizaban precisión, capacidad de procesamiento, costos y velocidad de respuesta. Actualmente, esa conversación evolucionó. El verdadero debate está en cómo orquestar agentes inteligentes, cómo conectarlos con múltiples sistemas empresariales y cómo garantizar que esas interacciones se mantengan bajo control.

Ese cambio parece sutil, pero en realidad representa una transformación estructural.

La diferencia fundamental es que los agentes ya no solo responden preguntas o generan contenido. Ahora ejecutan tareas, toman decisiones, consumen APIs, consultan bases de datos y operan directamente sobre sistemas críticos de negocio. En otras palabras, tienen capacidad de actuar sobre la infraestructura operativa de las organizaciones.

Y cuando una tecnología adquiere capacidad de ejecución autónoma, el riesgo cambia completamente de dimensión.

En México, la velocidad de adopción confirma que este escenario ya forma parte del presente. Aproximadamente el 48 % de las organizaciones ya ejecuta cargas de trabajo de inferencia de inteligencia artificial y muchas integran IA en entre el 30 y el 60 % de sus aplicaciones empresariales. Además, el 57 % utiliza inteligencia artificial para automatización operativa en tiempo real.

Esto significa que la IA dejó de ser una innovación aislada para convertirse en parte central de la operación financiera y corporativa.

Desde mi perspectiva, el principal problema es que muchas organizaciones continúan intentando proteger esta nueva realidad utilizando paradigmas de seguridad diseñados para otra etapa tecnológica.

Durante años, el sector financiero construyó arquitecturas sólidas basadas en autenticación, roles, identidades y permisos. Ese modelo funcionó relativamente bien porque el comportamiento humano podía anticiparse dentro de ciertos márgenes. Se sabía quién accedía a un sistema, qué permisos tenía y bajo qué condiciones operaba.

Pero ese paradigma comienza a mostrar limitaciones cuando el "usuario" ya no es una persona, sino un agente autónomo capaz de interactuar simultáneamente con múltiples sistemas, plataformas y fuentes de información.

Ahí es donde aparece uno de los mayores desafíos de esta nueva era digital: el control contextual.

Hoy, el problema ya no consiste únicamente en determinar quién tiene acceso a determinada infraestructura. El verdadero reto es comprender bajo qué contexto ese acceso se ejecuta.

Un agente inteligente puede tener permisos completamente válidos y, aun así, convertirse en un riesgo operativo mediante técnicas como prompt injection. En estos escenarios, el sistema no vulnera necesariamente los mecanismos tradicionales de autenticación; simplemente actúa utilizando sus propios privilegios, pero bajo instrucciones alteradas o fuera del contexto esperado.

Imaginemos un agente conectado a plataformas de pagos, motores de crédito, herramientas antifraude o sistemas de atención financiera. Ese agente podría consultar información sensible, modificar datos críticos o ejecutar acciones indebidas sin romper técnicamente las reglas de acceso tradicionales. El sistema estaría funcionando "correctamente", pero operando bajo instrucciones equivocadas.

Y eso representa un cambio radical en la forma de entender la ciberseguridad.

Durante años, la industria se concentró en evitar accesos no autorizados. Ahora también debemos impedir que sistemas autorizados ejecuten acciones inapropiadas debido a alteraciones contextuales.

La situación se vuelve aún más compleja por la creciente interconectividad tecnológica que existe actualmente en México. Hoy, el 79 % de las organizaciones utiliza múltiples proveedores de nube, el 75 % opera diversos centros de datos locales y el 72 % trabaja en múltiples entornos de coubicación. Este ecosistema híbrido y distribuido multiplica exponencialmente las interacciones entre aplicaciones, datos y agentes inteligentes.

Cada nueva conexión representa una posible expansión de la superficie de ataque.

Además, existe otro fenómeno que empieza a preocupar seriamente a las organizaciones: el crecimiento acelerado de identidades digitales asociadas a agentes autónomos. Cada agente representa una nueva entidad que necesita autenticación, permisos, supervisión y gobernanza.

No sorprende que el 44 % de las organizaciones mexicanas ya anticipe desafíos derivados del crecimiento exponencial de identidades de agentes. La complejidad operativa aumenta conforme más sistemas automatizados participan activamente en procesos críticos de negocio.

A esto se suma otro factor relevante: el costo operativo de la inteligencia artificial. Actualmente, el 48 % de las organizaciones considera que las cargas de trabajo de IA representan uno de los principales retos financieros y tecnológicos de los próximos años. Y conforme los modelos se vuelven más sofisticados y autónomos, las exigencias de infraestructura, procesamiento y monitoreo seguirán creciendo.

Pero más allá de los costos, lo que verdaderamente me preocupa es que muchas organizaciones todavía observan la seguridad de IA como una capa adicional y no como una condición esencial de diseño.

La seguridad en un entorno impulsado por agentes inteligentes no puede ser rígida ni estática. Necesita ser dinámica, adaptable y contextual. Se requieren modelos capaces de entender intención, comportamiento y nivel de riesgo en tiempo real.

Por eso considero indispensable adoptar enfoques integrales que combinen protección en la inferencia, autenticación dinámica y credenciales efímeras y contextuales para agentes autónomos.

Las credenciales permanentes dejarán de ser suficientes. Los accesos deberán limitarse por contexto, tiempo, propósito operativo y nivel de riesgo. La supervisión tendrá que realizarse de forma continua y automatizada.

Sin embargo, incluso más importante que la tecnología será el diseño de los propios agentes.

La manera en que se delimitan sus capacidades, se definen sus objetivos y se gobierna su interacción con otros sistemas será determinante para evitar riesgos operativos futuros. Un agente mal diseñado puede convertirse en una vulnerabilidad crítica incluso dentro de una arquitectura aparentemente segura.

Por eso, la seguridad debe comenzar desde la construcción misma de la inteligencia artificial y no añadirse posteriormente como una capa correctiva.

Estamos entrando en una etapa donde la automatización ya no solo ejecuta tareas repetitivas, sino que participa activamente en decisiones operativas, financieras y estratégicas. Eso obliga al sector bancario a replantear completamente sus modelos de gobernanza tecnológica.

La inteligencia artificial no debe entenderse únicamente como una herramienta de eficiencia. También representa un nuevo tipo de superficie operativa que requiere supervisión permanente, trazabilidad contextual y límites claramente definidos.

Porque el mayor riesgo de los agentes inteligentes no necesariamente será que fallen.

El verdadero riesgo será que funcionen exactamente como fueron instruidos… en el contexto equivocado.

HIR Casa coloca bono vinculado a sostenibilidad por 800 mdp en la BMV

Somos líderes en negocios, economía y alta dirección en México con más de 50 años de trayectoria. Impulsando el éxito empresarial a cada minuto. www.mundoejecutivo.com.mx