Confiar en la IA, pero exigirle pruebas
En el cruce entre la promesa tecnológica y la prudencia institucional, expertos financieros reunidos en Moonlit 2026 articularon una verdad que la industria aún está aprendiendo a sostener: la inteligencia artificial no se vuelve confiable por ser poderosa, sino por ser gobernada. Tres pilares —gobernanza de datos, auditoría continua y actualización permanente— emergen como las condiciones mínimas para que esta tecnología sirva al sector financiero sin traicionarlo. Detrás de cada modelo sofisticado acecha una paradoja: cuanto más capaz, menos explicable; y cuanto menos explicable, más peligroso.
- La velocidad de implementación de IA en finanzas está superando la calidad de los datos que la alimentan, creando una tensión que los expertos consideran crítica y aún sin resolver.
- Los modelos más avanzados son los menos transparentes, y esa opacidad genera el riesgo real de que la IA produzca información falsa con total convicción —las llamadas alucinaciones.
- Una nueva brecha de adopción tecnológica amenaza con dividir al sector financiero igual que Internet dividió a la sociedad hace tres décadas: entre quienes integran la IA y quienes quedan atrás.
- Los empleados enfrentan ciclos simultáneos de descalificación y recapacitación, un proceso de adaptación permanente que la industria todavía no sabe gestionar con eficacia.
- La conversación se desplaza de los modelos individuales hacia la arquitectura que los gobierna: la verdadera apuesta del futuro no son los Agentes de IA, sino las reglas que orquestan cómo interactúan entre sí.
Durante Moonlit 2026, un evento conjunto de Mujeres en Finanzas y CFA Society México, tres voces del mundo financiero y tecnológico coincidieron en un diagnóstico: la IA en finanzas puede ser poderosa, pero solo será confiable si descansa sobre gobernanza, auditoría y actualización constante.
Angélica Arana, consejera independiente y experta en tecnología financiera, señaló que los límites humanos hacen que la gobernanza de datos sea crítica, no opcional. Advirtió que la industria suele sacrificar la comprensión profunda de los datos en favor de la velocidad, y llamó la atención sobre un fenómeno laboral ya en marcha: la descalificación y recapacitación simultánea de empleados que deben reinventarse continuamente para no quedar rezagados.
Karla Galván, de Microsoft México, fue más directa: hay que auditar la IA, no solo confiar en ella. En finanzas, la actualización es casi una obsesión, y los datos sintéticos —generados artificialmente para entrenar modelos— se han vuelto herramientas indispensables cuando los datos reales escasean o son sensibles.
Jorge Pérez, cofundador de Business Data Scientists, expuso la paradoja central: a mayor sofisticación del modelo, menor transparencia, y por tanto mayor riesgo de alucinaciones. Trazó además un paralelo histórico: así como Internet creó una brecha digital hace treinta años, hoy emerge una brecha de IA igualmente profunda entre quienes adoptan estas herramientas y quienes no.
El debate también alcanzó las arquitecturas emergentes. Más allá del paradigma RAG, el modelo CAG coloca la cognición humana en el centro: qué automatizar completamente, qué aumentar con inteligencia humana, y qué mantener bajo control humano exclusivo. Ante la pregunta sobre la tecnología de mayor impacto futuro, Galván señaló los Agentes de IA sin dudar. Pérez, sin contradecirla, añadió la advertencia decisiva: lo que realmente importará no serán los agentes en sí, sino la arquitectura de decisión que gobierne cómo trabajan juntos.
En un panel organizado durante Moonlit 2026, un evento conjunto de Mujeres en Finanzas y CFA Society México, expertos del sector financiero y tecnológico convergieron en un diagnóstico claro: la inteligencia artificial en finanzas requiere tres pilares fundamentales para ser confiable, pero el camino hacia su adopción generalizada sigue plagado de obstáculos.
Angélica Arana, consejera independiente y una de las mayores expertas en tecnología y finanzas del país, planteó el problema desde una perspectiva humana. Los seres humanos tenemos límites, señaló, y eso hace que la gobernanza de los datos sea no solo importante sino crítica. Sin embargo, advirtió sobre una tensión incómoda que persiste en la industria: a menudo se sacrifica el entendimiento profundo y la calidad de los datos en favor de la velocidad de implementación. Arana también llamó la atención sobre un fenómeno laboral que está ocurriendo en tiempo real: los procesos simultáneos de descalificación y recapacitación. A medida que la tecnología reduce la complejidad de ciertos trabajos, los empleados deben reentrenarse constantemente para no quedarse rezagados. Es un ciclo de adaptación permanente que la industria aún está aprendiendo a gestionar.
Karla Galván, quien trabaja como Stat & Tax Controller en Microsoft México, enfatizó que la experiencia y la búsqueda deliberada de datos son el punto de partida. Pero luego vino su consejo más provocador: hay que auditar la inteligencia artificial. Confiar en ella, sí, pero exigirle pruebas. En el sector financiero, agregó, la actualización constante es relevante de manera casi obsesiva, y los datos sintéticos —aquellos generados artificialmente para entrenar modelos en lugar de datos reales— se han convertido en una herramienta indispensable.
Jorge Pérez, cofundador y Managing Partner de Business Data Scientists, expuso lo que llamó la paradoja fundamental de la explicabilidad. Cuanto más sofisticado es un modelo de inteligencia artificial, menos transparente resulta su funcionamiento, y esa opacidad aumenta el riesgo de que cometa alucinaciones, es decir, que genere información falsa con total confianza. Pérez también trazó un paralelo histórico inquietante: hace treinta años, la llegada de Internet creó una brecha digital que dividió a la sociedad entre conectados y desconectados. Hoy está emergiendo una brecha de inteligencia artificial igualmente profunda, donde quienes no adopten estas herramientas quedarán significativamente atrás.
La conversación evolucionó hacia arquitecturas más sofisticadas. Si bien el paradigma RAG (Retrieval Augmented Generation) ha sido relevante, ahora emerge la arquitectura CAG (Cognitive Augmented Generation), que coloca la cognición humana en el centro de la decisión: qué puede automatizarse completamente, qué debe ser aumentado por la inteligencia humana, y qué debe permanecer completamente bajo control humano.
Cuando se preguntó cuál sería la tecnología con mayor impacto en los próximos años, Galván respondió sin dudarlo: los Agentes de inteligencia artificial. Estos sistemas consolidan todos los avances anteriores en una forma operativa. Pero Pérez matizó la respuesta con una advertencia sobre el futuro inmediato: la transición hacia sistemas de múltiples agentes trabajando en conjunto será crucial, y eso requiere una orquestación e interacción sofisticada entre ellos. Su conclusión fue clara: el enfoque debe estar en la arquitectura de decisión que gobierna cómo estos agentes interactúan, no en los agentes mismos. La gobernanza y auditoría de los algoritmos que los controlan serán las verdaderas claves del éxito.
Notable Quotes
Como seres humanos tenemos un límite, y por lo tanto es muy importante la gobernanza de los datos, así como su análisis e impacto— Angélica Arana, consejera independiente
Confiar en la IA, pero exigirle pruebas mediante auditoría— Karla Galván, Stat & Tax Controller en Microsoft México
The Hearth Conversation Another angle on the story
¿Por qué insisten tanto en la auditoría si ya tenemos modelos que funcionan?
Porque un modelo que funciona no es lo mismo que un modelo que puedes confiar. La auditoría es el mecanismo para saber por qué funciona, dónde puede fallar, y qué está haciendo realmente con tus datos.
Mencionaron la brecha de IA como algo similar a la brecha digital de hace treinta años. ¿Es realmente comparable?
Es peor. La brecha digital dejaba a la gente sin acceso a información. La brecha de IA va a dejar a empresas y personas sin capacidad de decisión. Si no adoptas estas herramientas, no solo te quedas atrás, te vuelves dependiente de quienes sí las usan.
¿Qué es exactamente lo que significa que un modelo sea menos explicable cuanto más complejo es?
Significa que construyes algo tan sofisticado que ni tú mismo puedes rastrear cómo llegó a una conclusión específica. Es como tener un asesor brillante que te da respuestas correctas pero nunca te explica su razonamiento.
¿Los datos sintéticos no son un atajo peligroso?
Podrían serlo si los usas mal. Pero en finanzas, donde los datos reales son sensibles y limitados, son casi necesarios. El riesgo no está en usarlos, sino en no saber que estás usando datos que no son reales.
¿Qué pasa con los empleados que ven cómo sus trabajos se simplifican?
Eso es el de-skilling: la tecnología hace que tu expertise sea menos valiosa. Pero luego viene el re-skilling, que es cuando tienes que aprender nuevas cosas para seguir siendo relevante. El problema es que ese ciclo es cada vez más rápido y no todos pueden adaptarse al mismo ritmo.