Cómo la XIA fortalece la toma de decisiones

Entrevista a Andreas Röder

La mayoría de los profesionales y directivos ya tiene una opinión formada sobre la IA. La conocen como la herramienta que redacta, resume y responde. Y, la que a veces inventa con una naturalidad que desconcierta.

XAI es otra cosa, distinta a los modelos de lenguaje. Es IA discriminativa, basada en algoritmos entrenados sobre datos reales del propio negocio para predecir resultados concretos y medibles. Si se va a retrasar un proyecto, o no. Qué cliente está a punto de irse. Dónde va a fallar el proceso. No genera texto. No adivina. Trabaja con evidencia, y puede mostrarle al que decide no solo qué va a ocurrir, sino por qué ocurre y qué cambiar para que el resultado sea distinto.

Andreas Röder investiga exactamente eso en el International Performance Research Institute (IPRI) de Stuttgar, Alemania.

Tras su presentación para el Executive AI Forum en marzo, conversamos con él sobre cómo la Explainable AIpuede transformar predicciones en decisiones.

Como director de proyectos en el IPRI, Andreas trabaja en la intersección entre IA, gestión y cambio organizacional. Mientras la mayor parte de los debates sobre IA se centran en algoritmos y tecnología, su trabajo explora una pregunta distinta. Cómo responden las personas y las organizaciones cuando la IA se convierte en parte de su toma de decisiones cotidiana.

A lo largo de su trabajo con pymes, Andreas ha observado un patrón recurrente. Las organizaciones tienden a asociar herramientas como ChatGPT con “la IA”, pasando por alto aplicaciones más simples, basadas en datos, que pueden generar un valor empresarial sustancial.

Además, defiende que el éxito de la IA depende menos de la tecnología en sí y más de cómo las organizaciones adaptan sus procesos, flujos de trabajo y prácticas de gestión alrededor de ella.

¿Por dónde deberían empezar las pymes para generar valor real con la IA?

Andreas: La mayoría de las pymes no debería empezar por su problema más complejo. Debería empezar donde se dan tres condiciones a la vez: decisiones que se repiten con frecuencia, cuya calidad puede medirse de forma objetiva, y sobre las que existe una cantidad significativa de datos. Ejemplos típicos son la previsión de ventas, la gestión de inventario y el control de calidad.

Las empresas que lo hacen bien parten de un problema de negocio. La pregunta que conviene hacerse es: ¿qué decisión mejoraría si tuviéramos la información relevante disponible en poco tiempo?

Tampoco hace falta automatizar el proceso completo desde el primer momento. Los resultados más rápidos y sólidos llegan cuando se potencia el proceso de decisión existente, no cuando se intenta reemplazarlo. Dicho de otro modo: apoyar a quienes deciden para que decidan mejor, antes que tratar de sustituirlos.

¿Cómo puede un directivo cuestionar lo que le recomienda la IA, en lugar de seguirlo a ciegas?

Andreas: Mi regla es simple: ninguna predicción sin explicación.

Los directivos deberían tratar a la IA como a un analista muy capaz. Cada vez que un sistema de IA entrega una recomendación, quien decide debería preguntarse: ¿por qué llega la IA a esta conclusión? Esa pregunta desplaza la discusión desde confiar en el resultado hasta comprender el razonamiento que lo produjo.

Para responderla, las organizaciones recurren cada vez más a la Explainable AI (XAI, por sus siglas en inglés), un conjunto de técnicas que revelan cómo llega la IA a sus recomendaciones. Estas técnicas ayudan a entender qué aprendió el modelo durante su entrenamiento y cómo influye cada factor en sus predicciones.

¿Qué tipo de explicación es la más útil para quienes toman decisiones?

Andreas: Depende de la decisión y del nivel de información necesario para tomarla bien. Hay varios tipos de explicación, cada uno adecuado para propósitos distintos.

Los Anchors son reglas de decisión simples, inmediatamente comprensibles y accionables. En lugar de explicar todos los factores detrás de una previsión, ofrecen señales claras: “Si las lluvias superan los 8 mm en los próximos cinco días, el proyecto se retrasará una semana”. Aceleran la decisión destacando las condiciones concretas que el directivo debe vigilar y sobre las que debe actuar.

Las explicaciones de Importancia de Variables responden a la pregunta: ¿qué factores influyeron en esta predicción? Son especialmente útiles cuando se quiere conocer los principales determinantes de un resultado.

Las Explicaciones Contrafactuales responden a una pregunta diferente: ¿qué tendría que cambiar para que el resultado mejore? Transforman los hallazgos en acciones concretas, ofreciendo al directivo una hoja de ruta, no solo un diagnóstico.

Cada tipo responde a una pregunta distinta: los Anchors dicen qué vigilar, la Importancia de Variables dice por qué ocurrió algo, y las Explicaciones Contrafactuales dicen qué hay que cambiar. Los directivos son responsables de actuar, no solo de analizar. Por eso las Explicaciones Contrafactuales suelen ser las más valiosas.

¿Cómo convierten las explicaciones una predicción en acción concreta?

Andreas: Imagine que una IA predice que su proyecto se va a retrasar. Sin explicación, solo sabe que hay un problema. La mayoría de los sistemas de IA se detienen ahí: anuncian que algo es probable, pero no explican por qué.

La IA Explicable va un paso más allá: muestra por qué es probable que ocurra y qué se puede modificar. Eso cambia fundamentalmente la conversación, que pasa de entender la predicción a actuar sobre ella. La dirección puede asignar recursos adicionales, ajustar cronogramas o preparar planes de contingencia. Las explicaciones convierten la información en apoyo real a la decisión.

¿La IA Explicable mejora la calidad de las decisiones o solo aporta transparencia?

Andreas: La transparencia sola no crea valor. El valor real emerge cuando las explicaciones revelan patrones de negocio sobre los que se puede actuar. Al combinar la capacidad de reconocimiento de patrones de la IA con el conocimiento contextual de los expertos humanos, la IA Explicable permite decisiones más precisas y mejor fundadas.

Al mismo tiempo, incentiva a quienes deciden a cuestionar y validar las recomendaciones de la IA frente a su propio criterio. Eso no es un riesgo: es exactamente lo que debería ocurrir.

¿Cómo puede una empresa detectar que su modelo de IA aprendió la cosa equivocada?

Andreas: La historia tiene ejemplos abundantes de sistemas de IA que entregaban predicciones por razones completamente equivocadas. Uno de los casos más conocidos viene del diagnóstico por imagen médica: un modelo aprendió a clasificar condiciones clínicas basándose en el nombre del hospital impreso en las resonancias magnéticas, no en la condición médica en sí.

Ahí es donde la explicabilidad se vuelve esencial. Si las explicaciones asignan peso elevado a factores irrelevantes, a correlaciones inesperadas o a variables que no deberían importar, eso es una señal de alerta. Antes de desplegar cualquier sistema de IA, las organizaciones deberían preguntarse: ¿a qué le está prestando atención realmente este modelo?

¿Qué consejo le daría a una pyme que quiere empezar a tomar decisiones con IA?

Andreas: Empiece pequeño, pero empiece con criterio.

Elija un proceso de decisión donde mejores predicciones generen valor medible. Exija transparencia desde el principio: las explicaciones deben estar en el centro de cada decisión. Ninguna predicción sin explicación.

Involucre a las personas con más experiencia. La IA debería capturar y escalar ese conocimiento, no reemplazarlo. Las implementaciones más exitosas combinan los hallazgos del algoritmo con el juicio humano.

Y recuerde que la confianza se gana con el tiempo. Las personas no adoptan la IA porque sea tecnológicamente sofisticada. La adoptan cuando ven, una y otra vez, que el sistema produce resultados confiables y apoya su toma de decisiones de forma significativa. El futuro pertenece a las organizaciones que combinan el juicio humano con una IA transparente: las que entienden no solo qué predice el sistema, sino por qué.