Muchos profesionales y directivos buscan incrementar su productividad usando Inteligencia Artificial. Sin embargo, tal como muestra el gráfico de un estudio reciente de Anthropic (Link), el foco no está solo en automatizar tareas, sino también en potenciar nuestras capacidades.
Automatizar es delegar. Potenciar (augment) es usar la IA para iterar, validar o aprender. La búsqueda de productividad es relevante, pero el verdadero resultado depende de cómo la usamos. Al tratarse de una tecnología sociotécnica y probabilística, el principal enemigo es la alucinación. La IA puede entregar respuestas erróneas y tiende a ser condescendiente, validando lo que decimos. Cómo gestionamos este problema define el valor real que podemos obtener. Por eso, entender el alcance real de la alucinación es el primer paso para enfrentarla.
Cuánto y cómo impacta la alucinación en la productividad
Uno de los desafíos más importantes al usar IA para incrementar la productividad es la alucinación, cuando el modelo entrega respuestas erróneas o inventadas con total seguridad. Este fenómeno es estructural, frecuente y mucho más común de lo que suele admitirse. Para entender su alcance, basta mirar cómo se distribuyen las respuestas de los modelos actuales. Un análisis reciente, presentado por Xin Luna Dong en la AI R.I.S.E Conference, resume los resultados así:
Esto significa que, incluso en las mejores condiciones, solo seis de cada diez respuestas serán completamente correctas, y cerca de una cuarta parte pueden ser erróneas o inventadas.
El problema se amplifica cuando encadenamos varias tareas o preguntas en un proceso. Si cada paso tiene un 70% de precisión, la probabilidad de lograr cuatro respuestas correctas en fila es apenas 24% (70%^4). Esto significa que los errores se acumulan rápidamente, especialmente en procesos complejos o repetitivos. Esta acumulación de error, o “riesgo compuesto”, limita cualquier intento de automatización completa en tareas que exigen certeza.
Por eso, aunque la IA puede ser una herramienta potente, la gestión de la alucinación es fundamental para que la productividad ganada sea real y sostenible.
Soluciones estructurales, avances y límites actuales
Aunque el problema de la alucinación es ampliamente reconocido, las soluciones estructurales que hoy se están probando siguen en etapa experimental y, en su mayoría, solo existen en laboratorios o en entornos muy controlados. Según los datos presentados en la conferencia y en informes técnicos recientes, las estrategias más relevantes que buscan reducir la alucinación son:
- Calibración de confianza: El modelo aprende a abstenerse de responder cuando tiene baja certeza. Esto reduce la cantidad de errores, pero aumenta la frecuencia de respuestas “no sabe/no responde” (missing).
- RAG (Retrieval-Augmented Generation): Consiste en que el modelo consulte bases de datos externas y fuentes firmes antes de responder. Esta técnica ha mostrado mejoras, aumentando el porcentaje de respuestas correctas entre 2 y 10 puntos porcentuales y reduciendo el “missing” hasta en 12 puntos. Sin embargo, no elimina la alucinación: simplemente sube la probabilidad de acierto.
- Separación del conocimiento (conocimiento dual): Esta estrategia implica definir claramente qué información debe estar dentro del modelo y cuál debe consultarse en una base de datos confiable o corpus externo. Si bien es más robusta, depende de arquitectura avanzada y entrenamiento personalizado, por lo que no está disponible para usuarios comunes ni para la mayoría de las empresas hoy.
En todos los casos, la alucinación no desaparece. Solo se logran mejoras parciales en la tasa de respuestas útiles. El avance es prometedor, pero la adopción masiva de estas técnicas tomará tiempo y requiere recursos técnicos significativos. Por ahora, la gestión de las alucinaciones sigue siendo una tarea pendiente para la mayoría de los usuarios y organizaciones.
Del laboratorio a la práctica … hay brechas por resolver
En una de las mesas redondas de la AI R.I.S.E. Conference en Notre Dame, la conversación giró rápido hacia el problema de la alucinación. Los ponentes, profesionales e investigadores con años de experiencia en IA, explicaban que la clave para manejarla estaba en dos cosas.
- Tener suficiente conocimiento sobre el tema para hacer las preguntas correctas, y
- Aplicar pensamiento crítico para identificar cuándo la respuesta de la IA tenía sentido o no.
Cuando llegó el momento del Q & A, pregunté: “¿Qué pasa con las organizaciones donde la mayoría de las personas no son expertas ni necesariamente son fuertes en pensamiento crítico? ¿Qué puede hacerse ahí?”.
Las respuestas no cambiaron, incluso uno de los panelistas quedó un poco desconcertado, como si pensara ¿existirán organizaciones en que no todos son expertos en su tema o que hay gente “al debe” en pensamiento crítico?
Me queda la sensación de que algunas soluciones que proponen los expertos no aterrizan en la realidad de la gente común. La tecnología puede avanzar rápido, pero los desafíos prácticos y humanos siguen ahí.
De ahí mi convicción de que el camino es doble. Primero, ayudar a que cada persona tenga herramientas personalizadas para potenciar su propio campo de experiencia, y, segundo, formar en lo esencial de la alucinación, qué es, cómo se detecta, para que al menos sean conscientes del problema. Además, creo que crear comunidades de práctica dentro de la organización, donde la gente comparta dudas y aprendizajes, puede ayudar a cerrar esa brecha y enfrentar el fenómeno de manera colectiva.
¿Qué hacemos mientras tanto?
Mientras la industria prueba nuevas soluciones en laboratorio, el trabajo de fondo está en encontrar formas prácticas de aplicar la IA en el día a día, conversar abiertamente sobre lo que funciona y lo que no, y animarse a cuestionar la IA en cada contexto.
¿Qué experiencias o dudas has tenido usando IA en tu trabajo? ¿Cómo lo están abordando en tu equipo?