Mañana tienes un reunión importante, de esas que definen el futuro de un área. Le pediste propuestas a tu equipo y ya llegaron todas a tu email. Cinco correos, algunos con archivos adjuntos, otros con el texto directo en el cuerpo del mensaje. Los textos, todos bien redactados, extensos, con la apariencia de un trabajo bien hecho, bien pensado. Y tú, con una sensación que es casi certeza, de que fueron hechos con IA.

El tiempo no alcanza para leerlos todos con la profundidad que merecen. ¿Por cuál partir?

Hay un dato que orienta. El nombre en el remitente. Porque detrás del nombre hay una historia. Cómo piensa esa persona, cómo trabaja, qué tan seguido acierta, qué tan seguido decepciona. Eso no está escrito en ninguna parte. Está en tu cabeza.

Una herramienta creativa, quizás demasiado

La IA escribe fantástico. Tan bien que cuando se equivoca, no avisa. El texto sigue siendo fluido, coherente, convincente. Así, un dato falso en un texto o presentación es indistinguible de uno verdadero, salvo para el experto que lee todo, con atención.

Los proveedores de IA son los primeros en advertirlo. “Esta tecnología puede cometer errores, verifique las respuestas”. Y aun así la expectativa que se instaló es otra. Información y capacidad analítica al alcance de los dedos, y mejores decisiones como consecuencia natural. Expectativa comprensible, porque nunca antes había sido tan fácil producir un análisis, estructurar una propuesta o redactar un documento de apariencia tan sólida. Pero la IA, ¿puede garantizar certeza?

Cuando volamos queremos certidumbre, y los aviones se construyen para responder de forma predecible a condiciones similares. La IA generativa funciona de otra manera. Es probabilística por diseño, y su capacidad de producir texto coherente y útil es una propiedad emergente, no algo planificado. Sus propios creadores no lo anticiparon del todo. Es, en ese sentido, una herramienta sin manual. Usarla como si fuera un instrumento que ofrece certidumbre es un error, y puede tener consecuencias graves.

Cuando la señal desaparece

Antes de la IA, producir señales de calidad era costoso. Un informe bien estructurado, una propuesta sólida, una campaña visualmente impecable requerían horas de trabajo y dedicación. Ahora, con la IA, eso está al alcance de cualquiera.

El gran problema es que una “señal de calidad” no es lo mismo que “la calidad”. Y si la señal se desacopla de la calidad misma, y además es fácil de generar, entonces deja de servir para discriminar. Ya no sirve para identificar si hay pensamiento, criterio, capacidad. Un accionista que lee un reporte anual, un cliente que evalúa a un proveedor, un gerente que revisa las propuestas de su equipo, todos usan señales para inferir calidad, porque meterse en profundidad es caro y muchas veces imposible. Esas señales están lejos de ser perfectas, pero funcionaban como filtro razonable.

La irrupción de la IA generativa eliminó ese filtro en algunos ámbitos. Hoy, generar la señal con IA está al alcance de todos. Verificar lo que hay detrás, no. Eso requiere datos históricos, patrones de comportamiento, registro de decisiones anteriores. Experiencia acumulada, difícil de reemplazar, salvo con machine learning, que requiere entrenamiento intenso y miles de datos. Por eso distinguir la “apariencia de calidad” de la “calidad real” es más difícil hoy que antes de la IA.

Tres caras del mismo problema

Volvamos al caso del gerente que evalúa cinco propuestas. Al revisarlas probablemente va a encontrar documentos que se ven sólidos, con estructura, argumentos y datos. Lo que el texto ya no le dice es cuánto trabajo y reflexión hay detrás de cada una. Pero si conoce a su equipo, entonces debería saber cómo piensa cada persona, cómo aborda un desafío, qué tan seguido acierta. Esa experiencia sí que puede aportar a discriminar reflexión de un buen prompt.

Un profesor que recibe cuarenta ensayos enfrenta algo parecido. En algunos casos el uso de IA está tan extendido que parte de los textos son tremendamente parecidos. La pregunta de fondo, la que importa, es si los alumnos pensaron de verdad, si intentaron aprender y aplicar lo aprendido. Un profesor que conoce a sus alumnos, que los ha visto en acción, probablemente puede responder mejor a esa pregunta, pues esa experiencia le permite leer cada texto con otros ojos. El problema es que el profesor lo tiene más difícil que el gerente. Sus alumnos cambian con frecuencia y las oportunidades de conocerlos en profundidad son pocas.

Algo similar enfrenta quien quiere contratar un servicio profesional. Un gasfíter, un electricista, alguien que haga una ampliación, alguien que entre en tu casa. Antes, una propuesta bien montada y detallada era una señal razonable, pues sugería orden, criterio, responsabilidad. Hoy esa señal discrimina poco. Cualquiera puede mandar una propuesta impecable usando IA. Lo que antes filtraba, ya no filtra.

Tres situaciones distintas, el mismo problema. Las señales clásicas de calidad perdieron poder. ¿Qué queda cuando el filtro desaparece?

El mercado de los limones

Los economistas llevan décadas estudiando qué pasa cuando el que vende algo sabe más sobre la calidad de lo que vende que el que compra, un caso de “asimetría de información”. George Akerlof lo formuló en 1970 con un ejemplo del mercado de autos usados. El vendedor sabe si el auto tiene problemas. El comprador no tiene idea. Como el comprador no puede distinguir un buen auto de uno malo, ofrece un precio intermedio. Ese precio es demasiado bajo para quien vende un buen auto, por lo que prefiere retirarse. El efecto acumulado es que en el mercado solo quedan los autos malos, a los que Akerlof llamó “limones”. Y la consecuencia es que el mercado se deteriora no tanto por la falta de honestidad sino porque la información está mal distribuida. Algo interesante, los efectos negativos de esta asimetría aparecen en cualquier contexto donde la calidad real es difícil de observar.

Durante años el costo de producir una “buena señal” fue la barrera que detuvo el deterioro provocado por las asimetrías de información. Un informe riguroso tomaba horas. Una propuesta sólida requería experiencia. Una campaña de comunicaciones profesional exigía recursos. Ese costo actuaba como filtro natural. No perfecto, pero razonablemente confiable. Quien producía la señal había pagado por ella, y esa capacidad de pagar era información.

La IA generativa eliminó ese costo, y con él, eliminó el filtro.

Lo que la IA no puede fabricar

Decíamos que cuando las señales externas pierden confiabilidad, lo que queda es la experiencia ya sea la propia o de terceros, la experiencia vicaria.

Las estrellas de Uber, las reseñas de Google, los ratings de proveedores, todas son formas institucionales de experiencia vicaria. Experiencias de otros condensadas en una escala simple que orienta la decisión. Quien tiene 4.9 lo ganó viaje a viaje. Quien tiene 3.2 también lo ganó, en el otro sentido. No son perfectas y se pueden manipular, pero cuando funcionan bien son poderosas porque convierten la experiencia ajena en información accionable. Funcionan bien donde el servicio es estandarizable y el costo de equivocarse es bajo. Si el conductor tiene pocas estrellas, se pide otro. Las decisiones que más importan rara vez tienen esas condiciones.

La experiencia propia es la más confiable, pero no siempre la usamos bien. Nuestro razonamiento está afecto a sesgos, por ejemplo, el de “disponibilidad”, que lleva a decidir con la información más reciente y fácil de recordar, en vez de con la más representativa. O el sesgo de “actualidad”, que hace que la evaluación refleje lo que sucedió el mes pasado, ignorando los patrones de años. El último episodio pesa más que diez anteriores. Decidimos en caliente, sin acceso a la historia completa.

Curiosamente, la misma IA que degradó las señales externas quizás pueda ayudarnos a aprovechar mejor nuestras propias experiencias e impresiones. Podemos usarla para registrar patrones, organizarlos y hacer consultable lo que normalmente vive solo en la memoria, corrigiendo algunos de nuestros sesgos. En lo concreto, construir un dashboard que registre y muestre nuestras experiencias a lo largo del tiempo.

En esta línea, estoy desarrollando el proyecto MyTwin, mi gemelo digital, que usa embeddings para capturar el significado de cada experiencia y grafos para mapear las relaciones entre ellas, con lo que las búsquedas y análisis van más allá de los datos. Aprovechan las relaciones entre ideas, personas y proyectos. Montarlo no ha sido fácil y aún estoy aprendiendo, pero vale la pena. Poder consultar y analizar nuestras propias ideas… eso sí que es poderoso.

La IA democratizó la creación de señales de calidad, y con eso mató a algunas de ellas. Lo que nos queda es la experiencia. La vicaria es simple y sintética, pero cuando miles de personas dicen lo mismo es bueno prestar atención.

La experiencia propia es más rica, más profunda. El problema es que se pierde, o que, en el momento clave, se recuerda parcialmente, con sesgos. Y ahí, paradójicamente, la misma IA que mató la señal podría ayudar a preservar aquello cuya riqueza no puede reemplazar.