Cuando la inteligencia artificial se infla más de la cuenta

Según el Banco Central, la inflación en Chile sigue siendo alta y resistente a disminuir. Y si el impacto en los precios no fuera suficiente, también ha inflado las notas escolares. En solo doce años, el porcentaje de egresados con promedio sobre 6,0 pasó del 20% al 41%, según cifras del Ministerio de Educación.

Pero la cosa no termina ahí. También estamos viendo una inflación en la inteligencia artificial. No en sus capacidades reales, sino en su relato, en la distancia cada vez mayor entre lo que muchas empresas dicen tener en IA y lo que realmente tienen.

Es lo que aquí llamamos Fake AI, sistemas que se presentan como inteligentes, pero que en realidad son flujos automatizados básicos, productos manuales disfrazados o soluciones con apenas un barniz de aprendizaje automático. No es que no hagan nada, pero están lejos de lo que el discurso promete.

Técnicamente, este fenómeno se conoce como AI Washing. El término viene de prácticas similares como el greenwashing (empresas que se visten de ecológicas sin serlo) o el ethics washing (principios éticos que no se aplican). En este caso, se trata de exagerar, adornar o directamente falsear el nivel de inteligencia artificial que tiene un producto, servicio o empresa.

No siempre hay mala fe. A veces es ignorancia técnica, otras veces es entusiasmo desbordado, y muchas veces es simplemente marketing. Pero el resultado es el mismo. Se infla el concepto de IA hasta que lo es todo… y por lo tanto, nada.

Algunos casos de cuando la IA es más humo que algoritmo

Hay exageraciones y hay montajes. Y luego está Builder.ai. Durante años, esta empresa vendió la idea de que uno podía desarrollar software con una simple conversación. Todo lo hacía una IA bautizada Natasha, capaz de convertir ideas en aplicaciones sin necesidad de programadores. Sonaba a ciencia ficción… y lo era. Detrás de la supuesta inteligencia había más de 700 personas codificando a mano desde oficinas en India.

La historia fue sostenida con una narrativa milimétrica. Branding atractivo, un “asistente conversacional” que respondía como si fuera un agente inteligente, y promesas de automatización total. El relato convenció incluso a Microsoft, que invirtió y mostró la solución en eventos corporativos. Pero el corazón de la operación era manual. Natasha no era una IA; era una historia. Y bien contada, por cierto.

Builder no estuvo solo en esto. Otras empresas siguieron patrones similares. Una de ellas fue EDM, que afirmaba poder generar aplicaciones como si se tratara de pedir una pizza. Detrás, lo mismo, automatización parcial, muchas personas trabajando, y un discurso donde lo artificial estaba más en el marketing que en la inteligencia.

Estos casos no son simples errores de cálculo. Son Fake AI en su versión más concreta, creando imagen alrededor de una narrativa tecnológica que no existe, pero que sirve para captar inversión, convencer clientes y posicionarse como parte del futuro.

Y luego está IBM Watson, que, a diferencia de los casos anteriores, sí era un desarrollo real. Pero eso no lo salvó del problema. IBM prometió una herramienta capaz de asistir en el diagnóstico de cáncer, pero lo que entregó fue un sistema que daba recomendaciones erráticas, difíciles de adaptar a pacientes reales. Médicos y expertos lo señalaron, y el proyecto fue descontinuado tras años de inversión.

Aquí no hubo falsedad deliberada. Lo que hubo fue una narrativa que corrió más rápido que la ciencia. Un caso donde el Fake AI no fue un disfraz, sino una sobre confianza peligrosa.

Agentes en un día … ¿una metodología revolucionaria? Construir un agente de inteligencia artificial real, uno que tome decisiones, integre datos y funcione con cierta autonomía, requiere más que entusiasmo. Hace falta tiempo, estructura, validación y bastante más que una tarde libre. Pero hay quienes aseguran que todo eso se puede resolver en una jornada intensiva.

Una empresa sudamericana propone un taller de un solo día en el que, con herramientas low-code y algunas células de ideación, los equipos pueden construir “agentes en vivo”. La agenda incluye inspiración, mapeo de dolores y un bloque de dos horas exactas para el prototipado. Según se plantea, lo que normalmente toma semanas de trabajo técnico se podría resolver con el empuje de un buen facilitador y una plataforma visual.

Probablemente el ejercicio tiene valor. Pero afirmar que se están construyendo agentes reales en pocas horas, con personas sin experiencia técnica, implica una de dos cosas. O han descubierto una metodología que está a la vanguardia del conocimiento global, y que sería bueno que la publiquen pronto, o que lo que están haciendo es algo bastante distinto de lo que dicen. Porque actualmente construir un agente en serio significa lidiar con datos, con configuración, con restricciones… y con código. A la vieja usanza.

Lo que muestran estos casos, cada uno a su manera, es que el Fake AI no es solo un exceso de entusiasmo. A veces es marketing sin sustancia, otras veces es prometer ciencia cuando apenas hay automatización. Y en ciertos casos, es simplemente decir que uno tiene IA… cuando no la tiene.

Lo que dicen los estudios académicos sobre el fenómeno Fake AI

La exageración en torno a la inteligencia artificial no es solo una estrategia comercial aislada. Distintos estudios académicos muestran que se trata de un fenómeno funcional, estructural y predecible. Cada uno lo aborda desde un ángulo distinto, pero las piezas encajan.

Artificial Concepts of Artificial Intelligence. Este estudio cualitativo, basado en entrevistas y marcos de sociología organizacional, muestra cómo las startups tecnológicas utilizan el término “IA” como una herramienta simbólica para obtener legitimidad. En lugar de describir capacidades reales, el discurso inflado sobre IA se convierte en una forma de supervivencia institucional.

Además, las autoras subrayan que la ignorancia técnica de inversionistas y clientes no solo permite el AI-washing, sino que lo vuelve necesario. Si el mercado no distingue entre promesa y capacidad, lo que se premia es el relato. Por eso, incluso startups técnicamente sólidas recurren a discursos inflados pues no hacerlo las pone en desventaja.

The Ignoble Economics of AI-washing. Este estudio presenta un modelo económico formal para explicar por qué el Fake AI es racional en un entorno con asimetría de información. Los clientes (o inversores) no pueden observar la capacidad técnica real de un proveedor, solo lo que este aparenta. Como resultado, los incentivos empujan a todos los agentes a exagerar.

De hecho, los autores muestran que los proveedores técnicamente más capaces deben exagerar más para diferenciarse. La señalización de valor pasa por la intensidad del relato. Y como sostener una exageración creíble tiene costos, solo los que tienen verdadera capacidad pueden “darse el lujo” de mentir más. La exageración, entonces, no es un error, es una consecuencia lógica de las fuerzas del mercado.

Everybody Is Selling AI Nowadays!. Este estudio experimental analiza cómo la forma de nombrar un sistema afecta la percepción del usuario. Los resultados muestran que los sistemas etiquetados como “IA” generan mayor indulgencia frente a errores que aquellos denominados “algoritmos”, aun cuando cometen las mismas fallas.

La explicación está en la psicología, los usuarios creen que la “IA” puede aprender y adaptarse, mientras que esperan perfección de un sistema “automático”. Esto convierte a la etiqueta “IA” en una forma de blindaje narrativo. Su uso no solo vende más, sino que protege más frente al juicio del cliente.

¿Qué nos dicen estos estudios en conjunto? En distintos niveles, organizacional, económico y psicológico, los estudios coinciden en una idea de fondo. La Fake AI no es un desvío aislado, sino una adaptación funcional a un entorno que premia la apariencia sobre la sustancia. Las empresas exageran no porque todas sean deshonestas, sino porque el mercado las empuja a hacerlo.

El lenguaje, la percepción y la lógica de incentivos se combinan para crear un terreno fértil para la Fake AI. Y en ese terreno, todos tienen razones para inflar sus capacidades, incluso quienes sí tienen tecnología real. Lo que está en juego no es solo quién tiene IA, sino quién logra parecer más inteligente frente a un público que no puede verificarlo.

¿Estamos frente a IA real o puro marketing? … algunas pistas

Cuando una empresa dice que “usa inteligencia artificial”, ¿cómo saber si eso significa algo real… o si simplemente está decorando su discurso con palabras de moda? En un entorno saturado de promesas tecnológicas, distinguir entre uso legítimo de IA y Fake AI no es fácil. Sin embargo, hay pistas importantes para detectarlo en lo que se dice y en cómo se ofrece la solución.

Aquí propongo un esquema de análisis que puede usar cualquier directivo, sin necesidad de ser experto técnico, pero con criterios suficientes para hacer preguntas incómodas y distinguir el humo de la sustancia.

1. Primera dimensión, ¿qué tipo de prestación estás recibiendo? La forma en que una empresa entrega su solución basada en IA ya dice mucho. Podemos identificar tres tipos de relación, cada una con diferentes niveles de visibilidad y riesgo de Fake AI:

2. Segunda dimensión, ¿cómo se habla de la IA? El lenguaje no es un detalle. Es una ventana al conocimiento (o desconocimiento) técnico. Estas son señales discursivas que deberían levantar una ceja:

3. ¿Cómo usar estas dos dimensiones en conjunto? Las pistas aparecen al cruzar los dos ejes, lo que te entregan y cómo lo explican.

Lo que este recorrido deja claro es que la Fake AI no es una excepción ni una anécdota. Es el resultado de un sistema que premia la narrativa sobre la evidencia, la apariencia sobre la capacidad. Y en ese contexto, exagerar se vuelve no solo viable, sino a veces necesario.

No se trata de asumir que todo es humo, pero sí de aceptar que en un entorno con incentivos distorsionados, el escepticismo es una herramienta poderosa.

Detectar la Fake AI no requiere saber programar. Requiere saber preguntar. Y escuchar cómo responden.

¿Has visto casos de Fake AI?

Me encantaría conocer tus experiencias o dudas en los comentarios. Cuanto más compartamos, más fácil será distinguir entre tecnología real… y puro marketing.

#ArtificialIntelligence #Management #Innovation #Technology #Leadership

AI-powered everywhere …