El desperdicio de tokens: La ineficiencia oculta en el auge de la Inteligencia Artificial
Hace un año, la visión sobre la Inteligencia Artificial apuntaba a una democratización radical de su acceso, previendo una convergencia del coste computacional con el de la electricidad. Sin embargo, la realidad actual dista mucho de aquella proyección optimista. Más allá de un elevado consumo de 'tokens' —las unidades de información procesadas por los modelos de IA—, la problemática reside en la significativa proporción de estos que se están desperdiciando.
El llamado 'tokenmaxxing', un consumo desmedido y a menudo superfluo de tokens, ha encendido las alarmas en el sector corporativo. Las empresas están destinando sumas considerables en un intento de maximizar el aprovechamiento de estas tecnologías por parte de sus empleados, lo que plantea serias dudas sobre la justificación de tales gastos.
El coste real de la IA: Más allá del uso productivo
Un estudio reciente de la startup EntelligenceAI arroja luz sobre esta ineficiencia. Según sus hallazgos, por cada dólar invertido en IA, tan solo 18 centavos se traducen efectivamente en producción. El 82% restante se canaliza hacia la corrección de errores, la reescritura de código y la supervisión de procesos que no generan un valor añadido directo. Esta categoría de 'gasto improductivo' es un indicador preocupante, dado que el verdadero éxito de la IA no radica en su uso constante, sino en su capacidad para impulsar la productividad de manera tangible.
La discusión sobre la justificación del gasto masivo en IA ha sido planteada abiertamente por figuras relevantes del sector. Andrew Macdonald, COO de Uber, ha cuestionado la pertinencia de estas inversiones cuando no se correlacionan directamente con mejoras en la productividad. De hecho, Uber ha optado por reducir su dependencia de los modelos de Anthropic, habiendo agotado ya su presupuesto anual para su uso.
La paradoja del uso por el uso
La incertidumbre planea sobre la estrategia a seguir. Mientras algunos expertos advierten contra medidas prematuras de contención del gasto, sugiriendo que esto es solo el inicio de una evolución tecnológica mayor, otros señalan el desperdicio como el eje central del problema. La presión por consumir tokens ha llevado a situaciones como las vividas en Amazon, donde el CFO instó a los empleados a no utilizar la IA de forma indiscriminada. La política de recompensar el mayor uso de la IA resultó contraproducente, incentivando su aplicación en tareas triviales o redundantes.
Matan Gringberg, CEO de la startup de IA Factory, compartió en The Wall Street Journal la experiencia de un directivo en una importante institución financiera. Este último reportaba gastos mensuales de cientos de miles de dólares en tokens, gran parte de los cuales se destinaban a responder preguntas sencillas o a mantener conversaciones informales con los modelos de IA más potentes. La analogía empleada fue contundente: