Nadie al volante (y eso es un problema)
Diario de Innovación #280
Durante años hemos hablado de automatización.
Luego de copilotos.
Ahora entramos en la fase incómoda: agentes autónomos.
No asistentes.
No bots simpáticos.
Agentes que deciden, ejecutan y encadenan acciones sin pedir permiso. En áreas de ventas, finanzas, supply chain, atención al cliente.
Vamos, en todo lo que se te pueda ocurrir.
En una empresa mediana o grande, esto no significa “unos cuantos agentes”.
Significa miles.
Y aquí viene la parte interesante: el problema para escalar este modelo, no es la IA.
Es tentador pensar que el caos actual se arreglará solo.
Más contexto.
Menos alucinaciones.
Modelos más potentes.
Pero los datos cuentan otra historia:
El coste de inferencia ha caído brutalmente.
Los modelos ya razonan mejor y durante más tiempo.
La integración con sistemas es cada vez más sencilla (APIs, protocolos, agentes encadenados).
Si aun así las empresas no escalan, igual el problema no está en el modelo.
El verdadero cuello de botella: la realidad fragmentada
Como decía James Carville:
“It’s the data, stupid.”
A todos nos ha pasado algo a lo aquí descrito. Las empresas llevan décadas acumulando deuda de datos:
El cliente no es el mismo en marketing, soporte y finanzas.
El proveedor aparece duplicado en compras y logística.
La “misma” ubicación tiene cinco versiones distintas según el sistema.
Ahora introduce agentes autónomos en ese entorno.
Al principio funcionan.
Luego empiezan las contradicciones.
Después, las decisiones incompatibles.
Y finalmente, la pérdida de confianza.
Con dashboards era molesto.
Con agentes que actúan, es peligroso.
Aquí te traigo una idea de lo que podría ir mal, los cuatro puntos donde todo puede romperse.
Modelo → interpreta mal la intención
Herramientas → la integración falla
Contexto → la información es incompleta o incoherente
Gobernanza → nadie valida si lo que hizo está bien
La mayoría de empresas se obsesiona con el punto 1.
Las que escalan de verdad trabajan el 3 y el 4.
Agentic AI no es un problema de inteligencia
Es un problema de coherencia
La pregunta relevante ya no es:
“¿Qué puede hacer la IA?”
Sino:
“¿Desde qué versión de la verdad está actuando?”
Las organizaciones que están capturando valor no son las que usan el modelo más grande.
Son las que han construido una base de datos compartida, gobernada y viva.
Esto tenía que haberse fraguado antes del boom de la IA Generativa.
Una única realidad operativa sobre la que los agentes puedan razonar, planificar y ejecutar.
Sin eso, la autonomía no escala.
Solo amplifica el desorden.
Food for thought
El verdadero riesgo no es el caos. Es normalizarlo.
La alternativa a invertir en fundamentos no es “ir más despacio”. Es pasar años apagando fuegos agenticos, uno a uno.
El futuro será de agentes.
Eso ya está decidido.
La diferencia estará en quién construyó primero el suelo antes de soltarles las llaves.
🌍 El eco del mercado
🧠 Anthropic reescribe la “Constitution” de Claude y flirtea con la idea de conciencia. La compañía actualiza el documento que guía el comportamiento de su modelo para reforzar alineamiento, seguridad y autonomía. No es solo un ejercicio ético: es una forma de diferenciarse en un mercado donde los modelos empiezan a parecerse demasiado. Al introducir conceptos como “autocorrección” y límites explícitos, Anthropic está señalando que el próximo campo de batalla no será solo rendimiento, sino gobernanza del comportamiento.
⚡ Satya Nadella advierte: la IA debe demostrar utilidad real o perder legitimidad social. En Davos, el CEO de Microsoft pone el dedo en la llaga: el problema ya no es si la IA es impresionante, sino si merece la energía, el coste y la atención que consume. El mensaje apunta tanto a reguladores como a startups: sin impacto tangible en productividad, ciencia o servicios públicos, la “licencia social” de la IA puede evaporarse.
🎬 Adobe apuesta por modelos generativos “IP-safe” para la industria creativa. Adobe acelera una vía intermedia entre la creatividad asistida y el respeto a los derechos de autor. Sus nuevos modelos están entrenados con contenidos licenciados o controlados, pensados para estudios, agencias y grandes productoras. El mensaje es claro: la IA creativa solo escalará si es legalmente defensible.
🚀 SGLang salta del open source académico al mercado como RadixArk. Lo que nació como un proyecto de investigación en Berkeley se convierte en spin-off respaldada por capital riesgo. El foco está en la inferencia eficiente, uno de los grandes cuellos de botella del despliegue de modelos. Es un ejemplo de manual de cómo el open source se ha convertido en cantera estratégica para la próxima generación de plataformas de IA.
✅ Todoist incorpora voz e IA para capturar tareas sin fricción. La popular app de productividad introduce creación de tareas mediante lenguaje natural hablado. No es una revolución tecnológica, pero sí un paso clave en ergonomía cognitiva: menos fricción significa más adopción real. La IA aquí no deslumbra, acompaña.
⚡ China refuerza su megaproyecto energético Tibet–Guangdong. La nueva fase del corredor eléctrico de ultra-alta tensión permitirá mover enormes volúmenes de energía renovable desde el oeste del país hasta los polos industriales del sur. Más allá del clima, el mensaje es geoestratégico: sin energía barata y abundante no hay industria digital ni IA competitiva.
🔐 1Password añade una capa extra contra phishing directamente en el navegador. El gestor de contraseñas introduce detección activa de URLs sospechosas antes de que el usuario pegue credenciales. Seguridad integrada, no opcional. Es una señal de madurez del sector: la ciberseguridad ya no puede depender solo de la atención humana.
📱 Millones de usuarios expuestos por enlaces de inicio de sesión enviados por SMS. Investigaciones recientes muestran que incluso grandes plataformas siguen usando flujos de autenticación frágiles. El SMS, heredado y cómodo, se consolida como vector de ataque masivo. La lección es incómoda: la deuda de seguridad también es deuda de diseño.
🛰️ Blue Origin presenta TeraWave, su alternativa a Starlink. La compañía espacial de Jeff Bezos anuncia una megaconstelación capaz de ofrecer hasta 6 Tbps de ancho de banda global. Más allá de la cifra, lo relevante es el patrón: la conectividad orbital se está convirtiendo en infraestructura crítica, al nivel de cables submarinos o redes eléctricas.
🌱 La infraestructura eléctrica emerge como cuello de botella de la transición verde. El avance de renovables y centros de datos está chocando con redes incapaces de absorber y distribuir la energía generada. El caso chino contrasta con la lentitud regulatoria occidental. Sin redes, no hay transición; y sin transición, la digitalización energética de la economía se queda a medias.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
Para seguir profundizando en este tema:
PD1: Designing Data-Intensive Applications de Martin Kleppmann, es la biblia moderna para entender por qué la coherencia de datos importa más que la potencia bruta.
PD2: Working Backwards de Colin Bryar & Bill Carr. Una lección brutal sobre cómo Amazon evita realidades paralelas dentro de la organización.
PD3: El Proyecto Unicornio de Gene Kim. Ficción, sí. Pero sigue siendo la mejor explicación de por qué los sistemas fallan… por razones humanas y estructurales.