El 9 de diciembre de 1968, Douglas Engelbart se subió a un escenario de San Francisco e hizo algo bastante temerario.
Durante 90 minutos mostró en directo un sistema informático que incluía un ratón, hipertexto, edición colaborativa, múltiples ventanas, navegación entre documentos y videoconferencia.
En 1968.
Aquella presentación acabaría siendo conocida como “The Mother of All Demos”. Doug Engelbart Institute
Muchas de las personas que estaban allí acababan de ver el futuro.
El pequeño problema es que ver el futuro y conseguir que funcione todos los días son cosas bastante diferentes.
Y creo que estamos viviendo algo parecido con la inteligencia artificial. No en vano, el centro de investigación al que pertenecían Douglas y William era el Augmenting Human Intellect.
Llevamos tres años haciendo demos extraordinarias.
Cada pocas semanas aparece algo que hace que volvamos a pensar, si esta featuew es la definitiva, y nos decimos: «Ahora sí.»
Pero en las empresas está empezando una etapa bastante menos espectacular.
Y probablemente mucho más importante.
Estamos pasando de experimentar a operar.
Y eso hace que las reglas cambien.
Experimentar es relativamente fácil.
Puedes seleccionar los datos.
Limitar los usuarios.
Controlar el escenario.
Aceptar cierta tasa de error.
Incluso puedes poner a varias personas alrededor vigilando que todo salga bien.
Pero prueba ahora a darle acceso a ese mismo sistema a miles de empleados.
Con datos confidenciales, impacto real en la operaciones, perdida de ingreso o reputación.
De repente, la pregunta deja de ser:
¿Qué modelo utilizamos?
Y empiezan a aparecer otras bastante más incómodas.
¿A qué información puede acceder?
¿Quién decide qué puede hacer?
¿Cómo sabemos por qué ha tomado una decisión?
¿Qué ocurre cuando se equivoca?
¿Podemos detenerlo?
¿Quién responde?
Los datos de este año empiezan a reflejar precisamente ese cambio.
Una encuesta de Deloitte a 3.235 responsables tecnológicos y de negocio de 24 países encontró que solo el 21% considera madura la gobernanza de IA agéntica de su organización.
Grant Thornton encontró algo quizá todavía más interesante: casi tres de cada cuatro organizaciones ya están dando a agentes acceso a datos y procesos, pero solo una de cada cinco tiene probado un plan de respuesta ante fallos de IA.
Y una encuesta de EY publicada este mismo mes añade otro dato: el 36% de los responsables consultados afirma que su organización ya ha sufrido algún incidente o fallo de IA con impacto material, desde pérdida de datos hasta daños financieros u operativos.
Esto no significa que la IA no esté llegando a producción.
Al contrario. Está llegando.
El problema es que nuestra capacidad para desplegarla está avanzando más rápido que nuestra capacidad para gobernarla.
Y aquí creo que hay un error de enfoque interesante.
Durante mucho tiempo hemos tratado el modelo como si fuese el producto.
Cada nueva generación era mejor.
Pero cuando llevas la IA al corazón de una empresa descubres algo que los ingenieros llevan décadas aprendiendo: el componente más sofisticado no suele ser el sistema.
El sistema incluye los datos.
Las identidades, permisos, seguridad,…
Los procesos.
Las personas.
Y, ahora, también los modelos.
De hecho, una encuesta de LangChain entre más de 1.300 profesionales encontró que el 57% ya tenía agentes funcionando en producción. Pero el principal obstáculo citado para llevarlos allí era la calidad, mientras que el 89% había incorporado ya mecanismos de observabilidad.
Es una señal bastante reveladora.
Cuando experimentamos estamos explorando qué puede hacer esta IA.
Cuando operamos empezamos a ver si podemos confiar en que lo haga.
Y quizá ese sea el siguiente gran salto de la inteligencia artificial empresarial.
Conseguir que un sistema de IA pueda acceder únicamente a los datos que necesita.
Que podamos observar qué está haciendo.
Que existan límites claros sobre lo que puede decidir.
Y que, cuando algo salga mal, sepamos qué ocurrió, quién tenía el control y cómo detenerlo.
Porque una demo demuestra que algo puede funcionar.
Pero operar demuestra algo bastante más difícil: que puedes confiar en ello.
Y sospecho que buena parte de la próxima batalla empresarial de la IA se va a librar precisamente ahí, entre quienes aprendan antes a convertir una capacidad extraordinaria en un sistema ordinariamente fiable.
Food for thought
En 1968 Engelbart necesitó 90 minutos para enseñar buena parte del futuro de la informática.
Después necesitamos décadas para convertirlo en infraestructura cotidiana.
Quizá con la IA estemos confundiendo otra vez haber visto el futuro con haber aprendido a operarlo.
🌍 El Eco del Mercado
🛡️ Palo Alto convierte los modelos avanzados en auditores permanentes. Unit 42 Continuous Frontier AI Defense utilizará modelos de Anthropic, OpenAI y código abierto para buscar continuamente vulnerabilidades en aplicaciones, API e infraestructura cloud. También podrá proponer correcciones de código y parches virtuales.
🔓 Meta corrige una vulnerabilidad que permitía secuestrar Muse. El fallo de la aplicación para macOS permitía redirigir las transcripciones hacia un servidor malicioso y manipular al agente para tomar fotografías o escribir archivos. El ataque requería que el dispositivo ya ejecutase código malicioso.
🛒 Los bancos reclaman reglas antes de dejar comprar a los agentes. NatWest, Bank of America, ING, Capital One y otras entidades advierten de posibles fraudes, compras incorrectas y filtraciones de datos. Proponen identificar cuándo interviene una IA y conservar la libertad de elegir proveedor y método de pago.
📊 Tres de cada cuatro estadounidenses desconfían de la seguridad de la IA. Una encuesta de Reuters/Ipsos revela que el 73 % considera insuficientes las medidas adoptadas por las compañías para prevenir daños graves. El 55 % ve conveniente ralentizar el desarrollo y otro 73 % prioriza una IA segura frente a mantener la ventaja tecnológica estadounidense.
🌐 OpenAI pide a Estados Unidos que lidere unas normas mundiales para la IA. La compañía propone una coalición internacional que acuerde mediciones comunes de capacidades y riesgos, mecanismos de notificación de incidentes y un diálogo protegido entre Estados Unidos y China. La iniciativa todavía no forma parte de un proceso diplomático formal.
🏛️ DeepSeek llevará la posición china al Consejo de Seguridad de la ONU. La empresa y otros laboratorios chinos han sido invitados a intervenir en la reunión sobre IA y seguridad internacional. También se espera la participación de Sam Altman y representantes de Anthropic, aunque la lista todavía puede cambiar.
🎨 OpenAI y Anthropic piden utilizar obras australianas para entrenar sus modelos. Ambas compañías reclaman una excepción limitada a la prohibición efectiva de emplear contenidos protegidos. Vinculan la flexibilidad normativa con futuras inversiones, mientras los creadores exigen consentimiento y remuneración.
🧠 La preocupación por los riesgos pasa factura a quienes evalúan los modelos. Financial Times documenta bajas, estrés y agotamiento entre trabajadores del Instituto británico de Seguridad de la IA y empleados o antiguos empleados de OpenAI, Anthropic y Google DeepMind. Los testimonios señalan la presión de evaluar sistemas cada vez más capaces bajo calendarios muy exigentes.
🧪 Snorkel capta 350 millones para fabricar datos de entrenamiento más complejos. La ronda valora la compañía en 3.500 millones de dólares. Snorkel ha pasado de vender software a suministrar conjuntos de datos y entornos de aprendizaje por refuerzo producidos mediante expertos humanos y automatización.
🇺🇸🇨🇳 El capital sigue cruzando una frontera tecnológica cada vez más cerrada. Los bancos estadounidenses han participado este año en diecinueve operaciones de capital de tecnológicas chinas por 17.200 millones de dólares. A la vez, las inversiones estadounidenses de residentes en China continental y Hong Kong superan los 750.000 millones.
⚛️ La demanda eléctrica de la IA acelera la apuesta nuclear china. China construye más de la mitad de los 58 reactores nucleares convencionales actualmente en desarrollo y aumenta su inversión en pequeños reactores modulares y fusión. Wood Mackenzie prevé que sus centros de datos consumirán 774 TWh en 2030.
✈️ Dassault prueba dos algoritmos de IA en un Rafale. El fabricante ha ensayado en vuelo un algoritmo propio y otro desarrollado con Thales para asistir a la tripulación. Dassault no ha detallado sus funciones ni publicado los resultados de las pruebas.
👓 Morphotonics lleva su litografía desde las gafas hasta los centros de datos. La compañía neerlandesa capta 40 millones de euros para ampliar la fabricación de componentes ópticos mediante nanoimpresión. Su tecnología, utilizada en guías de onda para gafas inteligentes, se aplicará también a las comunicaciones ópticas entre centros de datos.
🔬 Nexstrom quiere fabricar semiconductores bidimensionales en obleas completas. La startup singapurense capta 12 millones de dólares para desarrollar equipos capaces de depositar materiales extremadamente finos sobre obleas industriales. Algunas empresas ya prueban muestras, pero Nexstrom sitúa la producción comercial entre 2030 y 2035.
🏘️ La oposición local empieza a frenar la expansión de los centros de datos. Un estudio de Data & Society analiza la resistencia comunitaria en Pensilvania, mientras Data Center Watch calcula que proyectos valorados en 68.000 millones de dólares encontraron obstáculos locales durante el segundo trimestre. Las cifras miden instalaciones afectadas, no necesariamente canceladas.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD. Para seguir tirando del hilo. Hay tres libros que encajan especialmente bien con la edición de hoy.
Thinking in Systems, de Donella Meadows. Para entender por qué conseguir que funcionen las piezas por separado no significa que vaya a funcionar el sistema.
Accelerate, de Nicole Forsgren, Jez Humble y Gene Kim. Sobre algo que ahora será crítico para la IA: convertir tecnología en capacidades rápidas, repetibles y fiables.
The DevOps Handbook, de Gene Kim, Jez Humble, Patrick Debois y John Willis. Probablemente el más operativo de los tres. Cuenta cómo construir sistemas capaces de sobrevivir al contacto con la realidad.
Ninguno de los tres es un libro sobre inteligencia artificial. Y quizá precisamente por eso sean tres buenos libros para entender lo que podemos esperar combinados con esta tecnología.
PD2. Gobernanza, versión doméstica. Después de escribir toda una edición sobre gobernanza, permisos y límites para la inteligencia artificial, he encontrado en Amazon probablemente el sistema de gobernanza más sencillo que existe. Ya sabes que la perdida de atención es una de mis batallas personales, el sistema es simple, una caja. Metes dentro el móvil. Programas cuánto tiempo quieres estar sin él. Y se acabó la discusión.