Todos quieren IA responsable. Nadie quiere gobernarla.
Diario de Innovación #380
Hay una imagen que siempre me ha parecido curiosa.
Subes a un avión. Te abrochas el cinturón. Escuchas la demostración de seguridad que nadie escucha. El comandante despega. Alcanza altitud de crucero.
Y entonces llega el dato que siempre sorprende a alguien, gran parte del vuelo ya no está pilotado por una máquina, no una persona.
La automatización lleva décadas ahí.
Y, sin embargo, seguimos confiando.
¿Por qué?
Porque nunca construimos la aviación alrededor del piloto automático. Construimos una industria alrededor de la responsabilidad.
Listas de comprobación.
Protocolos.
Simuladores.
Investigaciones.
Cajas negras.
Supervisión.
Capas de decisión.
El piloto automático nunca sustituyó la gobernanza. Solo la hizo más necesaria.
Creo que estamos entrando exactamente en ese momento con la inteligencia artificial.
Durante los últimos años hemos hablado de modelos.
Más parámetros.
Más contexto.
Más agentes.
Más velocidad.
Más autonomía.
Pero un estudio reciente me hizo pensar que quizá estamos mirando al sitio equivocado.
Sus autores revisaron más de mil publicaciones sobre IA responsable y llegaron a una conclusión incómoda: el problema ya no es definir principios éticos. El problema es convertirlos en operaciones reales dentro de una organización.
Porque decir: “nuestra IA será justa”, es fácil.
Lo difícil es responder preguntas como:
¿Quién valida que no haya sesgo?
¿Quién aprueba el despliegue?
¿Quién decide cuándo apagar el sistema?
¿Quién responde cuando el modelo se equivoca?
Ahí empieza la gobernanza. Y se acaba el PowerPoint.
El estudio propone una idea que me parece especialmente potente.
La IA responsable no es una característica del modelo. Es una característica de la organización.
Para explicarlo, los autores proponen tres capas de gobernanza.
La primera es estructural.
Quién decide.
Quién tiene autoridad.
Quién firma.
La segunda es procedimental.
Qué pasos existen.
Cómo se revisa.
Cómo se corrige.
Cómo se monitoriza.
Y la tercera es relacional.
Quién participa.
Qué equipos colaboran.
Cómo entra la sociedad.
Cómo se genera confianza.
No parece muy emocionante.
Hasta que recuerdas algunos casos recientes.
Amazon intentó automatizar procesos de selección y descubrió que el sistema aprendía patrones históricos que penalizaban determinados perfiles.
Meta lleva años navegando el límite entre valor generado y legitimidad social sobre el uso de datos.
Y OpenAI o Anthropic nos recuerdan cada semana algo parecido: que tener capacidad técnica y tener consenso sobre responsabilidad son cosas distintas.
Lo interesante es que ninguno de estos problemas era puramente técnico.
No falló únicamente el algoritmo.
Falló —o quedó expuesta— la estructura alrededor del algoritmo.
Y aquí aparece una idea que creo que vamos a escuchar mucho durante esta década.
La ética de la IA se parece menos a una disciplina filosófica y más a una función de operaciones.
Igual que seguridad.
Igual que calidad.
Igual que finanzas.
Porque una empresa que dice que tiene estrategia de IA pero nadie sabe quién responde cuando falla, no tiene estrategia.
Tiene entusiasmo.
Hay otro detalle del estudio que me llamó la atención.
Reconoce algo que pocas veces se dice en voz alta: probablemente no exista una gobernanza universal.
Lo que una sociedad considera aceptable puede ser inaceptable para otra.
Lo que una empresa interpreta como eficiencia otra lo verá como vigilancia.
Lo que hoy parece razonable mañana quizá nos parezca una barbaridad.
La gobernanza no elimina las decisiones humanas.
Las hace visibles.
Y quizá por eso la pregunta más interesante de esta década no sea, ¿tomará decisiones la IA?
La respuesta parece bastante clara.
Sí.
La pregunta importante será otra, cuando lo haga, ¿quién seguirá siendo responsable?
Mi respuesta hoy se parece menos a elegir entre desarrollador, empresa o usuario.
Y más a pensar en aviación.
No existe una única persona responsable.
Existen capas.
Diseño.
Operación.
Supervisión.
Decisión.
Y quizá ese sea el verdadero salto que nos queda.
No construir modelos más inteligentes.
Construir organizaciones capaces de convivir con ellos.
🌍 El eco del mercado
⚙️ SpaceX convierte el acceso a GPUs en una nueva línea de negocio. SpaceX firma un acuerdo de compute con Reflection AI para darle acceso inmediato a chips NVIDIA GB300 y hardware asociado en su data center Colossus 2, cerca de Memphis.
🛡️ OpenAI quiere ser el parche de seguridad del software libre. OpenAI lanza GPT-5.5 Cyber y una iniciativa para detectar y corregir vulnerabilidades en proyectos open source. El movimiento llega justo cuando la conversación sobre modelos avanzados y ciberseguridad está marcada por la crisis de Anthropic con Fable y Mythos.
🧨 El bloqueo de Anthropic abre hueco a los modelos chinos. La suspensión global de Claude Fable 5 obliga a empresas y desarrolladores a revisar su dependencia de proveedores estadounidenses. Según South China Morning Post, ese vacío podría favorecer a alternativas chinas como Zhipu GLM-5.2.
🔋 Microsoft firma con Chevron: la IA también se alimenta de gas. Microsoft y Chevron preparan uno de los mayores proyectos de data centers alimentados por gas natural en Estados Unidos, con un acuerdo de compra de energía a 20 años. Es una señal incómoda para el relato verde de la IA.
💧 NVIDIA quiere resolver el problema del agua. NVIDIA presenta un nuevo diseño de data center que reduce drásticamente el uso de agua dentro de la instalación. Pero la mejora no elimina el consumo de agua asociado a la generación eléctrica, especialmente cuando esa energía viene de plantas fósiles.
🌍 La nube empieza a hacer ruido. Varios artículos apuntan al coste físico de la IA: consumo de agua, presión energética, riesgo climático y hasta ruido de baja frecuencia para comunidades cercanas a data centers. La nube ya no parece tan etérea cuando vibra al lado de tu casa.
Los medios vienen avisando de que la aceptación social de los data centers puede convertirse en el próximo cuello de botella. Después de las GPUs y la energía, vendrán los permisos, el territorio y la resistencia local.
🧠 China vuelve a enseñar músculo en supercomputación. Un superordenador en Shenzhen ha sido declarado el más rápido del mundo, según The New York Times, mientras Alibaba refuerza su unidad de chips T-Head con una ampliación de capital. China no solo compite en modelos: quiere controlar también la capa de hardware.
🤖 Cloudflare empieza a diseñar una web para humanos, bots y agentes. Cloudflare trabaja con navegadores para autenticar tráfico humano y combatir hordas de bots maliciosos. La clave está en que la web ya no tendrá que distinguir solo entre persona y robot, sino entre humanos, automatismos dañinos y agentes legítimos.
🐡 Sakana vende una salida al bloqueo de los modelos frontera. Sakana lanza Fugu, un sistema multiagente que promete rendimiento de frontera usando orquestación de modelos y una API compatible con OpenAI. El mensaje comercial es evidente: no dependas de un único modelo, proveedor o país.
👀 Meta descubre que vigilar el trabajo también tiene riesgo operativo. Meta pausa su programa interno de seguimiento de empleados después de que datos sensibles quedaran expuestos internamente. El proyecto recogía información como pulsaciones de teclado para entrenar modelos de IA.
🎬 Google y Adobe quieren meter agentes en la cadena creativa. Google DeepMind invierte en A24 para desarrollar herramientas de IA para producción audiovisual, mientras Adobe lleva agentes creativos a Photoshop, Premiere, Illustrator, InDesign y Frame.io. La IA creativa empieza a pasar de la demo espectacular al flujo de trabajo profesional.
🧲 China recuerda que la guerra tecnológica también se libra con tierras raras. China presiona a Estados Unidos usando restricciones sobre empresas estratégicas vinculadas a tierras raras. El mensaje es claro: la dependencia no está solo en las minas, sino en el procesamiento, los imanes y los permisos.
Occidente puede invertir miles de millones en chips, defensa y vehículos eléctricos, pero seguirá expuesto si no controla materiales críticos. La cadena de suministro sigue siendo el verdadero tablero.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD: Si este tema te interesa, te recomiendo el siguiente listado de libros. Todos atacan la misma pregunta desde ángulos distintos: quién gobierna realmente la tecnología y bajo qué incentivos.
Responsible AI (Virginia Dignum), que aterriza la ética de la IA en decisiones organizativas concretas y explica cómo integrar principios en procesos reales
The Alignment Problem (Brian Christian), que recorre la historia de cómo intentamos alinear sistemas inteligentes con valores humanos y muestra lo complejo que es traducir “lo correcto” a código
Atlas de IA (Kate Crawford), que desmonta la idea de la IA como algo abstracto y revela su dimensión material: recursos, trabajo humano, poder y geopolítica
La Era del Capitalismo de la Vigilancia (Shoshana Zuboff), que analiza cómo los modelos de negocio basados en datos han redefinido la relación entre empresas, usuarios y control social.
PD2: Si hoy hemos hablado de gobernar la IA, aquí van algunos objetos curiosamente útiles para recordar que supervisar sigue siendo una ventaja competitiva:
Elgato Stream Deck → automatiza tareas repetitivas manteniendo control explícito sobre qué se ejecuta y cuándo. Más copiloto que piloto automático.
Ubiquiti UniFi Protect → ejemplo perfecto de equilibrio entre supervisión, automatización y visibilidad operativa.
Google Nest Cam (interior/exterior) → porque vigilar no siempre significa intervenir; muchas veces significa poder reconstruir lo que pasó.
Flic Smart Button → botón físico para activar procesos o escenas. Recordatorio físico de que siempre debería existir una forma humana de recuperar el control.
NAS Synology → porque una organización responsable empieza por saber dónde están sus datos y quién accede a ellos.