Del “move fast” al “audit everything”
Diario de Innovación #358
Durante años la industria tecnológica ha vivido bajo la filosofía, del muévete rápido y rompe cosas.
Lanzar antes.
Escalar antes.
Innovar antes.
Y durante mucho tiempo la inteligencia artificial también siguió esa lógica.
Modelos más grandes.
Más capacidad.
Más velocidad.
Más autonomía.
Pero algo empieza a cambiar.
Porque cuanto más poder adquieren los modelos frontier, más difícil resulta aceptar una idea bastante típica de Silicon Valley, “confía en nosotros.”
Un nuevo trabajo publicado en 2026 analiza los frameworks de seguridad de los principales laboratorios de IA usando más de 65 criterios distintos:
gestión de riesgos,
evaluación,
mitigación,
governance,
transparencia,
preparación ante incidentes,
supervisión interna.
Y quizá lo importante no sea el ranking.
Sino lo que representa.
Por primera vez, la seguridad de IA empieza a tratarse como algo verificable.
Auditable.
Comparable.
Casi regulatorio.
Creo que estamos entrando en una nueva etapa donde los modelos fundacionales empiezan a parecer menos productos tecnológicos y más infraestructura crítica.
Porque cuando un sistema puede:
escribir código,
operar herramientas,
ejecutar acciones,
persuadir personas,
automatizar decisiones,
o coordinar otros agentes,
la pregunta ya no es únicamente qué puede hacer.
La pregunta importante pasa a ser: ¿cómo demostramos que sigue bajo control?
Y eso cambia completamente la conversación.
Pasamos del “move fast” al “audit everything”.
La seguridad de IA ya no parece solo un problema de ingeniería.
Empieza a convertirse en una disciplina regulada.
Y probablemente eso era inevitable.
🌍 El eco del mercado
🧾 La productividad IA empieza a generar trabajo invisible. Cada vez más empresas descubren que validar respuestas de IA consume tiempo, recursos y supervisión humana. Más que automatización total, el corto plazo parece apuntar a burocracia algorítmica supervisada.
⚡ Japón quiere enfriar la IA antes de que colapse la red eléctrica. Investigadores japoneses desarrollan nuevos chips orientados a reducir calor y consumo energético en cargas IA. La eficiencia energética empieza a ser tan importante como la inteligencia del modelo.
🌱 Microsoft sigue apostando miles de millones por captura de carbono. La compañía amplía acuerdos para compensar el impacto climático de sus centros de datos e infraestructura IA. La IA no solo necesita compute. También necesita legitimidad energética y climática.
🧠 Zendesk convierte los agentes de IA en mano de obra medible. Zendesk vincula el precio de sus agentes de IA a resoluciones verificadas, no al uso ni al número de interacciones. Más que software, empieza a venderse trabajo automatizado. El SaaS se acerca cada vez más al modelo “pago por resultado”.
🌊 El Golfo descubre que la IA también depende de cables submarinos. Ya lo comentábamos hace unos días, el boom de centros de datos e hyperscalers en el Golfo está poniendo presión sobre una infraestructura crítica: los cables submarinos. La soberanía IA no va solo de chips y energía. También va de conectividad física y resiliencia geopolítica.
🇨🇳 China triplica la financiación de startups de IA. La inversión en startups chinas de IA alcanzó los 16.200 millones de dólares en el primer trimestre, impulsada por LLMs y robótica. China está convirtiendo la IA en política industrial acelerada. Capital, manufactura y modelos avanzan en bloque.
⚖️ Trump frena su orden ejecutiva sobre supervisión de IA. La Casa Blanca retrasa una orden para revisar modelos avanzados tras presión de la industria tecnológica. Señal clara de tensión: regular frontier models sin frenar la carrera competitiva sigue siendo el gran dilema estadounidense.
🛡️ Los agentes de IA rompen los esquemas clásicos de seguridad. Las empresas empiezan a descubrir que sus controles legacy no están preparados para agentes que actúan, acceden y deciden. El riesgo ya no está solo en el prompt. Está en conectar modelos a sistemas reales sin rediseñar permisos, trazabilidad y gobierno.
🧩 Microsoft permite ocultar Copilot en Office. Microsoft empieza a dejar que los usuarios eliminen el botón flotante de Copilot tras las quejas, especialmente en Excel. La IA integrada no puede convertirse en fricción. Pensé que este sarampion ya lo pasamos con “Clippy”.
📱 HMD integra una IA local para conquistar India. El fabricante finlandés preinstala el chatbot Indus de Sarvam, compatible con 22 lenguas indias, en nuevos smartphones. La próxima batalla de la IA móvil será local: idioma, contexto cultural y distribución nativa en dispositivos.
🔥 Los centros de datos empiezan a calentar barrios. Un estudio en Phoenix concluye que los centros de datos pueden elevar la temperatura cercana hasta 2 ºC. La infraestructura IA ya tiene externalidades visibles. El conflicto local por energía, agua y calor irá a más.
🪱 El open source sufre un ataque a escala inédita. Un grupo hacker está envenenando código abierto a gran escala, con GitHub como una de sus últimas víctimas. La cadena de suministro software se ha convertido en infraestructura crítica. Y sigue funcionando sobre demasiada confianza implícita.
🏦 Europa teme quedarse ciega ante Claude Mythos. La UE no logra avances con Anthropic para acceder a vulnerabilidades que Claude Mythos podría encontrar en sistemas bancarios.
🧬 Google mueve la IA científica hacia otra etapa. Google I/O mostró cómo DeepMind quiere llevar la IA desde el descubrimiento molecular hacia una ciencia más automatizada. La IA científica empieza a pasar de herramienta puntual a sistema operativo de investigación.
💻 El vibe coding encuentra su sitio como prototipado rápido. La tesis gana fuerza: el vibe coding funciona mejor si se entiende como una impresora 3D para software, no como ingeniería final. La IA no elimina el desarrollo. Cambia la fase inicial: explorar, probar y descartar ideas se vuelve mucho más barato.
🧾 D&B rediseña su base de datos para agentes de IA. Dun & Bradstreet reconstruye su grafo de 642 millones de empresas para que pueda ser usado por agentes, no solo por humanos. Las bases de datos empresariales ya no se diseñan solo para dashboards. Se preparan para decisiones automatizadas.
🧪 Los benchmarks ya no bastan para confiar en la IA. Un exinvestigador de Google DeepMind advierte de que las métricas actuales no garantizan seguridad ni utilidad real. La industria necesita menos carreras de puntuación y más evaluación en contexto, con consecuencias y casos de uso reales.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
ºPD: Para conectar IA y estructuras de poder reales, Atlas de IA de Kate Crawford ayuda mucho a bajar el debate desde la abstracción tecnológica hacia el mundo físico y político.
PD: Armas de Destrucción Matemática de Weapons of Math Destruction de Cathy O’Neil sigue siendo brutal para entender cómo los algoritmos amplifican desigualdades cuando nadie los supervisa.
PD: Para entender por qué los agentes autónomos cambian completamente la conversación, La Ola que Viene de Mustafa Suleyman es probablemente uno de los libros más relevantes ahora mismo.
PD: Privacidad es Poder de Carissa Véliz explica muy bien por qué el problema de la IA no es solo tecnológico, sino profundamente político.
PD: Si quieres entender cómo la tecnología termina moldeando cultura, comportamiento y relaciones humanas, You Are Not a Gadget de Jaron Lanier sigue siendo sorprendentemente actual.
PD: Y para la parte más filosófica del debate, Artificial Intelligence: A Guide for Thinking Humans de Melanie Mitchell ayuda mucho a separar hype, realidad y límites actuales de la IA.Hay