La ventana antes del golpe
Diario de Innovación #377
Hay una escena bastante buena en El Señor de los Anillos.
Treebeard, el viejo Ent, tarda una eternidad en hablar, decidir y moverse.
Es sabio.
Tiene memoria.
Entiende el bosque mejor que nadie.
Pero es lento.
Y ese es, más o menos, el problema que plantea Dario Amodei en su ensayo Policy on the AI Exponential.
La inteligencia artificial avanza como una curva exponencial.
La política, en cambio, avanza como Treebeard bajando una escalera con reuma.
Y ahí está el choque.
Porque durante años hemos tratado la IA como una tecnología digital más. Como si fuera otra ola de software. Otra aplicación. Otro ciclo de innovación. Otra cosa que podía esperar a que los reguladores, los parlamentos y los comités se pusieran de acuerdo.
Pero quizá ya no estamos en ese punto.
Quizá la IA ha dejado de ser una herramienta interesante para convertirse en una infraestructura estratégica.
Como la energía.
Como los chips.
Como la aviación.
Como la biotecnología.
Como, en ciertos casos, el armamento.
Y cuando una tecnología entra en esa categoría, la pregunta cambia.
Ya no es solo: “¿Qué productos podemos construir con esto?”
La pregunta pasa a ser: “¿Qué tipo de sociedad vamos a construir alrededor de esto?”
Porque si Amodei tiene razón, la IA puede afectar a cinco pilares a la vez:
seguridad nacional
empleo
fiscalidad
ciencia
libertades civiles.
No está mal para algo que hace tres años muchos seguían tratando como un chatbot simpático para resumir PDFs.
La primera implicación política es evidente: la etapa de “vamos a observar” se está acabando.
Durante un tiempo tenía sentido pedir transparencia. Que las empresas explicaran qué modelos entrenaban, con qué capacidades, qué riesgos veían y qué medidas internas tomaban.
Pero la transparencia tiene un límite.
Saber que un avión tiene un problema no evita que se estrelle.
Saber que un medicamento puede ser peligroso no basta para aprobarlo.
Saber que un modelo avanzado tiene capacidades preocupantes en ciberseguridad no resuelve nada si después se despliega igual.
Por eso Amodei propone pasar de la transparencia a la obligación.
Auditorías externas.
Pruebas de seguridad.
Reportes de incidentes.
Protección de los pesos de los modelos.
Y capacidad del Estado para bloquear despliegues que presenten riesgos graves.
Esto no es menor.
Creo que la administración americana, compro esta parte del discurso de Amodei. Sino que se lo pregunten a Fable.
Significa que las empresas de IA dejarían de operar con la libertad casi absoluta que ha caracterizado buena parte del sector tecnológico.
Y aquí aparece la primera tensión seria.
Porque necesitamos que el Estado tenga más capacidad para controlar una tecnología de alto impacto. Pero también necesitamos controlar al Estado.
La IA puede servir para proteger infraestructuras críticas.
Pero también para vigilar ciudadanos.
Puede ayudar a detectar ataques.
Pero también a automatizar represión.
Puede mejorar la administración pública.
Pero también convertir decisiones opacas en máquinas de negar derechos.
Por eso el debate no puede ser solo técnico.
No basta con preguntar si un modelo es seguro.
También hay que preguntar quién lo usa, con qué límites, con qué supervisión y contra quién.
La segunda implicación es económica.
Y quizá sea la más incómoda.
Durante décadas, la política económica ha girado alrededor de una obsesión: crecer.
Más productividad.
Más inversión.
Más empleo.
Más innovación.
Pero la IA introduce una posibilidad extraña: que el crecimiento deje de ser el problema principal.
Imagina una economía donde una parte creciente del trabajo cognitivo puede ser realizada por modelos, agentes y sistemas automatizados.
Programar, diseñar, traducir, analizar contratos, preparar informes,…
Si eso ocurre a gran escala, podemos tener mucho crecimiento y, al mismo tiempo, mucha fragilidad social.
Hiperproductividad con hiperdesigualdad.
Empresas más pequeñas, más rentables y con menos empleados.
Más valor capturado por quien posee los modelos, los chips, los centros de datos, los datos, la energía y la infraestructura.
Menos valor capturado por quien solo vende horas de trabajo.
Ese es el cambio de fondo.
La IA puede alterar la relación entre capital y trabajo. Y si eso pasa, también altera la fiscalidad.
Porque nuestros sistemas fiscales siguen muy apoyados en el empleo, las nóminas y la actividad laboral humana.
Pero si una parte creciente de la riqueza se genera con menos trabajo humano, habrá que hacerse una pregunta bastante desagradable:
¿De dónde saldrá la recaudación?
Amodei apunta algunas posibilidades: impuestos a empresas beneficiadas por la IA, mayor carga sobre ganancias de capital, renta básica, cuentas universales de capital, seguros salariales o incentivos para mantener trabajadores durante la transición.
No son propuestas menores.
Todas tienen problemas.
Todas tienen incentivos perversos si se diseñan mal.
Todas pueden ser utilizadas políticamente.
Pero ignorar la pregunta no la hace desaparecer.
Si la IA genera abundancia, la batalla no será solo producir más. Será decidir cómo se reparte lo producido.
Y aquí aparece la ventana de oportunidad.
Porque todavía estamos antes del golpe completo.
Todavía podemos medir.
Todavía podemos preparar instituciones.
Todavía podemos adaptar la formación.
Todavía podemos rediseñar políticas laborales.
Todavía podemos pensar qué sectores queremos proteger, cuáles queremos transformar y cuáles queremos acelerar.
Todavía podemos decidir si la IA será una tecnología que concentre poder o una tecnología que distribuya capacidades.
La tercera implicación tiene que ver con la innovación positiva.
Y aquí conviene no caer en el reflejo fácil.
Regular la IA no debería significar ralentizarlo todo.
Ese sería el error.
La tesis más interesante de Amodei es que necesitamos una regulación asimétrica. Más dura para los modelos frontera con riesgos sistémicos. Más ágil para las aplicaciones beneficiosas.
Especialmente en ciencia, medicina, energía y materiales.
Porque también puede pasar lo contrario: que tengamos herramientas capaces de acelerar descubrimientos médicos, pero sistemas regulatorios diseñados para otro siglo.
Imagina una IA capaz de proponer mejores candidatos a fármacos, simular toxicidad, identificar biomarcadores o diseñar terapias personalizadas.
Y ahora imagina que todo ese flujo entra en procesos pensados para un mundo donde el descubrimiento era lento, caro y escaso.
El cuello de botella dejaría de estar en la ciencia.
Estaría en la institución.
Esto es importante.
La ventana de oportunidad de la IA no consiste solo en evitar daños. También consiste en no bloquear beneficios.
No es frenar por frenar.
Es saber dónde poner semáforos, dónde poner guardarraíles y dónde abrir carriles rápidos.
La cuarta implicación es geopolítica.
La IA no es solo una industria. Es poder.
Poder económico.
Poder militar.
Poder científico.
Poder cultural.
Poder administrativo.
Por eso Amodei plantea la necesidad de una coalición democrática alrededor de la IA: chips, centros de datos, estándares de seguridad, defensa, investigación, energía y regulación coordinada.
Suena ambicioso. Pero también puede ser incómodo.
Porque significa aceptar que la IA ya forma parte de la política de bloques.
No es simplemente una cuestión de startups, APIs y rondas de financiación.
Es una cuestión de soberanía tecnológica.
Y Europa, aquí, tiene un dilema serio.
Puede convertirse en un regulador sofisticado de tecnologías que otros construyen.
O puede intentar participar de verdad en la infraestructura, los modelos, la energía, los chips, los datos industriales y las aplicaciones estratégicas.
La primera opción es cómoda.
La segunda es difícil.
Pero si la IA va a ser una tecnología estructural, quedarse solo en el papel de árbitro puede no ser suficiente.
Un árbitro sin liga propia acaba pitando partidos ajenos.
Y eso nos lleva a la pregunta central de esta edición.
¿Qué hacemos con esta ventana?
Porque las ventanas de oportunidad tienen una característica desagradable.
No avisan cuando se cierran.
Durante un tiempo parece que todo es debate.
Que hay margen.
Que se puede esperar.
Que la tecnología aún no está madura.
Que las instituciones ya reaccionarán.
Que el mercado corregirá.
Que la sociedad se adaptará.
Hasta que un día ya no estás diseñando el futuro. Estás intentando sobrevivir a las consecuencias de decisiones que otros tomaron antes.
La IA puede ser una fuente enorme de progreso.
Puede acelerar la medicina.
Puede mejorar la productividad.
Puede ampliar capacidades humanas.
Puede permitir empresas más pequeñas y poderosas.
Puede ayudar a resolver problemas científicos que llevan décadas atascados.
Pero también puede concentrar riqueza, desplazar trabajo, aumentar la vigilancia, reforzar monopolios y convertir la geopolítica tecnológica en una carrera de velocidad entre bloques.
La cuestión no es si estamos a favor o en contra de la IA.
Esa pregunta ya se respondió.
La cuestión es quién define las reglas mientras la curva todavía está subiendo.
Quién captura el valor.
Quién asume los costes.
Quién protege las libertades.
Quién paga la energía.
Quién audita los modelos.
Quién controla la infraestructura.
Quién decide qué riesgos son aceptables.
La verdadera cuestión es quién se quedará fuera cuando todo esto se convierta en la nueva normalidad.
🌍 El eco del mercado
🪪 Estonia quiere dar DNI a los agentes de IA. Estonia empieza a experimentar con códigos de identificación para agentes de IA. La idea parece pequeña, pero apunta a algo grande: si los agentes actúan, compran, firman, responden o ejecutan tareas, alguien tendrá que poder identificarlos.
🧬 China prepara materiales críticos para la computación cuántica. China avanza en la fabricación de silicio-28 ultrapuro, un material clave para ciertos enfoques de computación cuántica. Es una pieza más dentro de su estrategia de reducir dependencias tecnológicas externas.
🧠 Wall Street ama la IA, pero la sociedad todavía no. Un estudio citado por TechCrunch apunta que solo el 16% de los estadounidenses cree que la IA tendrá un impacto positivo en la sociedad. Mientras los mercados descuentan productividad, muchos ciudadanos descuentan pérdida de control.
🕵️ El cibercrimen también se está volviendo agentic. Kali365 aparece descrito como una especie de “Amazon del cibercrimen”, con hackers usando IA para esquivar autenticación multifactor y empaquetar capacidades ofensivas.
⚖️ El pulso legal sobre los modelos de Anthropic se complica. La base legal del veto a los modelos más potentes de Anthropic empieza a parecer menos sólida. El conflicto ya no está solo en si ciertas capacidades son peligrosas, sino en quién tiene autoridad para bloquearlas.
🤝 OpenAI, Google y Anthropic quieren ordenar el tablero antes de que se lo ordenen otros. Los creadores de ChatGPT, Gemini y Claude quieren impulsar una coalición para controlar la IA. Sobre el papel, suena a responsabilidad compartida. En la práctica, también es una forma de influir en las reglas del juego.
Resuena bastantes con las reflexiones del Diario de hoy. Cuando los líderes piden regulación, conviene mirar la letra pequeña. Las normas pueden proteger al usuario, pero también consolidar a quienes ya tienen escala, datos, capital y capacidad de cumplimiento.
🏢 El próximo ataque al cloud puede entrar por el aire acondicionado. Investigadores alertan de fallos en sistemas UPS y HVAC capaces de comprometer la operación física de un data center. La nube sigue pareciendo abstracta, pero depende de energía, refrigeración y continuidad industrial.
🧱 Tesco huye de VMware: Broadcom convierte el lock-in en problema de consejo. Tesco está moviendo 40.000 cargas fuera de VMware tras acusar a Broadcom de conducta abusiva y subidas de precio muy agresivas. No es una migración menor: es una señal de fatiga frente a dependencias históricas.
🧨 La filtración de credenciales sigue siendo el agujero más aburrido y peligroso. Una brecha masiva expone credenciales de miles de redes sensibles. Mientras el discurso público se llena de agentes, modelos y copilotos, muchas organizaciones siguen teniendo el problema básico sin resolver.
🗺️ AWS entra en la capa de contexto para agentes. AWS se mueve hacia una capa de contexto basada en grafos que aprende del comportamiento de los agentes, no solo de curación manual. Es otra señal de que la batalla empresarial no estará solo en el modelo.
🪖 Grok, guerra e IA: matar sin que nadie parezca haber matado. Una pieza de Gizmodo plantea el uso de Grok en contexto militar y la fantasía peligrosa de automatizar decisiones letales diluyendo responsabilidades. La IA aparece como interfaz, pero también como coartada.
⚠️ La IA también tiene resaca: las empresas empiezan a mirar la factura. Tras una fase de uso intensivo, algunas compañías tecnológicas están intentando reducir el consumo de IA porque el coste se ha disparado. La euforia empieza a encontrarse con la contabilidad.
Parece que entramos en la siguiente fase, donde no será “usar IA para todo”, sino saber dónde merece la pena. El nuevo músculo competitivo será medir retorno, coste por tarea y productividad real, no solo desplegar copilotos.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD. Si quieres seguir tirando del hilo entre tecnología, poder y libertad, te dejo algunas lecturas muy conectadas con la edición de hoy:
The Tech Coup, de Marietje Schaake. Sobre cómo Silicon Valley ha acumulado poder político, económico y social, y por qué las democracias necesitan recuperar capacidad de gobierno sobre la tecnología. Muy alineado con la idea de que no basta con “dejar innovar”. Hay que decidir quién manda.
Automating Inequality, de Virginia Eubanks. Probablemente uno de los mejores libros para entender el impacto de los sistemas automatizados en los ciudadanos más vulnerables. Menos futurista y más incómodo: la burocracia algorítmica ya está aquí.
Future Politics, de Jamie Susskind. Una lectura muy buena sobre cómo la tecnología cambia el poder político, la libertad individual y la democracia. Muy recomendable si te interesa la pregunta de fondo: qué significa ser libre en una sociedad gobernada por sistemas digitales.
PD2. Y si después de leer esto te han entrado ganas de recuperar un poco de soberanía tecnológica, aquí van algunas ideas prácticas —nada revolucionario, pero útil—:
Una YubiKey para proteger tus cuentas importantes con autenticación física.
Un filtro de privacidad para portátil para que tu pantalla no sea cine de verano en cada cafetería.
Tapas para la webcam porque a veces la mejor política de privacidad cuesta menos de diez euros.
Una cartera RFID blocking para reducir lecturas no deseadas de tarjetas.
Un cuaderno reutilizable tipo Rocketbook para pensar fuera de la pantalla y digitalizar solo lo que quieras conservar.
Estos productos seguramente no vayan a salvar la democracia. Pero nos ayudan a recordar una idea sencilla: la libertad también se entrena en pequeñas decisiones cotidianas.