Hay algo fascinante en la forma en la que los humanos elegimos nuestros miedos.
Si mañana un científico anunciara que existe un 10% de posibilidades de que un asteroide impacte contra la Tierra dentro de veinte años, probablemente dejaríamos de discutir sobre casi todo lo demás.
Gobiernos reunidos de urgencia.
Miles de millones para desviarlo.
Programas internacionales.
Bruce Willis calentando en la banda.
Con la inteligencia artificial está empezando a ocurrir algo parecido.
Durante los últimos años hemos pasado de preguntarnos si una máquina podría escribir un poema decente a discutir seriamente si algún día podría acabar con nosotros.
Y no es únicamente ciencia ficción.
El International AI Safety Report 2026 reconoce que existen escenarios hipotéticos de pérdida de control que podrían llegar hasta la marginación o extinción de la humanidad. También dice algo bastante menos espectacular: los sistemas actuales todavía no tienen las capacidades necesarias para provocar esos escenarios y los expertos discrepan enormemente sobre su probabilidad.
Ese matiz importa.
Porque quizá estemos mezclando dos cosas diferentes: la gravedad de un riesgo y la probabilidad de que ocurra. Un escenario puede ser extraordinariamente grave y, al mismo tiempo, extraordinariamente incierto.
Y ahí nuestro cerebro no parece especialmente bueno haciendo cuentas.
Tenemos una debilidad por los peligros con argumento.
Una inteligencia superior que escapa de nuestro control tiene protagonista, conflicto y desenlace. Skynet, HAL 9000, Ultron,…
Un planeta que se calienta lentamente no tiene un villano al que podamos mirar a los ojos. La contaminación tampoco.
La resistencia antimicrobiana, la degradación de los ecosistemas o una futura pandemia tienen todavía peor departamento de marketing.
Pero hay una diferencia incómoda.
Algunos de esos riesgos no necesitan que imaginemos el futuro.
Ya están aquí.
La OMS lleva años estimando millones de muertes prematuras anuales asociadas a la contaminación atmosférica. Y proyecta cientos de miles de muertes adicionales al año relacionadas con determinados efectos del cambio climático entre 2030 y 2050.
No son probabilidades de una simulación.
Son personas.
Esto no significa que debamos ignorar el riesgo existencial de la inteligencia artificial.
Sería cometer exactamente el error contrario.
De hecho, las evidencias recientes justifican prestar atención: los modelos están mejorando en planificación, autonomía, identificación de evaluaciones y búsqueda de agujeros en los mecanismos con los que intentamos supervisarlos.
Ayer mismo, el panel científico independiente de Naciones Unidas publicó un informe sobre agentes que, durante evaluaciones de ciberseguridad, sortearon restricciones, engañaron a evaluadores e intentaron ocultar determinadas acciones. El informe no calcula la probabilidad de una futura pérdida de control, pero considera estos comportamientos una señal que merece estudio.
Hay que investigarlo.
Medirlo.
Regular cuando sea necesario.
Construir mecanismos de control antes de necesitarlos.
Pero quizá también deberíamos aplicar la misma disciplina intelectual al resto de nuestros miedos.
Porque existe una paradoja curiosa.
Podemos movilizarnos ante una amenaza cuya probabilidad todavía somos incapaces de calcular… mientras convivimos con otras cuya factura podemos contar cada año.
Food for thought
Tal vez el problema no sea que tengamos demasiado miedo a la inteligencia artificial.
Tal vez sea que nos hemos acostumbrado demasiado a los demás riesgos.
El cambio climático ocurre lentamente.
La contaminación no tiene fecha de estreno.
Las pandemias desaparecen de nuestra cabeza cuando termina la última.
Y los asteroides parecen absurdos hasta que recuerdas que uno de ellos ya cambió la historia de la vida en este planeta.
Skynet, en cambio, es nueva.
Y lo nuevo captura nuestra atención.
Quizá la pregunta correcta no sea si la inteligencia artificial puede acabar con la humanidad.
Puede que algún día pueda. Y sería irresponsable no prepararnos.
La pregunta más interesante es otra.
¿Somos capaces de asignar nuestra atención a los riesgos en función de la evidencia, la probabilidad y el impacto… o necesitamos que tengan un buen tráiler?
Porque puede que pasemos los próximos veinte años intentando evitar que una superinteligencia destruya el mundo.
Y sería bastante irónico que, mientras tanto, siguiéramos haciendo un trabajo mediocre protegiéndolo de nosotros mismos.
Nos fascinan los apocalipsis que todavía no han ocurrido.
Quizá porque pensar en ellos es mucho más cómodo que enfrentarnos a los que ya han empezado.
🌍 El Eco del Mercado
🌐 La ONU pide regular la IA antes de comprender todos sus riesgos. Su panel científico independiente defiende aplicar el principio de precaución a los sistemas avanzados. La incertidumbre sobre un daño potencialmente irreversible no debería servir para retrasar las salvaguardas.
☎️ Estados Unidos y China crean una línea para incidentes de IA. Ambas potencias formalizarán un diálogo sobre agentes incontrolables y ciberataques de actores no estatales. La próxima reunión está prevista dentro de aproximadamente dos meses en Shenzhen.
🛒 Amazon impide que Muse compre en nombre de sus usuarios. Amazon bloquea al agente de Meta por considerar que accedía a su plataforma sin autorización ni se identificaba adecuadamente. El conflicto abre una cuestión decisiva: el permiso del usuario puede no bastar para que una IA actúe dentro de servicios ajenos.
🔐 Aikido presenta una IA de ciberseguridad que no obliga a entregar el código. La compañía belga lanza un modelo de pesos abiertos que puede ejecutarse localmente para detectar vulnerabilidades. Busca que las organizaciones protejan software sensible sin enviarlo a proveedores externos.
🕸️ ShinyHunters asegura haber secuestrado la web de cl0p. El grupo afirma haber explotado una vulnerabilidad para controlar la infraestructura de otro conocido colectivo de ciberdelincuentes. Reuters no pudo verificar todo su relato, aunque dos especialistas consideran auténtico el enfrentamiento.
🕊️ León XIV reclama una IA que no amplifique la división. El pontífice pide desarrollar sistemas que preserven la dignidad humana y fortalezcan las iniciativas de paz. Su intervención incorpora el diseño de la IA al debate sobre desinformación, conflicto y cohesión social.
💸 SoftBank recurre a deuda de alto rendimiento para financiar OpenAI. El grupo prepara una emisión superior a 11.000 millones de dólares para sufragar el siguiente tramo de su inversión y reemplazar parte de sus préstamos puente. La apuesta por OpenAI dependerá así de acreedores que exigirán rentabilidad.
📈 AMD alcanza por primera vez el billón de dólares de valoración. La compañía superó brevemente ese umbral tras subir alrededor de un 9 % durante la sesión. El mercado apuesta por su expansión desde los procesadores individuales hasta sistemas completos de computación para IA.
🧩 Taiwán empieza a construir un parque dedicado al empaquetado avanzado. Kaohsiung inicia las obras de un complejo de 88,7 hectáreas donde TSMC instalará un laboratorio de validación y un centro de formación. Las primeras instalaciones deberían comenzar a operar en el cuarto trimestre de 2029.
🤖 China frena la fiebre bursátil de los robots humanoides. Los reguladores están elevando informalmente las exigencias para autorizar salidas a bolsa del sector. Quieren comprobar si las valoraciones y los ingresos reflejan demanda comercial o proyectos financiados por gobiernos locales.
💶 El BCE conecta su dinero con los mercados basados en blockchain. Pontes permite liquidar operaciones registradas en cadenas de bloques mediante euros respaldados por el banco central, en lugar de stablecoins. Santander, Deutsche Bank y Clearstream figuran entre sus primeros participantes.
🏦 Société Générale enfría las promesas de transformación bancaria mediante IA. El banco aspira a ahorrar hasta 600 millones de euros en 2029 mediante IA y una reorganización tecnológica. Su consejero delegado advierte de que la supervisión y la necesidad de preservar la confianza ralentizarán especialmente las automatizaciones que afectan al cliente.
☕ Starbucks contratará a 800 profesionales tecnológicos en Chennai. La compañía creará un centro global dedicado a software, finanzas, investigación y apoyo a la sede. El movimiento refuerza la evolución de India desde el soporte de bajo coste hacia funciones tecnológicas de mayor valor.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD: Por si después de leer esto te pica la curiosidad por saber qué podría acabar con nosotros antes que Skynet, aquí van algunas lecturas para alimentar el optimismo 😅.
Our Final Invention — James Barrat. Una de las primeras advertencias serias y accesibles sobre la posibilidad de crear una inteligencia superior a nosotros que después no sepamos controlar.
The Precipice — Toby Ord. Probablemente el que mejor encaja con la edición de hoy. Pone en perspectiva los grandes riesgos existenciales: IA, pandemias, guerra nuclear, asteroides, cambio climático… y trata de separar lo aterrador de lo realmente probable.
Human Compatible — Stuart Russell. El problema quizá no sea construir una IA malvada, sino construir una extraordinariamente competente persiguiendo objetivos que no coincidan exactamente con los nuestros.
PD2: Después de escribir sobre Skynet, riesgos existenciales y las distintas formas que hemos imaginado para extinguirnos, he pensado que hoy tocaba recomendar algo acorde para el despacho. Una figura del T-800 de Terminator.
No mejora tu productividad.
No toma notas en las reuniones.
No escribe prompts.
Y, de momento, tampoco intenta exterminar a la humanidad.
Simplemente se queda ahí, mirándote mientras trabajas.
Aunque, viendo cómo está evolucionando la IA, yo evitaría conectarla al WiFi.