Hay dos modelos mentales que explican bastante bien algunos de los problemas más incómodos de la tecnología.
El primero empieza con dos sospechosos encerrados en habitaciones distintas.
La policía ofrece a cada uno el mismo trato.
Si ninguno confiesa, ambos reciben una pena pequeña.
Si uno confiesa y el otro calla, el primero sale prácticamente libre y el segundo se lleva la peor condena.
Si ambos confiesan, los dos reciben una pena intermedia.
Los dos saben que cooperar sería mejor para ambos.
Pero ninguno puede confiar en que el otro vaya a hacerlo.
Así que los dos confiesan.
La peor de las decisiones para ambos, ese es el Dilema del Prisionero.
Lo interesante no es que alguien tome una mala decisión.
Es exactamente lo contrario.
Cada uno toma la decisión racional teniendo en cuenta lo que puede hacer el otro.
Y el resultado colectivo es peor.
Ahora cambiemos de escenario.
Imagina un prado que utilizan varios ganaderos.
Cada uno puede añadir una vaca más.
El beneficio de esa vaca pertenece casi completamente al ganadero.
Pero el coste —un poco más de hierba consumida, un poco más de deterioro del terreno— se reparte entre todos.
La decisión racional vuelve a ser evidente: meter otra vaca.
El problema aparece cuando todos llegan a la misma conclusión.
El prado termina destruido.
Es la Tragedia de los Comunes.
Dos historias diferentes.
Una misma advertencia: lo que es racional para cada actor puede ser desastroso cuando todos hacen lo mismo.
Y creo que esta idea va a resultar especialmente útil para entender lo que puede ocurrir con la IA.
Hace unos días hablábamos de The AI Layoff Trap, un paper de Brett Hemenway Falk y Gerry Tsoukalas que plantea precisamente algo parecido.
Una empresa descubre que puede automatizar parte de su trabajo.
El cálculo parece sencillo.
Trabajador: 60.000 euros.
IA: 10.000.
Ahorro: 50.000.
Automatiza.
El problema es que ese trabajador también era consumidor.
Si pierde ingresos, gastará menos.
Pero aquí aparece la trampa.
La empresa que le despide obtiene todo el ahorro.
Mientras que la pérdida de consumo se reparte entre cientos o miles de compañías.
Así que el incentivo vuelve a estar claro: automatiza tú antes de que lo haga tu competidor.
El competidor piensa exactamente lo mismo.
Y empieza la carrera.
Puede llegar un momento en el que todos hayan reducido costes y, al mismo tiempo, hayan contribuido a reducir la demanda de la que dependen.
Es casi un Dilema del Prisionero empresarial.
Pero también tiene algo de Tragedia de los Comunes.
Porque existe un recurso que nadie posee individualmente pero del que todos dependen: la capacidad económica de sus clientes.
Conviene no llevar demasiado lejos la analogía. La demanda agregada no es un pasto finito que pueda agotarse para siempre.
Pero el mecanismo mental es tremendamente útil.
Cada empresa tiene incentivos para extraer su beneficio privado mientras una parte del coste termina repartida entre todas las demás.
Y esto va mucho más allá de los despidos.
Lo veremos con agentes autónomos.
Con el consumo energético de los modelos.
Con el contenido generado automáticamente.
Con el spam comercial.
Con la explotación de datos públicos.
Con empresas lanzando sistemas cada vez más capaces porque nadie quiere ser el primero en frenar mientras los demás continúan avanzando.
De hecho, muchas de las carreras tecnológicas tienen esta estructura.
Si todos esperan, quizá todos estén mejor.
Pero esperar solo funciona si puedes confiar en que los demás también lo harán.
Y ahí está el problema.
Food for thought
Durante años hemos utilizado una frase casi como dogma empresarial: si algo tiene sentido económico, el mercado terminará haciéndolo.
Probablemente sea cierto.
La pregunta más interesante es otra: ¿qué ocurre cuando precisamente eso es el problema?
Porque algunos de los mayores riesgos de la IA quizá no aparezcan cuando alguien actúe irracionalmente.
Aparecerán cuando miles de empresas perfectamente racionales lleguen, de forma independiente, a exactamente la misma conclusión.
Y todas tengan razón.
Hasta que dejen de tenerla.
Así que la próxima vez qee analices una nueva tecnología, no preguntes únicamente:
¿Qué ocurre si yo hago esto?
Añade una segunda pregunta:
¿Qué ocurre si todo el mundo hace exactamente lo mismo?
Ahí empiezan a aparecer algunos de los problemas realmente interesantes.
🌍 El Eco del Mercado
☢️ Estados Unidos y China ensayan una doctrina nuclear para la IA. Expertos de ambos países proponen impedir que la IA intervenga en el mando nuclear, mantener los grandes ciberataques militares bajo control humano y crear una línea directa para incidentes con sistemas autónomos. Las recomendaciones no son vinculantes, pero pretenden evitar que un error automatizado sea interpretado como una agresión deliberada.
⚔️ La IA reduce el tiempo disponible para evitar una guerra. Delegados de cien países reunidos en Pekín advierten de que la IA acelera las decisiones militares mientras la desinformación deteriora los datos utilizados para adoptarlas. La Cruz Roja reclama preservar el juicio humano sobre el uso de la fuerza.
🛡️ Amazon pide pruebas rigurosas para la IA, pero rechaza frenar su desarrollo. La compañía sostiene que los modelos solo deberían publicarse después de superar evaluaciones suficientes y contar con salvaguardas sólidas. No respalda una ralentización coordinada ni concreta nuevos compromisos propios.
🇨🇳 Huawei cree que la IA china todavía no es suficientemente capaz para “escapar”. Eric Xu sostiene que los modelos chinos aún no han alcanzado el nivel asociado a los incidentes observados en Estados Unidos. Defiende acelerar su desarrollo y construir las salvaguardas conforme aumenten sus capacidades.
🎯 Thales reclama reglas internacionales para la IA militar. El grupo francés pide supervisión gubernamental y un marco internacional mientras presenta Hexaforce, un sistema europeo de mando y control asistido por IA. La plataforma queda fuera de las restricciones estadounidenses ITAR y pretende ofrecer una alternativa soberana a tecnologías como Maven.
👓 Australia estudia prohibir las gafas inteligentes en edificios públicos. El Gobierno evaluará un posible veto a los dispositivos con cámara en centros de trabajo oficiales y prepara directrices sobre el uso laboral de la IA. La medida todavía está en estudio y deberá conciliar la seguridad con las funciones de accesibilidad.
🧠 La demanda desborda la capacidad de Huawei para fabricar chips de IA. Huawei admite que no puede atender toda la demanda china y adelanta a 2027 sus aceleradores Ascend 960DT y 960PR. También prepara Peerium, una arquitectura concebida para conectar hasta un millón de procesadores y compensar mediante escala su menor potencia individual.
🏗️ Silicon Valley empieza a resistirse a sus propios centros de datos. Vecinos y organizaciones ambientales de San José se movilizan contra nuevos proyectos por su consumo de electricidad y agua y su contaminación. Cada instalación puede generar entre tres y seis millones de dólares anuales en impuestos, enfrentando los ingresos municipales con sus costes locales.
⚛️ Francia desarrolla una alternativa a CUDA-Q para integrar ordenadores cuánticos. El CEA y Alice & Bob ampliarán Qaptiva para combinar computación cuántica y supercomputación clásica, inicialmente en física de materiales. El ordenador cuántico previsto no se incorporará a la infraestructura hasta 2027.
🚕 Bolt y Lucid proyectan una flota de 25.000 robotaxis en Europa. Bolt pretende poseer y operar vehículos autónomos de nivel 4 basados en la futura plataforma Midsize de Lucid y en Nvidia Hyperion. Las compañías no han precisado las primeras ciudades, la inversión ni el calendario del despliegue.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD: Si te ha interesado esta idea de decisiones racionales que terminan produciendo resultados absurdos, hay tres libros que merece la pena tener cerca.
The Evolution of Cooperation, de Robert Axelrod, es probablemente el clásico para entender por qué cooperamos —o dejamos de hacerlo— cuando sabemos que volveremos a encontrarnos con los mismos actores.
Governing the Commons, de Elinor Ostrom, desmonta la idea de que los recursos compartidos están condenados inevitablemente a la tragedia. Su trabajo demuestra que las comunidades pueden diseñar reglas para proteger aquello de lo que todos dependen.
Y Micromotives and Macrobehavior, de Thomas Schelling, explica una idea que encaja perfectamente con la edición de hoy: pequeñas decisiones individuales, perfectamente razonables, pueden generar resultados colectivos que nadie quería.
Tres libros sobre una misma pregunta. ¿Cómo conseguimos que lo que tiene sentido para cada uno también tenga sentido cuando lo hacemos todos?
PD2: Hoy la compra innecesaria que estoy intentando justificarme a mí mismo tiene forma de teclado. El 8BitDo Retro Mechanical Keyboard parece diseñado por alguien que pensó que trabajar en 2026 sería bastante más divertido si el escritorio pareciese de 1987. Mecánico, inalámbrico, hot swappable, distribución QWERTY española y, sobre todo, con dos enormes botones programables que tienen pinta de servir indistintamente para lanzar una automatización… o para activar los misiles.