Estamos construyendo máquinas extraordinariamente inteligentes. Lástima que sigamos utilizándolas con nuestros defectos de siempre.
Hay algo que siempre me ha fascinado de El aprendiz de brujo.
El protagonista descubre cómo utilizar la magia para ahorrarse un trabajo bastante aburrido: cargar cubos de agua.
Así que encanta una escoba.
La escoba empieza a trabajar. No se cansa. No protesta. No pide vacaciones. Y tampoco solicita una revisión salarial.
El sueño de cualquier director financiero.
Hasta que aparece un pequeño inconveniente.
El aprendiz sabe cómo ponerla a trabajar, pero no cómo detenerla.
La escoba sigue trayendo agua. Una y otra vez. La habitación empieza a inundarse.
Desesperado, el aprendiz intenta destruirla.
Y consigue algo todavía mejor: multiplicar el problema.
Lo más interesante de la historia no es que la escoba sea peligrosa.
Es que la escoba hace exactamente aquello para lo que fue encantada.
El problema siempre fue el aprendiz.
Y tengo la sensación de que estamos viviendo una versión bastante sofisticada de ese cuento.
Solo que nuestras escobas tienen GPUs, consumen cantidades industriales de electricidad y cuestan miles de millones de dólares.
Llevamos años discutiendo sobre la posibilidad de que una inteligencia artificial supere nuestras capacidades.
La famosa singularidad.
Nos preguntamos si las máquinas desarrollarán objetivos propios. Si perderemos el control. Si decidirán que los humanos somos prescindibles.
Son preguntas legítimas.
Pero hay otra bastante más incómoda.
¿Y si no necesitamos que la IA desarrolle malas intenciones para provocar consecuencias desastrosas?
Bastaría con que ejecutase nuestras decisiones.
Más rápido.
A mayor escala.
Y con una eficiencia que jamás habíamos tenido a nuestro alcance.
Porque hay algo que solemos olvidar cuando hablamos de inteligencia.
Ser inteligente no significa ser sabio.
Puedes ser extraordinariamente inteligente y tomar decisiones profundamente estúpidas.
Puedes conocer todos los datos y elegir ignorar los que contradicen tus creencias.
Puedes disponer de una tecnología capaz de resolver problemas complejísimos y utilizarla para maximizar el beneficio del próximo trimestre.
Y puedes estar absolutamente convencido de que tienes todo bajo control.
Especialmente cuando no lo tienes.
Los psicólogos llevan décadas estudiando nuestra tendencia a sobreestimar nuestras capacidades, a buscar información que confirma nuestras creencias y a confundir familiaridad con comprensión.
Ahora imaginemos esos mismos defectos humanos conectados a sistemas capaces de actuar a una escala sin precedentes.
No hemos eliminado nuestros sesgos.
Les hemos dado acceso a una capacidad de procesamiento extraordinaria.
Un estudio de investigadores del MIT FutureTech y la Universidad de Queensland reunió a 272 expertos internacionales para evaluar 24 categorías de riesgos asociados a la inteligencia artificial durante el periodo 2025-2030.
Los participantes estimaron su probabilidad y gravedad, así como el efecto que podrían tener distintas medidas de mitigación.
Los resultados son inquietantes.
Sin nuevas medidas de mitigación, 18 de las 24 categorías alcanzaron al menos un 10 % de probabilidad estimada de consecuencias catastróficas, según el criterio agregado empleado en el estudio.
Incluso considerando medidas pragmáticas de mitigación, cinco categorías permanecieron por encima de ese umbral.
Entre ellas aparecen las capacidades peligrosas, los usos maliciosos, los daños medioambientales, la concentración del poder y un riesgo al que quiero prestar especial atención:
La desigualdad y el desempleo.
Los expertos asignaron a esta categoría un 11 % de probabilidad estimada de consecuencias catastróficas, incluso en el escenario con mitigación.
Conviene interpretar correctamente el dato.
No significa que exista un 11 % de probabilidad de que todos nos quedemos sin trabajo. Ni que el estudio haya demostrado que el desempleo masivo sea inevitable.
Es una estimación colectiva de expertos sobre un escenario de consecuencias extremas, no una predicción estadística verificable.
Pero hay algo que me parece mucho más relevante que la cifra.
Este riesgo no necesita que la IA alcance la conciencia, desarrolle voluntad propia o se rebele contra sus creadores.
Solo necesita que nosotros decidamos cómo utilizarla.
Y ahí es donde empieza mi preocupación.
Nuestra peligrosa ilusión de control
Hay una paradoja que me resulta especialmente inquietante.
Cuanto más sofisticada se vuelve una tecnología, más fácil resulta confundir nuestra capacidad para utilizarla con nuestra capacidad para comprenderla.
Pero utilizar una herramienta no significa comprender todas sus consecuencias.
Y supervisar un sistema tampoco garantiza que sepamos identificar cuándo está cometiendo un error.
Pensemos en un directivo que utiliza IA para decidir qué departamentos debe reducir.
El sistema analiza costes, productividad, salarios y previsiones.
Devuelve una recomendación impecablemente presentada.
Y con esa seguridad tan característica de las máquinas que nunca parecen dudar de sí mismas.
El directivo revisa el informe y aprueba la decisión.
¿Ha ejercido realmente su criterio?
¿O simplemente ha encontrado una forma tecnológicamente sofisticada de justificar una decisión que ya quería tomar?
No siempre será así, por supuesto.
La IA también puede ayudarnos a descubrir nuestros sesgos, cuestionar decisiones equivocadas y encontrar alternativas que nunca habríamos considerado.
Pero eso exige algo que ninguna mejora de rendimiento del modelo puede garantizar.
La voluntad humana de llevarle la contraria.
Y, todavía más difícil, la voluntad de reconocer que quizá estábamos equivocados.
Quizá necesitamos menos inteligencia y más sabiduría
Durante siglos hemos asociado el progreso con nuestra capacidad para hacer cosas que antes parecían imposibles.
Volar.
Dividir el átomo.
Llegar a la Luna.
Secuenciar el genoma humano.
Construir máquinas capaces de razonar sobre problemas extraordinariamente complejos.
Pero cada nuevo salto tecnológico amplía también las consecuencias de nuestras decisiones.
Y ahí aparece una diferencia fundamental.
La inteligencia nos ayuda a descubrir qué podemos hacer. La sabiduría nos obliga a preguntarnos qué deberíamos hacer.
La primera permite optimizar.
La segunda exige elegir.
La primera puede medirse mediante pruebas de rendimiento.
La segunda se demuestra asumiendo responsabilidades, reconociendo límites y renunciando, cuando es necesario, a beneficios inmediatos.
Estamos dedicando recursos extraordinarios a aumentar la inteligencia de las máquinas.
Y tiene sentido.
Pero quizá deberíamos dedicar una parte comparable de nuestra atención a mejorar la calidad de las decisiones humanas que determinarán cómo se utiliza.
Porque no basta con que la IA genere riqueza.
Importa cómo se distribuye.
No basta con que aumente la productividad.
Importa quién se beneficia.
No basta con que tome decisiones más rápidas.
Importa que sean mejores.
Y no basta con que podamos detener la escoba.
Deberíamos saber por qué la hemos puesto a trabajar.
Al final, puede que el verdadero desafío de la inteligencia artificial no sea conseguir que las máquinas se parezcan cada vez más a nosotros.
Sino evitar que reproduzcan, amplifiquen y perpetúen nuestros peores defectos.
Y eso me lleva a una última pregunta.
Quizá el verdadero test de alineamiento no sea comprobar si la IA comparte nuestros valores, sino preguntarnos si nuestros valores merecen ser compartidos.
🌍 El Eco del Mercado
🛰️ Ucrania golpea por segunda vez los centros de datos de Yandex. Un ataque ha dañado y desactivado parcialmente una instalación de Kaluga, un día después de que otro alcanzara un centro que alojaba dos superordenadores de IA. La nube rusa entra así en la lista de infraestructuras estratégicas expuestas directamente a la guerra.
🏦 La infraestructura de IA necesitará 1,5 billones de financiación externa. Morgan Stanley calcula que el sector requerirá esa cantidad hasta 2028 para sostener su expansión. El encarecimiento de la energía y el capital puede convertirse en un límite tan importante como la disponibilidad de chips.
🧪 Los laboratorios chinos apenas publican sus pruebas de seguridad. Un estudio encuentra resultados públicos para solo el 3,6 % de 857 modelos analizados y únicamente nueve los difundieron antes o durante su lanzamiento. La falta de transparencia dificulta comprobar si los sistemas cumplen las nuevas exigencias oficiales de seguridad y control.
🏛️ El grupo de trabajo de Trump sobre IA comienza a organizarse. Sus responsables han celebrado una primera reunión y prevén convocar al comité completo la próxima semana, incorporando sectores ajenos a la industria tecnológica. Su influencia dependerá del mandato definitivo y de su capacidad para convertir recomendaciones en decisiones.
⚠️ Investigadores despedidos de OpenAI denuncian un efecto disuasorio. Tres antiguos miembros de sus equipos de seguridad cuestionan las razones de su salida y reclaman auditorías independientes. OpenAI sostiene que incumplieron sus políticas sobre información sensible, mientras ellos defienden que actuaron dentro de las prácticas aceptadas.
🛡️ Anthropic ofrece auditorías gratuitas al software de código abierto. Los mantenedores podrán someter periódicamente sus repositorios a análisis realizados por los modelos más avanzados de la compañía. Los resultados no tendrán revisión humana previa, por lo que el valor del servicio dependerá de detectar vulnerabilidades reales sin generar demasiados falsos positivos.
🕵️ Estados Unidos desmonta parte de la infraestructura de Flax Typhoon. El Departamento de Justicia se ha incautado de siete dominios presuntamente utilizados por Integrity Technology para explorar y atacar infraestructuras críticas. La operación puede interrumpir campañas, pero no elimina la capacidad del grupo para reconstruir sus recursos.
🚔 El FBI detiene a otro supuesto colaborador de ShinyHunters. La nueva detención está relacionada con el grupo de ciberdelincuencia y con la reciente intrusión en el portal de empleo de la propia agencia. Las autoridades todavía no han detallado el papel concreto del sospechoso.
📡 SpaceX compra espectro para convertir Starlink en una red móvil. La compañía acuerda adquirir por unos 8.000 millones de dólares frecuencias estadounidenses de 800 MHz que mejoran la cobertura en interiores. Si recibe autorización, podrá combinar redes satelitales y terrestres y competir más directamente con las operadoras tradicionales.
📉 Las operadoras caen en bolsa ante la amenaza de Starlink. T-Mobile, Verizon, AT&T y varias compañías europeas retrocedieron después de conocerse la compra de espectro de SpaceX. Los operadores de torres subieron, ante la posibilidad de que la futura red terrestre de Starlink necesite utilizar sus emplazamientos.
🚫 Meta impide a TikTok anunciarse en Facebook e Instagram. La prohibición afecta a Estados Unidos y otros seis mercados e incluye anuncios de terceros que dirijan tráfico hacia TikTok. La decisión muestra cómo una plataforma puede utilizar el control de su inventario publicitario para dificultar la captación de usuarios de un rival.
🤖 Revolut quiere convertirse en una tecnológica global apoyándose en sus datos. La compañía desarrolla modelos propios entrenados con información transaccional y aspira a ampliar su actividad más allá de la banca. Sus entre 30 y 40 millones de operaciones diarias pueden convertirse en una ventaja competitiva, pero también elevan las exigencias de privacidad y control.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD1. 📚 Para aprender a pensar antes de poner a trabajar a la escoba. Si algo nos enseña la historia es que la inteligencia humana nunca ha sido garantía de buenas decisiones. Y estos cuatro libros ayudan a entender por qué.
La psicología del dinero de Morgan Housel. Porque tomar buenas decisiones no depende únicamente de lo que sabemos, sino de cómo nos comportamos. Especialmente cuando entran en juego el dinero, la ambición y el miedo.
La sociedad del riesgo mundial de Ulrich Beck. Una reflexión sobre cómo el progreso tecnológico e industrial genera riesgos que nuestras instituciones no siempre saben gestionar y cuyas consecuencias se distribuyen de manera desigual.
La arrogancia fatal de Friedrich A. Hayek. Una crítica a nuestra pretensión de poder diseñar y controlar sistemas extraordinariamente complejos. Una lectura provocadora para quienes creen que basta con tener más datos, mejores modelos y suficiente capacidad de cálculo para dominarlo todo.
PD2. Por si el aprendiz de brujo vuelve a perder el control. Estamos construyendo inteligencias artificiales capaces de hacer cosas extraordinarias. Pero seguimos sin tener demasiado claro cómo detenerlas cuando hacen exactamente lo que les hemos pedido. Quizá deberíamos empezar por algo sencillo, un simple botón rojo de parada de emergencia. A qué conectarlo es ya decisión tuya.