Hay algo que me preocupa más que la singularidad tecnológica.
Y no es que las máquinas lleguen a ser más inteligentes que nosotros.
Es que dejemos de ser capaces de darnos cuenta.
Llevamos décadas imaginando la singularidad como ese momento en el que una inteligencia artificial supera a la humana y comienza a mejorar por sí misma, escapando progresivamente a nuestra comprensión.
Una especie de punto de no retorno.
Aunque como habla en el artículo de ayer, de momento estamos a salvo.
Porque hay otra frontera mucho más cercana.
El momento en el que dejamos de tener criterio suficiente para cuestionar las decisiones de las máquinas.
Y para cruzarla no necesitamos una superinteligencia.
Basta con acostumbrarnos a que alguien piense por nosotros.
Durante siglos, el conocimiento ha sido un recurso escaso.
Saber escribir código, interpretar una radiografía, elaborar un informe financiero o construir un argumento jurídico requería años de aprendizaje.
Y esa escasez tenía un precio.
Ahora una IA puede producir en segundos un trabajo que antes nos llevaba días.
Informes. Diagnósticos preliminares. Análisis. Recomendaciones. Miles de líneas de código.
La producción intelectual se está abaratando a una velocidad extraordinaria.
Pero hay un problema.
Cuando producir respuestas es prácticamente gratis, juzgarlas se vuelve carísimo.
Porque alguien tiene que determinar si son correctas.
Si tienen sentido.
Si están omitiendo algo importante.
O si simplemente son una estupidez extraordinariamente bien redactada.
Un artículo publicado por el World Economic Forum recoge un estudio especialmente revelador sobre inteligencia artificial aplicada a radiología.
Los investigadores analizaron más de 32.000 exploraciones médicas.
En aproximadamente el 98 % de los casos, los profesionales no discreparon de la evaluación realizada por la IA.
Hasta aquí, nada especialmente sorprendente.
Lo interesante ocurrió en el pequeño porcentaje restante.
Cuando los radiólogos discreparon del sistema, su criterio resultó correcto en aproximadamente el 90 % de esas discrepancias.
No significa que los humanos acertaran el 90 % de todos los diagnósticos. Significa que, cuando detectaron motivos para cuestionar a la máquina, su experiencia resultó extraordinariamente valiosa.
Pero pensemos por un momento en lo que esto significa.
La máquina puede encargarse de una enorme cantidad de trabajo.
Pero el valor diferencial del experto aparece precisamente cuando sabe decir: «Espera. Aquí hay algo que no encaja».
Y eso es lo que necesitamos, experto con la capacidad de identificar aquellas situaciones en las que la IA se equivoca.
¿De qué sirve tener un humano supervisando una IA si ese humano ya no sabe cuándo debe llevarle la contraria?
Existe un concepto que me parece especialmente importante para entender lo que está ocurriendo.
Soberanía cognitiva.
La capacidad de pensar de forma independiente, cuestionar conclusiones y tomar decisiones sin depender completamente de un sistema externo.
No significa renunciar a la inteligencia artificial. Ni competir con ella.
Sería tan absurdo como renunciar a una calculadora para demostrar que sabemos multiplicar.
La cuestión es otra.
¿Seguimos comprendiendo lo suficiente como para saber cuándo la calculadora está resolviendo el problema equivocado?
Porque una cosa es delegar la ejecución. Y otra muy distinta es delegar el criterio.
Podemos utilizar la IA para investigar, programar, analizar datos o explorar hipótesis.
De hecho, deberíamos hacerlo.
Pero necesitamos preservar la capacidad de formular nuestras propias preguntas, identificar contradicciones y decidir qué conclusiones merecen nuestra confianza.
El peligro no está únicamente en que las máquinas se equivoquen.
Está en que nosotros perdamos la capacidad de reconocer sus errores.
El dilema aparece cuando la tecnología mejora y nuestra productividad aumenta.
Y, sin embargo, nuestra autonomía intelectual puede estar disminuyendo.
Podemos ser cada vez más productivos y, al mismo tiempo, menos soberanos.
En el mundo de la inteligencia artificial hablamos constantemente del human in the loop.
Una persona que supervisa, valida o autoriza las decisiones de un sistema automatizado.
Suena tranquilizador.
Parece que, mientras exista una persona involucrada, seguimos teniendo el control.
Pero supervisar no es lo mismo que comprender.
Y autorizar no es lo mismo que decidir.
Si el humano no dispone del conocimiento necesario para cuestionar una recomendación, su participación puede convertirse en una formalidad.
Para, en el peor de los casos, alguien a quien atribuir la responsabilidad cuando las cosas salen mal.
Por eso la soberanía cognitiva debería convertirse en una prioridad para empresas, instituciones y profesionales.
No se trata únicamente de garantizar que una persona participe en determinadas decisiones.
Se trata de garantizar que esa persona conserva el conocimiento, la independencia y la autoridad necesarios para llevarle la contraria a la máquina.
Porque un humano que no puede cuestionar una decisión no está supervisando.
Está obedeciendo.
Food for thought
Nos preocupa que algún día la inteligencia artificial alcance la singularidad.
Pero quizá no haga falta esperar tanto.
Quizá baste con que dejemos de cuestionarla.
Porque el día que el último humano capaz de llevarle la contraria deje de hacerlo, seguiremos teniendo humanos en el circuito.
Lo que habremos perdido es el control.
Y lo más inquietante es que puede que ni siquiera nos demos cuenta.
¿Habremos atravesado ya ese umbral?
🌍 El Eco del Mercado
☁️ Un ataque con drones alcanza un centro de datos de Yandex. El ataque provocó un incendio y paralizó el complejo de Sasovo, que alberga decenas de miles de servidores y dos superordenadores utilizados por YandexGPT. Es el primer gran centro de datos ruso alcanzado durante la guerra y confirma que la infraestructura de IA también se ha convertido en objetivo militar.
🇪🇸 España prepara reglas más estrictas para los centros de datos. El Gobierno quiere establecer nuevas condiciones sobre consumo eléctrico y agua antes de las elecciones del 29 de noviembre. Amazon y Microsoft mantienen sus proyectos en Aragón, pero reclaman seguridad jurídica para inversiones que necesitan décadas para amortizarse.
⚡ Los centros de datos ofrecen reducir su consumo durante los picos eléctricos. Operadores y eléctricas ensayan sistemas que permitirían recortar temporalmente entre un 10 % y un 30 % de la demanda. OpenAI ha aceptado desconectar hasta un gigavatio de su futura instalación de Georgia cuando la red lo necesite.
🏦 La deuda de la IA empieza a competir con la de los Estados. SpaceX busca unos 40.000 millones de dólares para comprar chips de Nvidia, mientras Broadcom prepara financiación por 50.000 millones y Oracle negocia otra operación. La carrera por ampliar la computación ya está transformando también los mercados mundiales de deuda.
🧩 TSMC encarga a GlobalFoundries empaquetado avanzado por 2.000 millones. GlobalFoundries fabricará en Nueva York interposadores de silicio que conectan los procesadores con la memoria en los aceleradores de IA. La producción comenzará a aumentar en 2028 y aliviará uno de los principales cuellos de botella de la industria.
🔗 Upscale AI quiere conectar chips de distintos fabricantes. La startup respaldada por Nvidia lanza Token Fabric, una plataforma de hardware y software para integrar aceleradores de varios proveedores dentro del mismo centro de datos. La competencia entre chips dependerá también de que puedan compartir una red sin perder rendimiento.
🔬 ASML y Zeiss empiezan a diseñar la litografía posterior a High NA. Sus ingenieros describen Hyper NA, una posible máquina capaz de imprimir elementos un tercio menores que los equipos actuales. ASML ha iniciado el desarrollo, aunque todavía no ha decidido fabricarla y su llegada podría tardar una década.
🧠 Anthropic abarata Claude para las tareas de gran volumen. Claude Haiku 5.5 está orientado a clasificación, extracción de información, atención al cliente y aplicaciones de voz. Anthropic asegura que cuesta un 75 % menos que Haiku 4.5, una señal de que la siguiente batalla comercial será ejecutar millones de tareas con eficiencia.
🦋 Manus capta más de 500 millones tras separarse de Meta. Butterfly Effect vuelve a operar de forma independiente después de que Pekín obligara a deshacer su venta a Meta por más de 2.000 millones de dólares. Boyu e IDG lideran una ronda que mantiene al agente chino en la carrera global.
📱 Amazon abandona Fire OS para vender tabletas más caras. Las nuevas Alexa Tablet utilizan Android, integran Alexa+ y cuestan entre 230 y 550 dólares. Amazon confía en que su asistente generativo justifique el salto al segmento prémium, aunque utilizarlo exigirá una suscripción a Prime o Alexa+.
🌍 La IA eleva la previsión del comercio mundial. La OMC mejora del 1,9 % al 3,9 % su estimación de crecimiento del comercio de mercancías en 2026. Los productos relacionados con la IA aumentaron sus intercambios un 67 % y aportaron casi la mitad del crecimiento mundial durante el primer semestre.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD1. Una biblioteca para aprender a llevarle la contraria a la IA La inteligencia artificial puede pensar contigo. El problema empieza cuando dejas que piense por ti. Y como la soberanía cognitiva no viene instalada de fábrica, aquí van cuatro libros para ejercitarla:
The Glass Cage (Atrapados), de Nicholas Carr. Sobre cómo la automatización nos hace más eficientes mientras puede atrofiar las habilidades que necesitamos para supervisarla. Probablemente el más conectado con la edición de hoy.
Pensar rápido, pensar despacio, de Daniel Kahneman. Para entender por qué nuestro cerebro acepta respuestas aparentemente convincentes sin cuestionarlas. Incluso cuando son incorrectas.
El mundo y sus demonios, de Carl Sagan. Un manual de defensa intelectual contra las afirmaciones sin pruebas, los sesgos y las falsas certezas. Publicado mucho antes de ChatGPT. Más necesario que nunca.
En defensa de la conversación (Reclaiming Conversation), de Sherry Turkle. Sobre cómo nuestra relación con la tecnología transforma la conversación, la empatía y nuestra capacidad de reflexión.
Porque el mayor riesgo de delegar tu inteligencia no es que la máquina se vuelva más lista. Es que tú dejes de entrenar la tuya.
PD2. Aquí te dejo el primer sistema de supervisión humana que recuerdo. Mucho antes de ChatGPT, nuestras madres ya tenían su propio sistema de inteligencia artificial. Se llamaba zapatilla de estar por casa. No necesitaba algoritmos, ni GPUs, ni entrenamiento. Y tenía una precisión del 100 % a la hora de recordarte quién mandaba.