Arthur C. Clarke tenía razón
Diario de Innovación #398
En 1962, Arthur C. Clarke formuló tres leyes sobre el progreso científico.
Aunque ya hemos hablado de ellas en este boletín, creo que nunca está de más volver sobre las huellas de quienes mejor entendieron el devenir de la historia.
No eran tres leyes en sentido estricto. Eran más bien tres advertencias.
Tres formas de recordarnos que el futuro suele llegar antes de que estemos preparados para reconocerlo.
La primera decía:
Cuando un científico distinguido pero anciano afirma que algo es posible, casi con toda seguridad tiene razón. Cuando afirma que algo es imposible, probablemente se equivoca.
La segunda:
La única manera de descubrir los límites de lo posible es aventurarse un poco más allá de ellos, hacia lo imposible.
Y la tercera, la más famosa:
Toda tecnología suficientemente avanzada es indistinguible de la magia.
Durante décadas, estas frases pertenecieron al territorio de la ciencia ficción.
Hoy empiezan a parecer una descripción bastante precisa del presente.
La mejor prueba es el último artículo de Demis Hassabis, fundador de Google DeepMind, premio Nobel y una de las personas que más cerca se encuentran de la frontera actual de la inteligencia artificial.
Hassabis no escribe sobre una nueva aplicación.
Ni sobre un modelo algo más rápido.
Ni siquiera sobre la próxima generación de asistentes.
Escribe sobre la posibilidad de que la Inteligencia Artificial General esté a solo unos pocos años de distancia.
Y habla de ella como uno de los mayores puntos de inflexión de la historia humana.
La primera ley
La primera ley de Clarke no dice que los grandes científicos acierten siempre.
Dice algo más interesante.
Cuando alguien que ha dedicado su vida a ampliar los límites del conocimiento afirma que algo extraordinario es posible, conviene escuchar.
Hassabis lleva décadas trabajando en inteligencia artificial.
DeepMind logró resolver problemas que parecían fuera del alcance de las máquinas.
Desde dominar juegos complejos hasta predecir la estructura de cientos de millones de proteínas mediante AlphaFold.
Por eso importa cuando escribe:
La Inteligencia Artificial General probablemente está a solo unos pocos años de distancia.
Podrá equivocarse en el plazo.
Podrá llegar más tarde.
Podrá incluso adoptar una forma muy distinta a la que hoy imaginamos.
Pero la conversación ya ha cambiado.
La AGI ha dejado de ser una idea reservada a escritores, futuristas o visionarios.
Ahora forma parte del escenario de trabajo de algunos de los científicos más importantes del mundo.
Clarke probablemente diría que ahí empieza la primera ley.
No cuando algo imposible se construye.
Sino cuando alguien con suficiente conocimiento deja de considerarlo imposible.
La segunda ley
La segunda ley de Clarke afirma que solo podemos descubrir los límites de lo posible si nos adentramos un poco en lo imposible.
Eso es exactamente lo que está ocurriendo en los laboratorios de inteligencia artificial.
Los investigadores están construyendo sistemas cuyas capacidades empiezan a superar sus propias expectativas.
No conocen del todo el origen de muchos de sus comportamientos.
No pueden anticipar todas sus consecuencias.
Y, como reconoce Hassabis, el progreso en la frontera está avanzando más rápido que nuestra capacidad para comprenderlo.
Los avances en la frontera están superando nuestra comprensión de la tecnología.
Esta puede ser la frase más importante de todo el artículo.
Porque describe una situación incómoda.
Estamos construyendo máquinas cada vez más capaces mientras seguimos desarrollando las herramientas necesarias para entenderlas.
No sabemos con precisión dónde están sus límites.
Tampoco sabemos qué nuevas capacidades aparecerán cuando los modelos crezcan, se conecten con herramientas, actúen de forma autónoma o participen en su propia mejora.
La propuesta de Hassabis de crear un organismo especializado en evaluar los modelos de frontera nace de esa incertidumbre.
No se trata simplemente de regular la IA.
Se trata de construir instrumentos para explorar un territorio desconocido.
Como los telescopios permitieron observar galaxias lejanas.
Como los aceleradores de partículas permitieron estudiar componentes invisibles de la materia.
Como los laboratorios de bioseguridad permiten investigar organismos peligrosos sin liberarlos al exterior.
Necesitamos nuevas formas de medir sistemas que todavía no comprendemos por completo.
La frontera no es solo el lugar donde aparecen las innovaciones.
También es el lugar donde desaparecen las certezas.
La tercera ley
Pero es la tercera ley de Clarke la que aparece de forma más directa en el artículo de Hassabis.
Toda tecnología suficientemente avanzada es indistinguible de la magia.
Hassabis lo resume con una frase extraordinaria:
Básicamente, hemos encontrado una forma de hacer pensar a la arena.
La arena.
El silicio.
Uno de los materiales más comunes del planeta.
Transformado en circuitos capaces de escribir, programar, razonar, diseñar moléculas o conversar sobre filosofía.
Descrito paso a paso, el proceso es ingeniería.
Visto desde cierta distancia, parece magia.
Quizá esta sea una de las razones por las que nos cuesta tanto entender lo que está ocurriendo.
Seguimos utilizando el lenguaje de la informática para describir algo que empieza a afectar a la ciencia, la economía, el trabajo, la creatividad, la política y la propia idea de inteligencia.
Hablamos de parámetros.
De chips.
De centros de datos.
De benchmarks.
Pero Hassabis habla de una nueva era.
De abundancia.
De sistemas capaces de acelerar la ciencia.
De un mundo en el que los recursos podrían dejar de ser el principal límite del progreso humano.
El lenguaje técnico empieza a quedarse pequeño.
Y cuando el lenguaje técnico ya no basta, aparecen la filosofía, la política y la ciencia ficción.
Cuando la ingeniería recupera la filosofía
Durante mucho tiempo, la tecnología pudo presentarse como una disciplina esencialmente práctica.
Construir productos.
Optimizar procesos.
Resolver problemas.
Pero la inteligencia artificial está obligando a los ingenieros a formular preguntas que antes parecían reservadas a los filósofos.
¿Qué significa comprender?
¿Qué tareas deberían seguir siendo humanas?
¿Cómo distribuiremos la riqueza si la productividad se multiplica?
¿Qué dará sentido al trabajo si una parte importante puede automatizarse?
¿Qué valores queremos incorporar a sistemas que actuarán cada vez con mayor autonomía?
¿Cómo preservamos el control sobre máquinas que podrían superar nuestras capacidades en muchos ámbitos?
El artículo de Hassabis comienza hablando de ciencia y termina hablando de la condición humana.
Eso no es casualidad.
Cuando una tecnología se vuelve suficientemente poderosa, deja de ser solo una tecnología.
Se convierte en una fuerza social.
Y cuando una fuerza social puede transformar el trabajo, la economía, el conocimiento y el poder, su desarrollo ya no puede quedar exclusivamente en manos de quienes saben construirla.
Hassabis lo reconoce con claridad.
Incluso si resolvemos los riesgos técnicos de la AGI, seguirán existiendo preguntas económicas, políticas y filosóficas que no pueden responder los tecnólogos por sí solos.
La inteligencia artificial está obligando a la ingeniería a recuperar una conversación que nunca debió abandonar.
La conversación sobre para qué construimos.
Y sobre qué tipo de sociedad queremos construir con ello.
Food for thought
Arthur C. Clarke no adivinó qué modelos utilizaríamos.
No predijo algo como el modelo transformer.
Ni los centros de datos con cientos de miles de GPUs.
Ni las interfaces de conversación que hoy utilizamos.
Pero comprendió algo más importante.
Comprendió nuestra relación con el progreso.
Primero declaramos imposible una tecnología.
Después alguien se aventura hacia ella.
Y finalmente, cuando aparece, la confundimos con magia.
Eso es lo que vemos reflejado en el artículo de Hassabis.
Quizá Clarke no estaba escribiendo sobre el futuro.
Quizá estaba escribiendo sobre nosotros.
Sobre nuestra dificultad para reconocer una transformación mientras está ocurriendo. Sobre nuestra tendencia a interpretar como magia aquello que todavía no sabemos explicar.
Y sobre la obligación de cruzar los límites de lo posible sin olvidar que no todo lo que podemos construir debe desplegarse sin reflexión.
El futuro, como recuerda Hassabis, todavía no está escrito.
Pero hay algo que parece cada vez más claro.
Estamos empezando a escribirlo con máquinas que, hace muy poco, habríamos considerado imposibles.
🌍 El eco del mercado
☁️ La historia de la nube amenaza con repetirse en la inteligencia artificial. Cada vez más organizaciones acumulan modelos, asistentes y herramientas de IA sin una estrategia común, reproduciendo el mismo fenómeno de cloud sprawl que disparó costes y complejidad durante la adopción del cloud. La falta de gobernanza empieza a convertirse en uno de los principales riesgos de la IA empresarial.
🚀 OpenAI ya no compite por un modelo: compite por convertirse en el nuevo sistema operativo de la IA. Un análisis compara la posición actual de OpenAI con la de Netscape en los años noventa: una empresa pionera que debe decidir si limitarse a liderar una categoría o construir toda la plataforma sobre la que funcionará el siguiente ciclo tecnológico. La presión competitiva ya no llega solo de nuevos modelos, sino de quienes controlan infraestructura, distribución y ecosistemas.
🔬 AMI Labs desafía el discurso de la AGI y apuesta por resolver problemas reales. Mientras buena parte del sector sigue midiendo el progreso en función de la cercanía de la AGI, AMI Labs plantea una aproximación distinta: desarrollar sistemas capaces de aportar valor científico y empresarial sin necesidad de perseguir inteligencia general.
📒 NotebookLM deja de ser un experimento y pasa a formar parte del ecosistema Gemini. Google reorganiza su oferta de IA y NotebookLM pasa a integrarse bajo la marca Gemini. Más que un cambio de nombre, refleja la intención de convertir todas sus experiencias de IA en una plataforma coherente. Y es solo uno de los cambios en la oferta de Google,…
🔄 Google AI Mode empieza a interactuar directamente con aplicaciones. Google amplía AI Mode para ejecutar acciones sobre distintas aplicaciones y servicios, acercando la búsqueda tradicional al concepto de asistente operativo.
Buscar información deja de ser el objetivo final; la IA empieza a completar tareas.
🤖 DoorDash abre su infraestructura para que trabajen agentes de IA. DoorDash presenta una interfaz de línea de comandos (CLI) pensada para agentes autónomos, facilitando que estos puedan interactuar directamente con su plataforma y ejecutar tareas sin intervención humana.
Las API dejan paso a herramientas específicamente diseñadas para software que trabaja con software.
💰 La visión artificial vuelve a atraer grandes inversiones. Elorian, startup especializada en visión artificial alcanza una valoración cercana a los 300 millones de dólares, reflejando el creciente interés inversor por tecnologías capaces de interpretar el mundo físico.
⚠️ Gemini CLI demuestra que la IA también puede convertirse en un nuevo vector de ataque. Investigadores muestran cómo Gemini CLI puede ser manipulado para ejecutar acciones maliciosas mediante instrucciones ocultas. La vulnerabilidad recuerda que los agentes con capacidad para interactuar con sistemas necesitan nuevas capas de protección.
🏥 Una brecha en TRICARE expone la fragilidad del dato sanitario. Una filtración relacionada con TRICARE vuelve a poner sobre la mesa la enorme sensibilidad de la información médica. Millones de registros sanitarios siguen siendo uno de los objetivos más valiosos para el cibercrimen.
🏭 La inspección industrial inteligente sigue atrayendo grandes inversores. Sheryl Sandberg participa en una inversión en una compañía especializada en inspección mediante inteligencia artificial, reforzando una tendencia cada vez más visible: la IA empieza a generar más valor en fábricas y activos físicos que en simples aplicaciones conversacionales.
🛰️ Un escudo de plasma podría cambiar la defensa frente a las tormentas solares. Investigadores avanzan en el desarrollo de un sistema basado en plasma para proteger satélites e infraestructuras espaciales frente a tormentas solares.
A medida que aumenta la dependencia global del espacio, proteger la infraestructura orbital se convierte en una prioridad estratégica.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD. Si quieres entender de dónde vienen muchas de las ideas que hoy dominan el debate sobre la IA. Mucho antes de que habláramos de AGI, singularidad o inteligencia artificial, Arthur C. Clark ya reflexionaba sobre cómo reaccionan las personas cuando una tecnología cambia las reglas del juego.
Si solo tuviera que recomendar tres libros suyos serían:
📚 2001: Una odisea del espacio. Mucho más que la novela de la película de Kubrick. Una reflexión sobre inteligencia, evolución y el siguiente paso de la humanidad.
📚 El fin de la infancia. Probablemente su obra más filosófica. Una historia sobre qué ocurre cuando una inteligencia superior aparece y obliga a la humanidad a redefinirse.
📚 Cita con Rama. Una de las mejores novelas de exploración científica jamás escritas. Un ejercicio brillante sobre cómo enfrentarnos a lo completamente desconocido.
Leídas hoy, sorprenden porque muchas de sus preguntas ya no parecen ciencia ficción.
PD2. El mejor momento del año para dormir bajo las estrellas. Si hay una época perfecta para hacer un vivac, es precisamente esta.
Las noches son largas, el cielo suele estar despejado y pocas experiencias recuerdan mejor que seguimos formando parte de algo mucho más grande que nosotros.
Si estás pensando en escaparte este verano, estos son algunos de esos accesorios que terminan acompañándote durante muchos años:
🏕️ Una funda de vivac impermeable y transpirable, ligera y preparada para dormir directamente bajo las estrellas.
🎒 Una mochila ultraligera de trekking (30 o 40 litros) para rutas de uno o dos días.
🛏️ Una esterilla inflable compacta, que marca la diferencia entre descansar... o no pegar ojo.
💡 Una linterna frontal recargable, imprescindible cuando el refugio es simplemente la montaña.
☕ Un hornillo de gas ultraligero con cazo de titanio, porque el primer café viendo amanecer desde una cumbre sabe distinto.
🌌 Y, por supuesto, una guía de observación del cielo nocturno. Después de leer a Clarke, cuesta resistirse a levantar la vista y preguntarse qué habrá ahí arriba.