En 1974 ocurrió algo que hoy parece casi imposible.
Un grupo de científicos pidió a sus colegas que dejaran de hacer determinados experimentos.
No porque hubieran fracasado.
Porque empezaban a funcionar demasiado bien.
Los investigadores habían aprendido a combinar fragmentos de ADN procedentes de organismos diferentes.
Aquello podía abrir la puerta a nuevos medicamentos, nuevas terapias y una nueva industria.
También podía producir consecuencias que nadie sabía calcular.
Así que hicieron algo extraño.
Pisaron el freno.
Imagínate a un grupo de empresas tecnológicas anunciando hoy que van a suspender voluntariamente sus proyectos más prometedores hasta entender mejor sus riesgos.
Imagínate la reacción de los inversores.
De los competidores.
Aun así, parece que podemos encontrar muchas similitudes entre el momento actual, marcado por la IA, y lo ocurrido en 1974 en Asilomar.
Eso fue, con todos sus matices, lo que ocurrió.
En febrero de 1975, alrededor de 150 científicos, médicos, abogados y periodistas se reunieron en Asilomar, una zona costera de California.
No fueron allí para decidir si la ingeniería genética era buena o mala.
Fueron para responder una pregunta mucho más útil:
¿Bajo qué condiciones podemos seguir adelante?
La respuesta no fue prohibirlo todo.
Tampoco confiar en que todo saldría bien.
Propusieron clasificar los experimentos según su riesgo, aplicar diferentes niveles de contención y posponer aquellos para los que todavía no existían suficientes garantías.
La pausa no acabó con la investigación.
Le puso condiciones.
Las recomendaciones de Asilomar contribuyeron a las directrices que los Institutos Nacionales de Salud de Estados Unidos publicaron en 1976 para investigar con ADN recombinante.
Y aquí está la paradoja.
Detenerse no frenó aquella tecnología.
Ayudó a que pudiera avanzar.
No eliminó la incertidumbre.
La convirtió en procedimientos, responsabilidades y barreras físicas.
«Debemos innovar responsablemente».
En vez de prohibir, el enfoque pasó a centrarse en qué experimentos podían llevarse a cabo y bajo qué condiciones.
Porque una organización no demuestra sus principios diciendo lo que considera importante.
Los demuestra definiendo qué no está dispuesta a hacer.
Más de cuarenta años después, en 2017, el nombre de Asilomar volvió a aparecer.
Esta vez asociado a la inteligencia artificial.
De aquella conferencia salieron 23 principios respaldados individualmente por al menos el 90 % de los participantes.
Hablaban de crear inteligencia beneficiosa.
De seguridad.
De transparencia cuando un sistema provoca daños.
De responsabilidad.
De control humano.
Y de evitar una carrera en la que la competencia obligase a recortar las medidas de seguridad.
Eran principios razonables.
Quizás demasiado razonables.
Porque resulta fácil estar de acuerdo con que una inteligencia artificial debe ser segura.
Lo difícil es decidir qué lanzamiento vas a retrasar si todavía no puedes demostrarlo.
Es fácil defender el control humano.
Lo difícil es impedir que un sistema ejecute una acción rentable porque ninguna persona ha podido revisarla.
Es fácil hablar de responsabilidad.
Lo difícil es poner el nombre de alguien junto a la frase: «Si esto sale mal, responde esta persona».
Los científicos de 1975 tampoco construyeron un modelo perfecto.
La conversación estuvo dominada por expertos y convirtió problemas sociales muy amplios en cuestiones principalmente técnicas. La sociedad afectada por aquella tecnología tuvo una participación limitada.
Por tanto, la lección no es que los científicos —o las empresas— deban vigilarse únicamente a sí mismos.
La lección es otra.
Ante una tecnología nueva, la incertidumbre no obliga a elegir entre prohibirla y desplegarla a ciegas.
Existe una tercera opción, definir las condiciones que permiten avanzar.
Eso es lo que falta en muchas estrategias de inteligencia artificial.
Tenemos declaraciones éticas.
Comités.
Presentaciones.
Documentos con palabras como confianza, transparencia y responsabilidad.
Pero cuando llega el momento de desplegar un agente, pocas organizaciones han respondido con precisión:
¿Qué acciones puede ejecutar?
¿Cuáles necesitan autorización?
¿Qué datos no puede consultar?
¿Podemos reconstruir lo que ha hecho?
¿Quién puede detenerlo?
¿Quién responde cuando se equivoca?
Y, sobre todo, ¿qué tendría que suceder para que decidiéramos no ponerlo en producción?
Si no existe una respuesta, no hay un principio.
Hay una intención.
Asilomar nos recuerda que innovar responsablemente no es avanzar despacio.
Es construir los frenos que permiten avanzar deprisa sin depender de la suerte.
En 1975, detenerse fue una forma de proteger el futuro de una tecnología.
Quizás la pregunta para la inteligencia artificial no sea cuánto podemos acelerar.
Quizás sea si hemos decidido ya bajo qué condiciones merece la pena hacerlo.
¿Qué condición debería cumplirse antes de permitir que una inteligencia artificial actúe por ti?
🌍 El Eco del Mercado
🧬 Anthropic instala su propio laboratorio de biología. La compañía ha creado un laboratorio en el área de San Francisco para realizar experimentos físicos y explorar cómo Claude puede dirigir equipos robóticos. Anthropic asegura que mantendrá supervisión humana y que no realizará ensayos clínicos.
🔁 Claude ya dirige una cuarta parte del trabajo que construye sus sucesores. Anthropic calcula que Claude lideró el 26 % de su actividad interna de investigación y desarrollo en agosto, frente al 1 % de marzo. La compañía mantenía unos 30.000 agentes trabajando simultáneamente, aunque sostiene que ninguno operaba con autonomía completa.
🇪🇺 La IA europea interpreta la ralentización como una barrera de entrada. Mistral y otros representantes europeos rechazan la propuesta de Anthropic de reducir coordinadamente el ritmo de desarrollo. Temen que las compañías estadounidenses utilicen la seguridad y la regulación para consolidar su ventaja frente a competidores que todavía intentan alcanzarlas.
👑 Carlos III reúne a laboratorios, Gobierno e inteligencia para hablar de los riesgos de la IA. El rey británico ha celebrado una cumbre privada con representantes de OpenAI, Anthropic y Nvidia, el ministro británico de IA y el responsable del servicio exterior de inteligencia. La reunión no produjo compromisos públicos, pero confirma que la IA avanzada ya se trata como una cuestión de seguridad nacional.
🕵️ Estados Unidos retira de una web oficial un buscador basado en la IA china Qwen. El Registro Federal utilizó temporalmente el modelo de Alibaba para buscar propuestas regulatorias y retiró la función después de que su presencia se difundiera en redes sociales. El episodio resulta especialmente incómodo después de que el FBI acusara a Alibaba de copiar tecnología de Anthropic.
🔭 Mantic capta 25 millones después de superar a los pronosticadores humanos. La startup londinense venció a los participantes humanos de una competición de Metaculus al estimar acontecimientos políticos, económicos y culturales. Radical Ventures lidera una ronda semilla en la que también participan M12, Thinking Machines Lab y Balderton Capital.
🤖 Vigilar a miles de agentes exige recurrir a otros agentes. Laboratorios y startups están utilizando IA para revisar las acciones de otros sistemas, detectar comportamientos peligrosos y escalar los casos dudosos a supervisores humanos. La investigación del incidente de Hugging Face necesitó estas herramientas para procesar la actividad de casi 12.000 agentes.
🇺🇸 Solidigm estudia fabricar memoria NAND en Estados Unidos. La filial de SK Hynix valora construir una planta de memoria flash, con el norte del estado de Nueva York como principal candidato. El proyecto reduciría su dependencia de una única fábrica en China, pero todavía no existe una decisión final.
🧠 Spirit AI sitúa en 2027 el posible “momento ChatGPT” de los robots. La startup china espera que sus modelos permitan a los humanoides ejecutar secuencias de acciones a partir de instrucciones verbales. Ya mantiene decenas de robots en fábricas de CATL y JD.com, aunque calcula que el uso doméstico general tardará al menos ocho años.
🔦 RoboTechnik prepara una OPV de 800 millones para financiar fotónica y automatización. El fabricante chino planea iniciar el 21 de septiembre su segunda cotización, esta vez en Hong Kong. Produce equipos para células fotovoltaicas y dispositivos fotónicos utilizados en las conexiones de los centros de datos, aunque el tamaño y el calendario de la operación todavía pueden cambiar.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD: Cuando una tecnología cambia las reglas hay tres preguntas que conviene hacerse.
El código de la vida, Walter Isaacson cuenta cómo Jennifer Doudna y otros científicos desarrollaron CRISPR, una herramienta capaz de reescribir el ADN.
Poder y progreso, Daron Acemoglu y Simon Johnson explican que ninguna tecnología conduce automáticamente a un futuro mejor. La dirección depende de los incentivos, las instituciones y las decisiones que tomemos.
Contra la perfección, Michael Sandel explora los límites morales de la ingeniería genética y nos recuerda que aumentar nuestra capacidad no aumenta necesariamente nuestra sabiduría.
PD.2: La seguridad del móvil no siempre empieza con una contraseña. A veces empieza por evitar que se te escape de la mano. El PopSockets PopGrip Basic añade una base y un agarre extensible a la parte trasera del teléfono. Especialmente útil para móviles grandes, hacer fotos con una mano o consultar la pantalla mientras vas de un sitio a otro.