En 1975, alrededor de 150 científicos se reunieron en un pequeño centro de conferencias de la costa de California.
El lugar se llamaba Asilomar.
Los investigadores estaban abriendo una puerta extraordinaria: la posibilidad de manipular ADN y combinar material genético de organismos diferentes.
También empezaban a sospechar que quizá no entendían del todo qué podía haber detrás de aquella puerta.
Meses antes, algunos de los principales científicos del campo habían pedido voluntariamente detener determinados experimentos.
No porque pensaran que la ingeniería genética fuese mala.
Precisamente porque creían que podía ser demasiado poderosa como para avanzar sin entender antes sus consecuencias.
La idea, simplificada, era bastante razonable: Podemos hacer esto. Pero quizá deberíamos limitarlo hasta saber qué estamos haciendo.
Cincuenta años después estamos volviendo a escuchar algo parecido.
Julián me pasó hace unos días una noticia sobre Dario Amodei, CEO de Anthropic, reclamando que la industria reduzca el ritmo al que aumenta las capacidades de sus modelos.
Y lo interesante no es decidir si Amodei tiene razón.
Es preguntarse por qué quienes están pisando el acelerador empiezan ahora a pedir un freno.
Porque hay motivos para preocuparse.
Estamos pasando de una IA que responde preguntas a otra que utiliza herramientas, escribe código, toma decisiones y actúa con una autonomía cada vez mayor.
Además, hemos empezado a utilizar IA para construir mejor IA.
El posible cuello de botella empieza así a desplazarse.
Durante años estuvo en los datos, el compute o los algoritmos.
Ahora puede estar apareciendo otro mucho más incómodo: nuestra capacidad para supervisar sistemas que progresan más rápido que los mecanismos diseñados para controlarlos.
Pero hay otra lectura.
OpenAI, Anthropic y el resto de grandes laboratorios no compiten únicamente por construir la mejor inteligencia artificial.
También compiten por ser considerados los actores suficientemente responsables como para gestionarla.
Y eso introduce una paradoja fascinante.
Las mismas empresas que construyen una tecnología que describen como potencialmente peligrosa se presentan como quienes mejor pueden protegernos de ella.
Puede ser verdad.
Y puede ser un magnífico posicionamiento estratégico.
Porque, si aceptamos que desarrollar modelos avanzados exige evaluadores independientes, enormes inversiones en seguridad, reporting, cumplimiento regulatorio y coordinación con gobiernos…
¿cuántas empresas pueden permitirse seguir jugando?
Muy pocas.
La seguridad podría convertirse así en una de las mayores barreras de entrada de la industria.
Y pedir regulación podría ser, simultáneamente, un acto responsable y una extraordinaria ventaja competitiva.
Hay además un problema todavía más difícil.
Aunque todos crean que deberían frenar, ninguno puede hacerlo solo.
Si Anthropic desacelera mientras OpenAI, Google, Meta o los laboratorios chinos continúan avanzando, probablemente pierda la carrera.
Es teoría de juegos en estado puro.
Por eso el freno solo funciona si alguien obliga a todos a levantar el pie al mismo tiempo.
Y quizá por eso la próxima gran batalla de la IA no sea únicamente por los modelos, los chips o los datos.
Puede ser por algo mucho más valioso: la legitimidad para seguir construyéndola.
Asilomar trataba de decidir cómo podía continuar una ciencia.
Esta vez quizá estemos decidiendo también quién tendrá permiso para continuarla.
Así que cuando quien está pisando el acelerador te pide que construyas un freno, conviene hacerse dos preguntas.
Qué ha visto en la carretera que nosotros todavía no vemos.
Y quién quiere quedarse con el pedal.
🌍 El Eco del Mercado
🧫 Anthropic detecta intentos de utilizar Claude para armas y ciberespionaje. La compañía documenta posibles usos de Claude en investigación biológica peligrosa, trabajos sobre misiles y una presunta campaña de ciberespionaje contra Ucrania. Son conclusiones de Anthropic sobre intentos detectados, no pruebas de que se fabricaran armas.
🛑 Altman plantea la posibilidad de ralentizar el desarrollo de OpenAI. Según Bloomberg, comunicó a los empleados que la empresa estaría abierta a reducir el ritmo de desarrollo de sus sistemas. No ha anunciado una moratoria ni cambios concretos en sus lanzamientos.
🏦 OpenAI lanza un ChatGPT especializado en finanzas. Desarrollado con Morgan Stanley y Evercore, integra datos de proveedores como LSEG y PitchBook para apoyar la investigación, los modelos financieros y la elaboración de materiales para clientes. Incluye controles de acceso y registros para auditoría.
⚖️ ChatGPT inventa testimonios en una apelación por asesinato. El Tribunal Supremo de Nuevo México sanciona a un abogado que presentó un escrito con testigos y declaraciones fabricados por la herramienta. Había utilizado ChatGPT para resumir el juicio sin comprobar suficientemente el resultado.
📚 Una IA jurídica acaba ante los tribunales por sus datos de entrenamiento. La Association of Corporate Counsel demanda a The L Suite por el presunto uso de sus informes y marcas para entrenar y promocionar Lloyd, un asistente para asesores jurídicos. Las acusaciones están pendientes de resolución.
☁️ Oracle eleva a 664.000 millones su cartera de contratos pendientes. La compañía suma más de 30.000 millones de dólares en nuevos contratos cloud de IA y aumenta un 30 % sus ingresos trimestrales. Los anticipos y equipos aportados por clientes alivian el coste de la expansión, aunque su flujo de caja libre sigue siendo negativo.
⚡ Microsoft proyecta triplicar su capacidad de centros de datos. Según Bloomberg, la compañía aspira a alcanzar unos 38 GW de capacidad global en 2032. Es un plan atribuido a fuentes, no infraestructura ya construida: necesitará energía, permisos y demanda durante años.
🛡️ Emiratos estudia dispersar y fortificar su gran campus de IA. Tras los ataques iraníes contra infraestructuras tecnológicas de la región, el país reconsidera concentrar su proyecto de 5 GW en un único emplazamiento. Examina instalaciones distribuidas y medidas de protección física; el rediseño aún no es definitivo.
💶 El Pentágono negocia un préstamo de 5.000 millones para Fluidstack. Según The Wall Street Journal, los fondos reforzarían la cadena estadounidense de componentes para centros de datos, sin financiar directamente una nueva instalación. Las conversaciones no equivalen a un préstamo aprobado.
🧠 Positron multiplica por más de cuatro su valoración en siete meses. La startup de chips para inferencia capta 875 millones de dólares y alcanza una valoración de 5.000 millones. La ronda refleja el interés por alternativas a Nvidia, aunque la valoración no demuestra todavía su capacidad de producción a escala.
🇨🇳 Enflame casi triplica su precio en su estreno en bolsa. El fabricante chino de aceleradores cierra su primera sesión en Shanghái con una subida del 179 %, tras captar unos 912 millones de dólares en su OPV. Sigue registrando pérdidas y Tencent concentra gran parte de sus ingresos.
💴 Z.AI busca 5.000 millones de dólares en acciones y bonos. La antigua Zhipu AI lanza en Hong Kong una colocación de acciones de unos 2.000 millones y una venta de bonos convertibles de unos 3.000 millones. Prevé destinar los recursos a investigación, computación e infraestructura; las operaciones aún deben cerrarse.
🎨 Adobe crece con la IA, pero mantiene las dudas sobre su futuro. Sus ingresos trimestrales superan las previsiones y los ingresos recurrentes anualizados de productos centrados en IA se duplican. La previsión para el siguiente trimestre queda ligeramente por debajo de lo esperado, en plena competencia con nuevas herramientas de diseño.
👶 California limita las funciones adictivas para menores y los juguetes con chatbots. Gavin Newsom firma un paquete de trece leyes que incluye restricciones al desplazamiento infinito y la reproducción automática para menores de 16 años, además de una prohibición temporal de juguetes con chatbots de compañía. Su aplicación reabre el debate sobre cómo verificar la edad sin recabar más datos personales.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD. Si quieres seguir tirando del hilo de hoy, te dejo tres lecturas con perspectivas bastante distintas.
As Gods, de Matthew Cobb, cuenta cómo los pioneros de la ingeniería genética empezaron a preocuparse por las consecuencias de lo que estaban construyendo y cómo surgió aquel momento de autorregulación que culminó en Asilomar.
Our Final Invention, de James Barrat, se sitúa justo en el extremo contrario: qué podría ocurrir si desarrollamos una inteligencia superior a la humana antes de saber cómo controlarla.
Y Rebooting AI, de Gary Marcus y Ernest Davis, aporta el contrapunto necesario. Menos singularidad y más escepticismo: quizá el problema no sea que la IA vaya demasiado rápido, sino que estemos exagerando lo cerca que está de determinadas capacidades.
Tres libros, tres miradas y una misma pregunta de fondo: ¿debemos preocuparnos más por lo que la IA llegará a ser o por las decisiones que estamos tomando mientras intentamos llegar hasta allí?
PD2. Esto no tiene absolutamente nada que ver con la edición de hoy, pero me ha parecido demasiado chulo como para no compartirlo. Es el Divoom Timebox EVO: una pequeña pantalla de píxeles que además funciona como altavoz Bluetooth y que puedes personalizar desde el móvil con animaciones, dibujos, relojes o auténticas marcianadas pixel art.
Probablemente sea uno de esos cacharros que no necesitas.
Precisamente por eso me gusta.
Ideal para una mesa de trabajo, una estantería o para regalar a alguien que todavía recuerda con cariño cuando 8 bits nos parecían tecnología punta.
Un pequeño monumento a una época en la que necesitábamos muchos menos píxeles para divertirnos.