Hay una diferencia bastante grande entre pedirle a una IA que te resuma un correo y dejar que lo conteste por ti.
La diferencia aparece cuando alguien recibe la respuesta.
Hasta entonces estabas haciendo pruebas.
Ahora estás poniendo tu nombre.
Esta semana, en Código Abierto, Ignacio y yo hablamos de esa supuesta muerte de Internet y de los agentes que van a comprar, buscar y decidir por nosotros.
Y salieron tres asuntos que merecen más atención de lo que a priori podrían parecer.
El primero: delegar una tarea no significa delegar sus consecuencias.
Si tu agente compra algo que no querías, publica una barbaridad o manda información donde no debe, decir «ha sido la inteligencia artificial» te va a servir de poco.
Necesitas saber qué puede hacer, cuándo debe pedir permiso y cómo revisar lo que ha hecho.
El segundo: tu agente puede conocerte muy bien y trabajar para otro.
Porque una cosa es que lo llames «mi asistente» y otra quién controla el modelo, las recomendaciones y los intereses comerciales que hay detrás.
Ya nos pasó con las redes sociales, parecía que teníamos un espacio propio. Hasta que el algoritmo decidió quién podía vernos.
Y el tercero me parece el más incómodo: si dejas que una máquina elija siempre por ti, ¿cuánto tardarán sus elecciones en convertirse en tus gustos?
Primero te ahorra buscar, después te ahorra comparar. Al final, quizá también te ahorre preguntarte qué quieres.
Seguramente tú también llegaras a la misma conclusión, es que no hay una respuesta definitiva. Pero si podemos buscar salvaguardas, darle autonomía a un agente exige bastante más confianza que pedirle un resumen.
Por eso conviene empezar por algo pequeño, revisar el resultado y ampliar permisos cuando haya motivos.
La próxima vez que una herramienta te proponga «hacerlo todo por ti», mira qué incluye ese «todo». Especialmente si lleva tu firma.
🌍 El Eco del Mercado
💰 La infraestructura de IA necesitará otra oleada de capital. Blackstone, Goldman Sachs y JPMorgan prevén que las tecnológicas deberán captar más deuda y capital para financiar centros de datos, chips y energía. La demanda sigue superando a la oferta, pero no todas las inversiones conseguirán los ingresos necesarios para justificar su coste.
📉 Las grandes apuestas por la IA amplifican la fragilidad de los mercados. Los hiperescaladores estadounidenses podrían invertir 1,2 billones de dólares el próximo año, una cifra comparable al gasto de todas las empresas europeas. La deuda, el encarecimiento de la energía y las dudas sobre el retorno convierten una posible desaceleración de la IA en un riesgo económico más amplio.
🌐 Nvidia pide a sus socios asiáticos que reduzcan su exposición a China. Según Financial Times, la compañía ha instado a operadores de centros de datos de Singapur, Malasia y Japón a limitar el negocio destinado a clientes chinos, una información no verificada independientemente por Reuters. Los controles estadounidenses empiezan así a extenderse desde la venta directa de chips hasta su utilización indirecta mediante la nube.
🇪🇺 Lidl y Bull preparan una nube europea para la inteligencia artificial. Schwarz Digits, el brazo tecnológico del propietario de Lidl, y el fabricante francés Bull diseñarán servidores y servicios operados bajo jurisdicción europea mediante STACKIT. El acuerdo todavía no concreta inversión, capacidad ni calendario, pero intenta convertir la soberanía tecnológica en un producto empresarial.
⚡ La red eléctrica estadounidense no consigue seguir el ritmo de la IA. Estados Unidos construyó menos de 900 millas de líneas de transmisión en 2024, frente a casi 4.000 en 2013, mientras permisos y litigios pueden retrasar los proyectos durante una década. La expansión de los centros de datos amenaza con elevar los costes eléctricos antes de que la red pueda absorber su demanda.
🧊 Un ciberataque contra los frigoríficos de un supermercado anticipa una amenaza mayor. Un ataque elevó la temperatura de sistemas de refrigeración en supermercados europeos y obligó a desechar alimentos, aunque no consta que utilizara IA avanzada. El NCSC británico advierte de que los modelos permitirán encontrar y explotar vulnerabilidades antiguas a escala, aumentando el riesgo para infraestructuras críticas.
🛒 Zalando prepara un agente capaz de comprar también en tiendas rivales. La plataforma prevé incorporar en 2027 un proceso de compra asistido por IA que permitirá adquirir productos de otros comercios sin abandonar su aplicación. La batalla del comercio electrónico se desplaza así desde el catálogo hacia el control de la interfaz que decide dónde termina cada compra.
🚕 Baidu entrena sus robotaxis recorriendo carreteras virtuales. Apollo World genera entornos con datos de cámaras y lidar y puede simular hasta 100.000 kilómetros de conducción al día, según la compañía. La simulación reduce el coste de encontrar situaciones peligrosas, pero no elimina la necesidad de demostrar en carreteras reales que el vehículo sabe resolverlas.
⏳ ChatGPT y Codex compartirán límites de uso a partir de diciembre. OpenAI unificará en una misma asignación el consumo de ChatGPT y Codex para los planes Plus, Pro y Business, calculándolo según el modelo, los tokens y la complejidad de cada tarea. Conversar, investigar y programar pasarán a competir por una misma bolsa de uso incluido.
🍎 Apple estudia cómo cobrar por los agentes de inteligencia artificial de terceros. Su director financiero ha señalado oportunidades de ingresos en aplicaciones y alianzas de IA, aunque no ha anunciado un producto ni un modelo comercial concreto. Distribuir agentes mediante la App Store podría abrir una nueva fuente de servicios justo cuando la regulación limita las comisiones tradicionales.
🧠 Trajectory capta 45 millones para que los expertos entrenen modelos sin programar. La startup permite que abogados, financieros y otros especialistas mejoren modelos mediante ejemplos y correcciones sin depender de equipos de investigación. Automatizar el entrenamiento posterior desplaza parte del valor desde la ingeniería hacia el conocimiento profesional, aunque también puede introducir errores difíciles de detectar.
🔮 42AI utiliza datos empresariales para predecir el comportamiento humano. La empresa emerge con 62,5 millones de dólares y un sistema que analiza transacciones y llamadas para construir perfiles de comportamiento utilizados ya por diez corredurías. Aunque prescinda de identificadores directos, anticipar decisiones de casi 30 millones de personas plantea riesgos de privacidad, manipulación y discriminación.
🤖 Los agentes soberanos dibujan el escenario extremo de la autonomía artificial. Un informe del CNAS analiza la posibilidad de agentes capaces de obtener dinero, alquilar computación, copiarse y resistirse al apagado, sin aportar pruebas de que exista actualmente un sistema con todas esas capacidades. El riesgo continúa siendo especulativo, pero obliga a vigilar qué ocurre cuando planificación prolongada, acceso financiero y herramientas cibernéticas convergen en un mismo agente.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD1. Antes de darle a una máquina permiso para decidir por ti, tres lecturas que vienen al caso:
Clics contra la humanidad, de James Williams. Para entender lo que nos jugamos cuando la tecnología compite por dirigir nuestra atención.
La era del capitalismo de la vigilancia, de Shoshana Zuboff. Para mirar con otros ojos a esas empresas que nos conocen tanto y preguntarnos para qué quieren conocernos.
Tecnofeudalismo, de Cédric Durand. Para profundizar en el poder y la dependencia que acumulan las grandes plataformas digitales.
Tres formas de hacerse la misma pregunta: cuando ganas comodidad, ¿quién gana poder?
PD2. El flautista de Hamelín tenía una flauta. Tú puedes tener este Marshall Acton. Pones música y esperas a que tus agentes de IA te sigan obedientemente. Si no funciona, al menos tendrás banda sonora mientras revisas qué demonios han hecho.