Imagina que mañana tienes un agente de IA gestionando tu correo.
Lee los mensajes. Los clasifica. Prepara respuestas.
Tú revisas los borradores y piensas: «Pues funciona bastante bien».
Hasta que te planteas el siguiente paso, “¿Y si dejo que los envíe?”.
Ahí cambia la conversación.
Porque una respuesta equivocada en un borrador se corrige. Una respuesta equivocada en la bandeja de un cliente puede acabar en una llamada bastante incómoda.
El botón de enviar pesa más de lo que parece.
Y cuando hablamos de agentes de IA, conviene acordarse de ese botón.
Nos entusiasma lo que pueden hacer. Ahora toca concretar qué les vamos a dejar hacer, con qué información y cómo sabremos si lo están haciendo bien.
La investigación deja algunas pistas.
Para empezar, cuidado con las cifras bonitas.
Pongamos que recibes mil correos y diez contienen reclamaciones urgentes. Un sistema que marque todos como «sin urgencia» acertaría en 990.
Un 99 % de acierto.
Y las diez reclamaciones importantes, abandonadas.
Este ejemplo ilustra el problema que estudian Saito y Rehmsmeier: cuando los casos relevantes son escasos, una cifra agregada puede esconder precisamente los fallos que más te importan.
Necesitas saber cuántos detecta. Y cuántos falsos positivos te obliga a revisar.
Luego está esa solución que parece servir para todo, así que, “le conectamos nuestros documentos”.
Tiene sentido. El trabajo de Lewis y sus colaboradores sobre RAG mostró que combinar la búsqueda de documentos con la generación podía mejorar la fidelidad a los hechos frente al modelo comparado sin recuperación.
Pero conectar una carpeta es el principio. Después hay que comprobar si encuentra el documento adecuado, si está actualizado y si utiliza bien lo que contiene.
Porque tener información disponible tampoco garantiza aprovecharla.
En Lost in the Middle, los investigadores encontraron que la posición de la información dentro del contexto afectaba al rendimiento de los modelos estudiados.
Vamos, que meter más papeles en la mesa no garantiza que alguien lea el párrafo importante. Ese agente va a leer cosas que han escrito otras personas.
Correos. Documentos. Páginas web.
En esas fuentes puede haber instrucciones maliciosas. AgentDojo mostró cómo podían desviar a agentes con herramientas en entornos simulados.
También habrá que probar qué ocurre cuando alguien intenta engañarlos.
Todo esto nos devuelve a una pregunta bastante sencilla:
¿Qué significa exactamente hacer bien el trabajo que quieres delegar?
«Gestionar el correo» es demasiado vago.
Clasificar mensajes es un encargo.
Preparar borradores es otro.
Enviar respuestas comprometiendo una fecha de entrega es otro bastante distinto.
Cada uno necesita sus permisos, sus pruebas y sus límites.
Y en las cuentas hay que incluir tu tiempo.
El que dedicas a revisar.
El que dedicas a corregir.
El que dedicas a arreglar lo que ya ha salido por la puerta.
Empieza por un proceso concreto. Define qué resultado esperas y qué errores puedes permitirte. Comprueba qué sucede con casos reales antes de ampliar la autonomía.
La confianza se gana ahí.
Cuando tienes pruebas suficientes para decidir qué puedes delegar y qué merece seguir pasando por tus manos.
🌍 El Eco del Mercado
📈 Anthropic prepara una OPV con una valoración de hasta 1,4 billones de dólares. La compañía pretende captar hasta 64.400 millones de dólares mediante la venta de acciones y otros 26.000 millones en una colocación privada. La operación pondrá a prueba el apetito inversor por una empresa que crece rápidamente, pero acumula compromisos de computación cercanos a los 900.000 millones.
🏭 TSMC invertirá hasta 1.000 millones de dólares en Anthropic y OpenAI. El fabricante destinará hasta 500 millones a cada laboratorio, pasando de suministrar los chips que sostienen la IA a participar también en la revalorización de sus clientes. La operación refuerza los vínculos financieros entre quienes desarrollan, fabrican y financian esta tecnología.
🏦 Los bancos empiezan a contener el coste de sus agentes de IA. McKinsey calcula que el consumo de tokens podría llegar a equivaler al 20 % de los costes laborales de una entidad. Algunos bancos ya crean equipos de AI FinOps y reservan los agentes para procesos con un retorno medible, especialmente porque la comunicación entre varios modelos multiplica rápidamente la factura.
🧠 Anthropic lanza Fable 5.2 y Mythos 5.2 antes de su salida a bolsa. Los modelos ofrecen respuestas hasta un 30 % más rápidas y precios inferiores; Mythos se limita a organizaciones verificadas para investigación en ciberseguridad y ciencias de la vida. Anthropic reconoce además que los modelos detectan cada vez mejor cuándo están siendo evaluados, lo que dificulta anticipar su conducta real.
⚙️ Meta presenta un modelo barato para ejecutar el trabajo repetitivo de los agentes. Muse Ember está diseñado para llamadas a herramientas, extracción de información, análisis documental y subtareas de programación, con un precio de diez centavos por millón de tokens de entrada. Meta propone que un modelo potente planifique y Ember ejecute miles de operaciones, separando inteligencia y volumen para reducir costes.
🔌 Microsoft intenta frenar otra restricción estadounidense a la tecnología china. La compañía presiona para evitar la prohibición de transceptores ópticos chinos, imprescindibles para conectar chips y servidores dentro de los centros de datos. China controla aproximadamente dos tercios del mercado y los fabricantes estadounidenses todavía no tienen capacidad para sustituirla, por lo que la medida podría retrasar infraestructuras ya planificadas.
💾 Alibaba prepara la salida a bolsa de su división de chips T-Head. La empresa ha presentado confidencialmente la solicitud para cotizar en Hong Kong, aunque todavía no ha fijado el tamaño ni la estructura de la oferta. La escisión permitiría financiar y valorar por separado uno de los principales intentos chinos de reducir su dependencia de los procesadores de Nvidia.
🔥 Anthropic reserva 1,7 gigavatios de generación eléctrica con gas. El laboratorio adquiere compromisos sobre generadores de Caterpillar valorados en 3.400 millones de dólares para asegurarse capacidad en un mercado con listas de espera de varios años. La operación muestra cómo los desarrolladores de modelos empiezan a comportarse como industrias pesadas para garantizar la energía que necesitarán sus centros de datos.
🔓 Los ciberataques amenazan con hacer menos abierta la infraestructura de IA. Hugging Face advierte de que las plataformas abiertas pueden verse obligadas a restringir contribuciones y accesos. Fireworks reveló que unos atacantes consultaron pesos de modelos, conjuntos de datos e información de facturación, demostrando el valor que concentran los proveedores utilizados para entrenar y ejecutar IA.
🛡️ La Casa Blanca propone al responsable de seguridad de Palantir para dirigir CISA. Michael LoSapio deberá asumir la protección de las redes civiles estadounidenses después de casi 22 meses sin un director confirmado por el Senado y tras varias brechas en organismos federales. Su principal desafío será reconstruir una agencia que ha perdido alrededor de un tercio de su plantilla mientras aumentaban las amenazas impulsadas por IA.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
PD1. Antes de darle al agente las llaves de la empresa, cuatro lecturas que vienen a cuento.
The Glass Cage, de Nicholas Carr, explora cómo la automatización cambia nuestra atención y nuestras habilidades. Porque para revisar un trabajo conviene seguir sabiendo hacerlo.
Accidentes Normales, de Charles Perrow, analiza los fallos inesperados en sistemas complejos. Léelo pensando en ese agente que vas a conectar al correo, al CRM y a la facturación.
Recoding America, de Jennifer Pahlka, cuenta las dificultades de transformar digitalmente la administración estadounidense. Una lectura para preguntarte qué necesitas cambiar en un proceso antes de poner una máquina a ejecutarlo.
Y si quieres entrar en cómo se construyen estas aplicaciones, AI Engineering, de Chip Huyen: evaluación, recuperación de información y agentes. El más técnico de los cuatro.
PD2. Estás en el sofá. El sol empieza a darte en la cara. Y la persiana está justo lo bastante lejos como para negociar contigo mismo cuánto puedes aguantar. También puedes delegar eso. Este interruptor Wi-Fi para persianas con pantalla LCD permite ajustar la apertura por porcentaje y es compatible con Alexa y Google Assistant.