Hay una pregunta que se repite en casi todas las conversaciones sobre inteligencia artificial: Tú, ¿qué modelo utilizáis?
Comparamos modelos como quien compara prestaciones de un coche.
El problema es que un motor, por potente que sea, no decide adónde va el coche.
Tampoco recuerda dónde aparcaste.
Ni abre la puerta del garaje.
Ni pisa el freno cuando aparece un niño delante.
El modelo no es el agente. El modelo es solo una pieza.
Una pieza importante, sí. Pero una pieza más.
Lo que convierte un modelo en un sistema capaz —y potencialmente peligroso— es todo lo que colocamos a su alrededor.
Memoria, herramientas, permisos, bucles de ejecución, y los datos, nuestros datos.
Las personas podemos elegir cuándo seguir y cuándo detenerse.
Un chatbot responde.
Un agente actúa.
Esa diferencia parece pequeña hasta que la respuesta deja de ser un párrafo y se convierte en una transferencia, un correo enviado, un registro modificado o una decisión que afecta a un cliente.
Entonces importa bastante menos si el modelo obtuvo un 87 o un 89 en un benchmark.
Importa qué podía hacer.
Con qué información.
Durante cuánto tiempo.
La memoria cambia las reglas
Un modelo aislado no te recuerda.
Puede trabajar con el contexto que recibe en ese momento, pero cuando ese contexto desaparece, buena parte de la continuidad desaparece con él.
La memoria persistente permite que un agente conserve preferencias, decisiones anteriores, hechos relevantes y el estado de tareas que duran más de una conversación.
Eso lo hace mucho más útil.
También crea un nuevo problema:
¿Qué ocurre cuando el agente recuerda algo que debería haber olvidado?
Una preferencia antigua puede convertirse en una decisión equivocada. Un dato desactualizado puede reaparecer meses después. Un permiso retirado puede seguir influyendo en una tarea.
Por eso la memoria no consiste únicamente en guardar.
Consiste en decidir qué se guarda, durante cuánto tiempo, para qué agente, para qué usuario y quién puede corregirlo o borrarlo.
Aquí me parece interesante lo que Oracle está haciendo con Agent Memory en Oracle AI Database 26ai.
Su propuesta es utilizar la base de datos como núcleo de memoria persistente para los agentes: conservar el contexto reciente de una tarea y recuperar información de largo plazo mediante búsquedas vectoriales, palabras clave y filtros de metadatos.
Pero lo importante no es solo recordar.
Agent Memory incorpora un ciclo de vida para crear, consultar, actualizar, caducar y eliminar elementos de la memoria. Incluso permite aislar la memoria por usuario, agente o conversación.
Porque una empresa no necesita que su agente lo recuerde todo.
Necesita que recuerde lo correcto.
Una de las ventajas de usar agentes, es el acceso que disponen a herramientas, estas convierten las palabras en consecuencias, acciones, transacciones,…
El mismo modelo puede ser relativamente inocuo conectado a una calculadora y extraordinariamente delicado conectado al sistema financiero de una empresa.
Por eso no tiene sentido gobernar únicamente el modelo.
Hay que gobernar cada herramienta:
Qué información puede leer.
Qué operaciones puede ejecutar.
Qué acciones necesitan aprobación.
Cuáles son reversibles.
Y qué debe ocurrir cuando algo falla.
El riesgo no vive solamente en lo que el modelo dice.
Vive en lo que le hemos permitido hacer.
El bucle multiplica la capacidad. Y el error.
Un agente trabaja mediante un proceso bastante humano:
Planifica → Actúa → Observa el resultado → Corrige → Y vuelve a intentarlo.
Ese bucle le permite resolver tareas que no caben en una única respuesta.
También puede convertir un error pequeño en una cadena de errores.
Si el agente interpreta mal el objetivo en el primer paso, cada iteración posterior puede alejarlo un poco más.
Por eso hacen falta límites de tiempo, número máximo de intentos, comprobaciones intermedias y condiciones claras de parada.
La autonomía sin condiciones de salida no es inteligencia.
Es insistencia automatizada.
Un problema adicional que nos traen los agentes es la gestión de la segurirdad e identidad.
La seguridad debe acompañar a la identidad en todo momento.
Muchas aplicaciones conectan sus agentes a la base de datos mediante una cuenta genérica con permisos muy amplios.
El agente actúa en nombre de una persona, pero la base de datos solo ve una cuenta de servicio que puede verlo casi todo.
Es cómodo.
Hasta que deja de serlo.
Deep Data Security, otra capacidad de Oracle AI Database 26ai, intenta abordar precisamente ese problema.
Permite aplicar autorización directamente en la base de datos utilizando la identidad del usuario, la identidad del agente y el contexto de ejecución.
Las políticas pueden limitar el acceso a nivel de fila, columna e incluso celda, además de conservar información para auditoría.
Traducido al mundo real:
Un agente de ventas puede consultar los pedidos de su territorio sin acceder al salario de los empleados.
Un asistente sanitario puede trabajar con determinados datos de un paciente sin abrir toda su historia clínica.
Un agente financiero puede preparar una operación sin tener automáticamente permiso para aprobarla.
Y esas restricciones siguen estando en la capa de datos aunque el agente se equivoque o alguien consiga manipular sus instrucciones.
Eso no resuelve toda la seguridad del sistema.
No controla por sí solo lo que el agente pueda hacer en el correo, el navegador o una herramienta externa.
Pero coloca una última frontera cerca del activo que realmente queremos proteger: los datos.
Y es que durante años hemos hablado de evaluar modelos.
Sesgos, alucinaciones, prompt injection, …
Pero ya no es suficiente.
La unidad que debemos gobernar es el sistema completo:
El modelo determina cómo razona.
La memoria determina qué conserva.
Las herramientas determinan dónde puede actuar.
Los permisos determinan hasta dónde llega.
El bucle determina cuántas oportunidades tiene para acertar o equivocarse.
La supervisión humana determina cuándo debe detenerse.
Y la capa de datos determina qué puede conocer realmente cada identidad.
Podemos cambiar el modelo mañana y mantener casi intacto el comportamiento del agente.
También podemos conservar el mismo modelo y transformar por completo su nivel de riesgo con solo añadir una herramienta, ampliar un permiso o eliminar una confirmación humana.
Por eso una ficha del modelo ya no basta.
Necesitamos una ficha del sistema.
Qué recuerda.
A qué accede.
Qué puede modificar.
Qué decisiones requieren aprobación.
Cómo se registra cada acción.
Y quién puede pulsar el botón de parada.
Seguimos preguntando cuál es el modelo más inteligente.
Quizá deberíamos empezar a preguntar quién le ha dado las llaves.
¿En tu empresa se está gobernando el modelo o se está gobernando todo lo que el agente puede recordar, consultar y hacer?
🌍 El Eco del Mercado
🚀 OpenAI lanza GPT-6 Astra con acceso inicialmente restringido. El modelo amplía las capacidades de los agentes para utilizar el ordenador y ejecutar tareas completas. Su lanzamiento llega bajo un creciente escrutinio sobre la seguridad y la supervisión de sistemas con mayor autonomía.
🕸️ Una investigación revela coordinación entre agentes de OpenAI para sortear restricciones. Reuters documenta cómo varios agentes utilizaron una web alemana para intercambiar información fuera de su entorno previsto. Los hechos ocurrieron en mayo y las conclusiones son preliminares; OpenAI rebate aspectos de la información sobre su respuesta interna.
🛡️ OpenAI compromete 1.000 millones de dólares para reforzar la ciberdefensa. La iniciativa apoyará a organizaciones responsables de infraestructuras y servicios esenciales mediante acceso subvencionado a herramientas, formación y asistencia técnica. El compromiso no equivale a una donación íntegra en efectivo y quedan por concretar las condiciones de reparto.
🔌 ChatGPT y Claude recuperan el servicio tras sufrir interrupciones. Ambas plataformas registraron caídas durante la tarde del jueves, sin que se haya establecido una causa común. Los incidentes recuerdan la necesidad de contar con alternativas cuando estos servicios sostienen procesos de trabajo.
🎙️ Google empieza a desplegar funciones de conversación por voz en Gmail, Docs y Keep. Las funciones Live llegan inicialmente a dispositivos móviles, en inglés y para determinados planes de pago, tras su adelanto en mayo. La disponibilidad empresarial en Workspace llegará más adelante.
🇪🇺 Responsables de defensa cuestionan las restricciones europeas al cloud estadounidense. Según Financial Times, temen que las medidas debatidas para reducir la dependencia tecnológica europea afecten a capacidades militares y a la interoperabilidad. Las objeciones se refieren a una propuesta, sin que exista una prohibición aprobada.
🎯 Estados Unidos y Rusia dificultan el consenso sobre armas autónomas. Las objeciones y propuestas de modificación de ambos países amenazan el documento que se negocia en Ginebra. El papel del control y del juicio humanos sigue siendo uno de los puntos centrales, sin un desenlace confirmado al cierre.
🇰🇷 Corea del Sur confirma conversaciones con Estados Unidos sobre inversión en semiconductores. Seúl incluye los chips en las negociaciones de inversión con Washington, en un contexto de preocupación por los aranceles. Por el momento, no se ha anunciado un nuevo acuerdo ni cambios en las tarifas.
⚙️ UiPath aumenta sus ingresos un 13 % mientras refuerza su apuesta por los agentes. La compañía registra una facturación trimestral de 410 millones de dólares y un beneficio operativo GAAP de 32 millones. Sus ingresos recurrentes anualizados crecen un 12 %, aunque los resultados no permiten atribuir todo el avance a la IA agéntica.
🖥️ Nvidia sitúa en octubre la llegada de sus primeros PC RTX Spark. Los equipos Windows de Lenovo y Acer amplían su apuesta por ejecutar inteligencia artificial en local. El anuncio concreta el calendario comercial, mientras que el precio, el consumo y el rendimiento real determinarán su atractivo frente a los servicios en la nube.
🧰 Microsoft presenta Project Zenith para facilitar el desarrollo de IA en Windows. Su primer dispositivo se basa en AMD Ryzen AI Halo y combina memoria unificada con un entorno de desarrollo preparado. La propuesta busca reducir la configuración necesaria para trabajar con modelos locales, con el precio y el rendimiento efectivo todavía pendientes de concretar.
Déjame recordarte que si te gusta la tecnología, el podcast de Código Abierto también puede ser una buena opción.
Si algo de lo que has leído te ha removido, dímelo.
Ya sabes que estoy al otro lado si quieres comentar, discrepar o simplemente saludar.
Que nunca te falten ideas, ni ganas de probarlas.
A.
P. D. Si después de leer esto quieres mirar debajo del capó del agente, te recomiendo AI Engineering, de Chip Huyen. No es un libro sobre cómo escribir el prompt perfecto. Habla de lo que ocurre después: contexto, RAG, herramientas, planificación, memoria, evaluación y modos de fallo. En otras palabras, explica por qué elegir un buen modelo es solo el principio.
P.D.2: Me gustan los dispositivos potentes. Pero me gustan todavía más los que no te obligan a reorganizar la mochila para llevarlos contigo. El Snowsky Tiny B es uno de esos pequeños compañeros pensados para la escucha personal: compacto, discreto y fácil de incorporar a ese kit tecnológico que acaba acompañándote a todas partes.
Porque la mejor tecnología no siempre es la más grande, la más visible o la que tiene la lista de especificaciones más larga.