Deja en el contexto del agente solo lo que toda tarea necesita, y el resto déjalo donde una búsqueda lo encuentre para traerlo cuando una pregunta lo pida. Guarda una memoria nueva solo si algo la va a volver a leer: en mis mediciones, la búsqueda llegó al documento correcto más veces que un índice curado, y los archivos de memoria guardados casi nunca se volvieron a leer.
Qué es la memoria de un agente
La memoria de un agente de IA es toda la información a la que puede llegar mientras trabaja. La ventana de contexto es el texto que el modelo ve en una llamada. Es la parte visible de la memoria, y solo una parte.
Lo demás está en niveles, parecido a la RAM, el disco y la red de una computadora.
- Lo que se carga al arrancar. Los archivos de instrucciones, el catálogo de herramientas y cualquier índice de memoria. Siempre está a la vista y cuesta tokens en cada llamada.
- Archivos buscables. Documentos y código que el agente puede buscar y luego abrir. Es grande y barato, y no se ve hasta que una consulta llega a él.
- Almacenes detrás de una herramienta. Las bases de datos y las APIs. El agente solo llega a ellos con una herramienta, así que tiene que saber que existe.
- Fuentes vivas. Información que cambia tan rápido que ninguna copia guardada se mantiene fiel.
Recuperar es pasar contenido de los niveles de abajo a la ventana de contexto.
Cómo funcionan la memoria y la recuperación de un agente
Cinco políticas gobiernan los niveles: qué se carga al arrancar, qué se trae bajo demanda, qué datos se promueven a la memoria duradera, qué se retira o se compacta, y qué revisa si una copia guardada sigue siendo cierta. Tomé esos nombres de los sistemas operativos a propósito. En el paper son vocabulario de trabajo, no una tesis que yo defienda.
El contenido llega a la ventana por dos caminos que el agente controla. Puede seguir un apuntador ya cargado, como la línea de un índice que nombra un archivo. O puede buscar directo en el contenido, sin apuntador.
La analogía con el hardware falla en un punto. Una computadora copia una página de memoria tal cual. Un resumen de una línea pierde detalle desde que se escribe y se aleja más del documento cada vez que este cambia. El agente confía igual en un resumen viejo que en uno nuevo.
Memoria de un agente y ventana de contexto: cuál es la diferencia
La ventana de contexto funciona como memoria de trabajo. Un proyecto chico cabe completo. Cuando el proyecto rebasa la ventana, el asistente ve fragmentos.
Me topé con ese límite usando asistentes de código. Conforme crecía la base de código, las sugerencias empeoraban y el asistente olvidaba partes que importaban. Lo que me funcionó fue dividir el sistema en partes que cupieran en la ventana, con fronteras claras e interfaces explícitas. Así cada agente tiene su propia ventana para una parte.
Una ventana más grande pospone el problema, pero no decide qué texto merece el espacio.
Qué guardar y qué recuperar: reglas de decisión
- Si toda tarea lo necesita, déjalo cargado y que sea breve. Aquí van las reglas y el catálogo de herramientas.
- Si es texto que una búsqueda alcanza, déjalo localizable. Que el agente busque y luego lea el documento completo. No lo resumas antes.
- Si vive en una base de datos o detrás de una API, exponlo como una herramienta con un contrato acotado. La guía para conectar de forma segura una base de datos usando MCP trata ese límite.
- Si cambia todo el tiempo, consúltalo en el momento de la pregunta y no guardes copia.
- Si escribes un resumen o una entrada de índice, define qué revisión lo mantiene cierto y cuándo corre. Un resumen que nadie valida se aleja de su fuente sin avisar.
- Si el agente escribe notas para sesiones futuras, mide qué tan seguido se vuelven a abrir. Una escritura que nadie lee no es memoria.
Qué guardar de una conversación
Estoy probando un diseño que convierte conversaciones en memoria. El audio se vuelve una transcripción. Un paso de interpretación la contrasta con definiciones que yo fijo, por ejemplo qué cuenta como compromiso, y produce afirmaciones estructuradas con un nivel de confianza, no resúmenes. Un paso de reconciliación compara las afirmaciones nuevas con lo ya registrado.
La regla que conservo de ahí es llevar dos registros: uno de lo que se dijo y otro de lo que significa. Los dos quedan enlazados, así que cada interpretación se puede rastrear hasta su evidencia. Una transcripción sola conserva las palabras y no lo que significan para la persona. Es un experimento, todavía sin resultado medido.
Cómo diseñar la memoria de un agente paso a paso
- Enlista las preguntas que el agente debe responder y dónde vive hoy cada respuesta.
- Asigna cada fuente a un nivel: cargada al arrancar, archivos buscables, detrás de una herramienta o viva.
- Reduce lo que se carga al arrancar a lo que toda tarea necesita.
- Dale al agente una herramienta de búsqueda sobre los archivos y deja que abra lo que encuentre.
- Congela un conjunto de preguntas de las que conoces el documento fuente.
- Registra, pregunta por pregunta, si el agente abrió ese documento. La exactitud sola no distingue entre no encontrar el documento y no entenderlo.
- Antes de escribir un índice, corre las mismas preguntas solo con búsqueda y compara.
- Si el agente escribe memorias, registra cada lectura posterior de cada archivo.
- Escribe tus predicciones antes de medir.
Qué sale mal con la memoria y la recuperación de un agente
- El índice manda al agente al archivo equivocado. En mi estudio, la política curada dio 47 respuestas sin haber leído nunca el documento correcto, lo que el paper llama wrong-stops. En 43 de ellas había leído un archivo equivocado. No se detenía antes de tiempo por resúmenes pobres. Leía más y encontraba menos.
- Las memorias guardadas no se vuelven a leer. En el mismo programa de investigación, los archivos promovidos a un directorio de memoria duradera se leyeron después en 2 de 157 casos elegibles. Un dato guardado solo sirve si algo lo lee después.
- La búsqueda deja documentos fuera por cómo ordena. En el estudio, la búsqueda todavía dejó fuera una quinta parte del corpus. El estudio complementario Finding More, Fusing Less encontró que el ordenamiento explicaba la mayor parte de ese techo: ordenar con BM25 subió la localización 21.7 puntos. La fusión que venía por defecto falló su propia predicción congelada y se retiró.
Un ejemplo: un índice curado contra la búsqueda con las mismas preguntas
El estudio es Reading More, Finding Less. Congelé 102 preguntas sobre un corpus de producción, y también las predicciones, antes de leer cualquier dato. Una política no tenía herramienta de búsqueda. Su única forma de localizar un documento era un índice de resúmenes de una línea, y esos resúmenes los escribió un modelo. La segunda política usaba grep sobre el corpus y leía los archivos que devolvía.
Con el índice como único localizador, el agente llegó al documento correcto en 52.0% de las preguntas. Con grep, llegó en 80.4%. Cuando el índice sí enrutó bien, el agente respondió bien 86.8% de las veces, y un control emparejado por dificultad mostró que la falla era de localización y no de comprensión. Al final, la política que buscaba y luego leía acertó en 72.5% de las preguntas, y la política curada en 47.1%.
Después corrí una réplica pública preregistrada con 141 documentos publicables y 120 preguntas congeladas, con criterios deliberadamente más duros. La búsqueda quedó 12.5 puntos arriba en exactitud. Con una regla simétrica, la tasa de wrong-stops fue de 34.2% para la política curada y de 18.3% para la búsqueda, y la localización fue de 62.5% para el índice y de 75.0% para la búsqueda. La réplica se adjudicó como "revisado": falló una de sus predicciones endurecidas, la del margen de tokens. El paper reporta esa falla con la misma prominencia que los aciertos. La réplica publica su corpus, preguntas, harness y adjudicador, así que cualquiera puede volver a correrla.
Qué no muestra la evidencia sobre la memoria de agentes
El resultado de enrutamiento vale para su sustrato y no más: el corpus era prosa, el índice tenía resúmenes de una línea y el agente no tenía otra forma de localizar documentos. No afirmo nada sobre un índice usado junto con la búsqueda, porque no lo probé, ni sobre el margen de exactitud en otros corpus. El resultado de relectura cubre la población de archivos registrada y el canal que se midió.
El diseño de conversaciones es un experimento sin resultado. Lo de la ventana de contexto es mi experiencia con asistentes de código, no una medición controlada, así que no doy cifras de ahí.
La lectura práctica no es "nunca cures". Es medir, en tu propio corpus, si el índice que ibas a escribir le gana a la búsqueda que el agente ya tiene.
Qué leer después
- ¿Qué es la memoria de un agente de IA?
- Reading More, Finding Less (en inglés): el paper, con sus predicciones, veredictos y réplica.
- RAG y plataformas de datos para empresas
- Arquitectura de agentes empresariales: datos corporativos, seguridad y escala