Memoria de agentes de IA: qué guardar y qué recuperar

Guía práctica sobre la memoria de un agente: los niveles que alcanza, qué dejar cargado, qué buscar bajo demanda y qué midió mi estudio de recuperación.

Deja en el contexto del agente solo lo que toda tarea necesita, y el resto déjalo donde una búsqueda lo encuentre para traerlo cuando una pregunta lo pida. Guarda una memoria nueva solo si algo la va a volver a leer: en mis mediciones, la búsqueda llegó al documento correcto más veces que un índice curado, y los archivos de memoria guardados casi nunca se volvieron a leer.

Qué es la memoria de un agente

La memoria de un agente de IA es toda la información a la que puede llegar mientras trabaja. La ventana de contexto es el texto que el modelo ve en una llamada. Es la parte visible de la memoria, y solo una parte.

Lo demás está en niveles, parecido a la RAM, el disco y la red de una computadora.

  • Lo que se carga al arrancar. Los archivos de instrucciones, el catálogo de herramientas y cualquier índice de memoria. Siempre está a la vista y cuesta tokens en cada llamada.
  • Archivos buscables. Documentos y código que el agente puede buscar y luego abrir. Es grande y barato, y no se ve hasta que una consulta llega a él.
  • Almacenes detrás de una herramienta. Las bases de datos y las APIs. El agente solo llega a ellos con una herramienta, así que tiene que saber que existe.
  • Fuentes vivas. Información que cambia tan rápido que ninguna copia guardada se mantiene fiel.

Recuperar es pasar contenido de los niveles de abajo a la ventana de contexto.

Cómo funcionan la memoria y la recuperación de un agente

Cinco políticas gobiernan los niveles: qué se carga al arrancar, qué se trae bajo demanda, qué datos se promueven a la memoria duradera, qué se retira o se compacta, y qué revisa si una copia guardada sigue siendo cierta. Tomé esos nombres de los sistemas operativos a propósito. En el paper son vocabulario de trabajo, no una tesis que yo defienda.

El contenido llega a la ventana por dos caminos que el agente controla. Puede seguir un apuntador ya cargado, como la línea de un índice que nombra un archivo. O puede buscar directo en el contenido, sin apuntador.

La analogía con el hardware falla en un punto. Una computadora copia una página de memoria tal cual. Un resumen de una línea pierde detalle desde que se escribe y se aleja más del documento cada vez que este cambia. El agente confía igual en un resumen viejo que en uno nuevo.

Memoria de un agente y ventana de contexto: cuál es la diferencia

La ventana de contexto funciona como memoria de trabajo. Un proyecto chico cabe completo. Cuando el proyecto rebasa la ventana, el asistente ve fragmentos.

Me topé con ese límite usando asistentes de código. Conforme crecía la base de código, las sugerencias empeoraban y el asistente olvidaba partes que importaban. Lo que me funcionó fue dividir el sistema en partes que cupieran en la ventana, con fronteras claras e interfaces explícitas. Así cada agente tiene su propia ventana para una parte.

Una ventana más grande pospone el problema, pero no decide qué texto merece el espacio.

Qué guardar y qué recuperar: reglas de decisión

  • Si toda tarea lo necesita, déjalo cargado y que sea breve. Aquí van las reglas y el catálogo de herramientas.
  • Si es texto que una búsqueda alcanza, déjalo localizable. Que el agente busque y luego lea el documento completo. No lo resumas antes.
  • Si vive en una base de datos o detrás de una API, exponlo como una herramienta con un contrato acotado. La guía para conectar de forma segura una base de datos usando MCP trata ese límite.
  • Si cambia todo el tiempo, consúltalo en el momento de la pregunta y no guardes copia.
  • Si escribes un resumen o una entrada de índice, define qué revisión lo mantiene cierto y cuándo corre. Un resumen que nadie valida se aleja de su fuente sin avisar.
  • Si el agente escribe notas para sesiones futuras, mide qué tan seguido se vuelven a abrir. Una escritura que nadie lee no es memoria.

Qué guardar de una conversación

Estoy probando un diseño que convierte conversaciones en memoria. El audio se vuelve una transcripción. Un paso de interpretación la contrasta con definiciones que yo fijo, por ejemplo qué cuenta como compromiso, y produce afirmaciones estructuradas con un nivel de confianza, no resúmenes. Un paso de reconciliación compara las afirmaciones nuevas con lo ya registrado.

La regla que conservo de ahí es llevar dos registros: uno de lo que se dijo y otro de lo que significa. Los dos quedan enlazados, así que cada interpretación se puede rastrear hasta su evidencia. Una transcripción sola conserva las palabras y no lo que significan para la persona. Es un experimento, todavía sin resultado medido.

Cómo diseñar la memoria de un agente paso a paso

  1. Enlista las preguntas que el agente debe responder y dónde vive hoy cada respuesta.
  2. Asigna cada fuente a un nivel: cargada al arrancar, archivos buscables, detrás de una herramienta o viva.
  3. Reduce lo que se carga al arrancar a lo que toda tarea necesita.
  4. Dale al agente una herramienta de búsqueda sobre los archivos y deja que abra lo que encuentre.
  5. Congela un conjunto de preguntas de las que conoces el documento fuente.
  6. Registra, pregunta por pregunta, si el agente abrió ese documento. La exactitud sola no distingue entre no encontrar el documento y no entenderlo.
  7. Antes de escribir un índice, corre las mismas preguntas solo con búsqueda y compara.
  8. Si el agente escribe memorias, registra cada lectura posterior de cada archivo.
  9. Escribe tus predicciones antes de medir.

Qué sale mal con la memoria y la recuperación de un agente

  • El índice manda al agente al archivo equivocado. En mi estudio, la política curada dio 47 respuestas sin haber leído nunca el documento correcto, lo que el paper llama wrong-stops. En 43 de ellas había leído un archivo equivocado. No se detenía antes de tiempo por resúmenes pobres. Leía más y encontraba menos.
  • Las memorias guardadas no se vuelven a leer. En el mismo programa de investigación, los archivos promovidos a un directorio de memoria duradera se leyeron después en 2 de 157 casos elegibles. Un dato guardado solo sirve si algo lo lee después.
  • La búsqueda deja documentos fuera por cómo ordena. En el estudio, la búsqueda todavía dejó fuera una quinta parte del corpus. El estudio complementario Finding More, Fusing Less encontró que el ordenamiento explicaba la mayor parte de ese techo: ordenar con BM25 subió la localización 21.7 puntos. La fusión que venía por defecto falló su propia predicción congelada y se retiró.

Un ejemplo: un índice curado contra la búsqueda con las mismas preguntas

El estudio es Reading More, Finding Less. Congelé 102 preguntas sobre un corpus de producción, y también las predicciones, antes de leer cualquier dato. Una política no tenía herramienta de búsqueda. Su única forma de localizar un documento era un índice de resúmenes de una línea, y esos resúmenes los escribió un modelo. La segunda política usaba grep sobre el corpus y leía los archivos que devolvía.

Con el índice como único localizador, el agente llegó al documento correcto en 52.0% de las preguntas. Con grep, llegó en 80.4%. Cuando el índice sí enrutó bien, el agente respondió bien 86.8% de las veces, y un control emparejado por dificultad mostró que la falla era de localización y no de comprensión. Al final, la política que buscaba y luego leía acertó en 72.5% de las preguntas, y la política curada en 47.1%.

Después corrí una réplica pública preregistrada con 141 documentos publicables y 120 preguntas congeladas, con criterios deliberadamente más duros. La búsqueda quedó 12.5 puntos arriba en exactitud. Con una regla simétrica, la tasa de wrong-stops fue de 34.2% para la política curada y de 18.3% para la búsqueda, y la localización fue de 62.5% para el índice y de 75.0% para la búsqueda. La réplica se adjudicó como "revisado": falló una de sus predicciones endurecidas, la del margen de tokens. El paper reporta esa falla con la misma prominencia que los aciertos. La réplica publica su corpus, preguntas, harness y adjudicador, así que cualquiera puede volver a correrla.

Qué no muestra la evidencia sobre la memoria de agentes

El resultado de enrutamiento vale para su sustrato y no más: el corpus era prosa, el índice tenía resúmenes de una línea y el agente no tenía otra forma de localizar documentos. No afirmo nada sobre un índice usado junto con la búsqueda, porque no lo probé, ni sobre el margen de exactitud en otros corpus. El resultado de relectura cubre la población de archivos registrada y el canal que se midió.

El diseño de conversaciones es un experimento sin resultado. Lo de la ventana de contexto es mi experiencia con asistentes de código, no una medición controlada, así que no doy cifras de ahí.

La lectura práctica no es "nunca cures". Es medir, en tu propio corpus, si el índice que ibas a escribir le gana a la búsqueda que el agente ya tiene.

Qué leer después

Preguntas frecuentes

¿Qué es la memoria de un agente?

Es toda la información a la que un agente de IA puede llegar mientras trabaja. Incluye lo cargado al arrancar, los archivos buscables, las bases de datos y APIs detrás de sus herramientas, y las fuentes vivas. La ventana de contexto es solo la parte que el modelo ve en una llamada. Casi todas las respuestas dependen de algo que el agente fue a traer, no de lo que ya estaba cargado.

¿Qué debe guardar un agente de IA en su memoria a largo plazo?

Guarda solo lo que algo va a volver a leer, y separa el registro literal de su interpretación en entradas que queden enlazadas. No des por hecho que una nota guardada se va a usar. En el sistema que medí, los archivos promovidos a un directorio de memoria duradera se leyeron después en 2 de 157 casos elegibles.

¿Un índice curado es mejor que la búsqueda para que un agente recupere información?

No en lo que medí. Un índice de resúmenes de una línea, usado como único localizador, llevó al agente al documento correcto en 52.0% de las preguntas, contra 80.4% de grep. El resultado se limita a esa configuración sobre un corpus en prosa. No probé un índice que trabaje al lado de una herramienta de búsqueda.

¿Una ventana de contexto más grande resuelve la memoria de un agente?

No. Una ventana más grande deja cargar más texto a la vez, pero no decide qué texto merece el espacio. Lo que el agente necesita saber casi siempre está en archivos, bases de datos o fuentes vivas que tiene que alcanzar. Diseña qué se queda cargado y qué se trae bajo demanda.

¿Cómo mido si la recuperación de un agente funciona?

Congela un conjunto de preguntas de las que conoces el documento fuente y registra, en cada una, si el agente abrió ese documento. Así separas no encontrar de no entender. En mi estudio, el agente respondió bien 86.8% de las veces cuando el índice sí lo llevó al documento correcto, así que la falla estaba en localizarlo.

Trabajo y evidencia

Reading More, Finding Less (se abre en una pestaña nueva)

Mi contribución: Autor de un estudio preregistrado y una réplica pública sobre recuperación de información por agentes.

Qué respalda: Metodología de evaluación con corpus publicado, preguntas congeladas, harness y adjudicador.

Qué no demuestra: Los resultados corresponden al corpus y las políticas estudiadas, no a todos los sistemas RAG o de agentes.

Fuente revisada:

Guías técnicas