¿Qué es la memoria de un agente de IA?

La memoria de un agente de IA es todo lo que puede alcanzar cuando tiene que responder: lo que se carga en su contexto al arrancar, los archivos que puede buscar, los almacenes detrás de sus herramientas y las fuentes vivas. La ventana de contexto es solo la parte visible, y la respuesta casi nunca sale de lo que ya estaba ahí.

Cómo funciona

Describo la memoria como una pila de niveles, del mismo modo en que un sistema operativo separa RAM, disco y red.

  • Memoria residente al arranque. Lo que se carga en el contexto al iniciar: archivos de instrucciones, catálogos de herramientas, índices de memoria. Siempre está a la vista y siempre se paga.
  • Archivos buscables. Todo lo que el agente puede encontrar con una búsqueda y abrir cuando hace falta. Enorme, barato e invisible hasta que una consulta lo toca.
  • Almacenes detrás de herramientas. Bases de datos y APIs. El agente tiene que saber que debe preguntar.
  • El mundo. Fuentes vivas que ningún almacén puede copiar con fidelidad.

Las políticas deciden qué se queda residente, qué se lee bajo demanda, qué se promueve y qué se retira. La comparación con el hardware se rompe en un punto. Una computadora copia la memoria con fidelidad. Un resumen de una línea es una copia con pérdida, y se aleja del documento conforme este cambia. La memoria de un agente envejece.

Dónde aparece en el trabajo real

Probé dos formas de localizar documentos en un estudio preregistrado, Reading More, Finding Less. Un agente tenía solo un índice escrito a mano, con un resumen de una línea por documento. El otro buscaba en el corpus y leía lo que encontraba. El índice llevó al agente al documento correcto en 52.0% de 102 preguntas, contra 80.4% de grep. Al final, buscar y luego leer fue más exacto: 72.5% contra 47.1%. Una réplica pública con 141 documentos y 120 preguntas congeladas dejó a la búsqueda 12.5 puntos arriba en exactitud. Su veredicto formal quedó como revisado, porque falló una predicción sobre el margen de tokens.

La escritura también falló: en el mismo programa, de 157 archivos elegibles promovidos a un directorio de memoria duradera, 2 se volvieron a leer.

El resultado tiene un alcance: un índice escrito de resúmenes de una línea sobre un corpus en prosa, usado como único localizador. No dice nada de un índice usado junto con la búsqueda.

Qué no es

La memoria no es la ventana de contexto, y una ventana más grande no es más memoria. Guardar un dato tampoco es recordarlo: recordar exige una lectura posterior que de verdad ocurra.

Cuándo hay que diseñarla

Cuando un agente trabaja con más material del que cabe en su contexto, que es casi siempre. Antes de escribir un índice que describa tus archivos, revisa si el agente con búsqueda ya le gana. Si guarda notas para después, cuenta las lecturas y no las escrituras. Trata cada resumen como una copia en caché que se degrada, y decide qué la valida.

Trabajo y evidencia

Reading More, Finding Less (se abre en una pestaña nueva)

Mi contribución: Autor de un estudio preregistrado y una réplica pública sobre recuperación de información por agentes.

Qué respalda: Metodología de evaluación con corpus publicado, preguntas congeladas, harness y adjudicador.

Qué no demuestra: Los resultados corresponden al corpus y las políticas estudiadas, no a todos los sistemas RAG o de agentes.

Fuente revisada:

Preguntas frecuentes

¿Una ventana de contexto más grande es más memoria?

No. La ventana de contexto es donde la memoria se ve, y por eso casi toda la discusión ocurre ahí. En la práctica un agente busca en un repositorio, abre un archivo que nunca había visto o llama a una herramienta que consulta una base de datos. El conocimiento que importaba se podía alcanzar desde la ventana, pero no estaba dentro.

¿Le conviene a un agente un índice curado o una herramienta de búsqueda?

En mi estudio, el índice usado como única forma de localizar documentos enrutó peor que la búsqueda: 52.0% contra 80.4%. Cuando el índice sí llevó al documento correcto, la exactitud fue de 86.8%, así que la falla fue de localización y no de comprensión. La afirmación se limita a un índice escrito de resúmenes de una línea sobre un corpus en prosa.

¿Los agentes leen las memorias que guardan?

En el sistema que medí, casi nunca. De 157 archivos elegibles promovidos a un directorio de memoria duradera, 2 se volvieron a leer, y la predicción de que promover rinde quedó refutada. Si tu agente guarda datos, mide si algo los vuelve a leer.

¿Un documento no encontrado es un límite de la búsqueda?

Casi nunca. La política de búsqueda todavía dejó fuera una quinta parte del corpus, y un estudio complementario, Finding More, Fusing Less, mostró que casi todo ese techo era un problema de ordenamiento: BM25 sumó 21.7 puntos en localización. El mismo estudio retiró una configuración por defecto que fusionaba métodos de búsqueda, porque falló su propia predicción congelada.

Disponible para puestos senior de ingeniería de IA y proyectos por contrato, en remoto para Estados Unidos, México y Latinoamérica.