¿Qué significa «Compacting» en un Agente de IA?

¿Qué se supone que hace bionic o el modelo cuando dice «compacting»? Cuando un agente de programación o un modelo de lenguaje muestra este estado, normalmente significa que está intentando comprimir el contexto de la conversación para liberar espacio en la ventana de contexto.

Diagrama conceptual de compresión de historial de chat en IA
Visualización del proceso de compactación de contexto en un agente de programación.

No se refiere a comprimir archivos ni a reducir el tamaño del modelo en sí mismo. Se trata de reorganizar la información acumulada durante la sesión para que el sistema pueda seguir operando.

¿Qué hace exactamente?

Imagina que llevas dos horas trabajando con un agente: le has pedido modificar varios archivos, ha leído código fuente y configuraciones, ha ejecutado comandos y recibido resultados, además de haber cometido errores y corregido otros. Todo eso consume tokens de contexto.

Al acercarse al límite disponible, el sistema inicia un proceso de compactación que sigue estos pasos:

  1. Analiza el historial: identifica instrucciones, decisiones, resultados y tareas pendientes.
  2. Resume información: convierte grandes cantidades de mensajes en resúmenes más pequeños.
  3. Conserva información relevante: intenta mantener los detalles necesarios para continuar trabajando.
  4. Descarta parte del historial: libera espacio para nuevas interacciones.

¿Qué se pierde durante el proceso?

Aquí está lo interesante: la compactación no es necesariamente perfecta. Puede perder detalles de conversaciones antiguas, explicaciones técnicas que parecían secundarias, resultados intermedios de comandos y decisiones que no quedaron suficientemente documentadas. También puede olvidar detalles específicos de archivos que había leído anteriormente.

Por eso, después de una compactación, un agente puede seguir trabajando aparentemente con normalidad, pero haber olvidado algún detalle importante.

¿Es bueno o malo?

Es necesario cuando se trabaja con agentes durante sesiones prolongadas. Sin embargo, hay que distinguir entre varias operaciones:

  • Compacting: Resume y reorganiza el contexto existente.
  • Truncating: Elimina parte del historial sin resumir.
  • Context reset: Comienza con un contexto nuevo.
  • RAG / retrieval: Recupera información desde fuentes externas cuando se necesita.

La recomendación clave es que, cuando trabajes con agentes de programación en proyectos largos, procures que mantengan un archivo de estado (por ejemplo, PROJECT_STATUS.md) con decisiones, modificaciones realizadas, errores pendientes y próximos pasos. Así, aunque el modelo compacte su contexto, existe una memoria externa que puede volver a consultar.

Hay una ironía bastante interesante: los agentes que programan necesitan desarrollar sus propias estrategias de gestión de memoria para no olvidar cómo estaban programando.

¿Cuándo iniciar una nueva conversación?

Sí. Y te diría que, en bastantes ocasiones, es incluso mejor que dejar que el agente siga compactando indefinidamente. Hay una situación bastante habitual: el agente empieza a acumular intentos fallidos, hipótesis descartadas, modificaciones parciales y explicaciones cada vez más largas. Llega un momento en que el contexto deja de ayudar y empieza a convertirse en lastre.

Aplicaría esta estrategia:

  1. Si está avanzando: continúa en la misma conversación. La historia tiene valor.
  2. Si está dando vueltas: pídele que analice qué ha intentado, qué ha descartado y cuál es el estado real del proyecto.
  3. Si está repitiendo errores: detén el ciclo. No le permitas seguir modificando cosas a ciegas.
  4. Si perdió el rumbo: inicia una conversación nueva con un resumen del problema y los antecedentes necesarios.

Puedes utilizar este prompt antes de cerrar una sesión para preparar un informe de continuidad:

Detén cualquier modificación.

Prepara un informe de continuidad que incluya:
- Objetivo original.
- Estado actual del proyecto.
- Archivos modificados y cambios realizados.
- Soluciones intentadas y sus resultados.
- Hipótesis descartadas.
- Problemas todavía pendientes.
- Próximo paso recomendado.

Sé preciso. No presentes hipótesis como hechos.
No omitas errores ni modificaciones fallidas.

Después comienzas una conversación limpia y le entregas ese informe. Una distinción importante: conversación nueva no significa necesariamente proyecto nuevo. El agente puede recuperar el contexto desde los archivos, pero conviene verificar qué cambios quedaron efectivamente aplicados.

Mi regla personal sería: si el agente lleva tres intentos haciendo esencialmente lo mismo sin acercarse a una solución, es hora de cambiar de conversación o, al menos, de estrategia. A veces no necesita más contexto. Necesita menos ruido.