Recientemente estuve leyendo un estudio de a16z, y hay una metáfora bastante interesante—los LLM en realidad viven en un presente eterno, como el protagonista amnésico de la película "Memento". Una vez entrenados, se congelan, la nueva información no entra, solo pueden depender de registros de chat, sistemas de búsqueda y otros complementos para responder en emergencias. Pero, ¿es realmente suficiente así?

Cada vez más investigadores piensan que no. El aprendizaje contextual ciertamente es útil, pero en esencia se trata de recuperación, no de aprendizaje. Imagina un archivo infinito, donde puedes encontrar cualquier cosa, pero nunca se ve obligado a entender, comprimir o internalizar realmente el conocimiento nuevo. Para aquellos problemas que requieren descubrimiento genuino—como nuevas demostraciones matemáticas, escenarios adversariales, o conocimientos demasiado implícitos e inarticulables—solo la recuperación claramente no basta.

Por eso, la investigación en aprendizaje continuo está ganando cada vez más atención. La cuestión central es simple: **¿dónde ocurre la compresión?** Los sistemas actuales externalizan la compresión a través de ingeniería de prompts, canales RAG, envoltorios inteligentes. Pero el mecanismo que hace que un LLM sea poderoso durante el entrenamiento—compresión con pérdida, aprendizaje a nivel de parámetros—se apaga en el momento de la implementación.

El mundo de la investigación generalmente se divide en tres caminos. Un extremo es el aprendizaje contextual, donde los equipos optimizan las pipelines de recuperación, gestión de contexto, arquitecturas multi-agente. Es el más maduro, con infraestructura comprobada, pero su límite es la longitud del contexto. El otro extremo es el aprendizaje a nivel de peso, que implica actualizaciones reales de parámetros—capas de memoria dispersa, ciclos de aprendizaje por refuerzo, entrenamiento en tiempo de inferencia. En medio, hay rutas modularizadas, que mediante módulos de conocimiento plug-and-play logran especialización sin alterar los pesos centrales.

El enfoque de peso tiene muchas líneas de investigación. Hay métodos de regularización (como EWC), entrenamiento en tiempo de inferencia (descenso de gradiente durante la inferencia), meta-aprendizaje (enseñar al modelo a aprender), además de auto-distilación y auto-mejoras recursivas. Todas estas tendencias convergen, y la próxima generación de sistemas probablemente combinará varias estrategias.

Pero aquí surge un problema clave: la simple actualización de pesos en producción trae muchos inconvenientes. Olvido catastrófico, desacoplamiento temporal, fallos en la integración lógica, y la imposibilidad fundamental de realizar operaciones de olvido. Lo más problemático es en términos de seguridad y gobernanza—una vez que se abren las fronteras entre entrenamiento y despliegue, la alineación puede colapsar, la superficie de ataques de envenenamiento de datos se expande, la auditabilidad desaparece, y los riesgos de privacidad aumentan. Todos estos son problemas abiertos, pero también forman parte de la agenda de investigación.

Lo interesante es que el ecosistema emprendedor ya está actuando en estos niveles. En el lado de la gestión del contexto, hay empresas como Letta, mem0, que se especializan en gestionar estrategias de contexto; en el lado de los parámetros, hay equipos experimentando con compresión parcial, ciclos de RL, métodos centrados en datos, e incluso algunos que están rediseñando la arquitectura misma. No hay una sola solución ganadora todavía, y considerando la diversidad de casos de uso, quizás no debería haber solo un ganador.

Desde cierto ángulo, estamos en un punto de inflexión. Los sistemas de recuperación son poderosos, pero la recuperación nunca equivale a aprendizaje. Un modelo que realmente pueda seguir comprimiendo experiencias y internalizando conocimientos después del despliegue, generará valor compuesto de maneras que los sistemas actuales no pueden. Esto implica avances en arquitecturas dispersas, meta-aprendizaje, ciclos de auto-mejora, y quizás también una redefinición del propio concepto de "modelo"—no solo un conjunto fijo de pesos, sino un sistema en evolución.

El futuro del aprendizaje continuo está aquí. Un archivo grande es solo un archivo grande; la verdadera innovación radica en hacer que el modelo, después del despliegue, pueda entrenarse a sí mismo para mejorar: comprimir, abstraer, aprender de verdad. De lo contrario, nos quedaremos atrapados en nuestro presente eterno.