A memória processual reduz os custos e a complexidade dos agentes de IA

Uma nova técnica desenvolvida pela Universidade de Zhejiang e pelo Alibaba Group equipa os agentes de modelos de linguagem grandes (LLM) com memória dinâmica, aumentando sua eficiência e eficácia no manuseio de tarefas complexas. Denominada Memp, essa abordagem fornece aos agentes uma "memória processual" que se atualiza continuamente à medida que eles acumulam experiência, espelhando a maneira como os seres humanos aprendem por meio da prática repetida.

O Memp estabelece um sistema de aprendizado contínuo em que os agentes não precisam mais começar do zero para cada nova tarefa. À medida que enfrentam novos cenários em ambientes do mundo real, eles melhoram continuamente e se tornam mais eficientes, um recurso essencial para a automação empresarial confiável.

A importância da memória processual nos agentes de IA

Os agentes LLM apresentam um grande potencial para automatizar operações comerciais complexas e de várias etapas. Entretanto, na prática, essas tarefas estendidas podem ser propensas a falhas. Os pesquisadores destacam que problemas inesperados - como interrupções na rede, atualizações da interface do usuário ou alteração de formatos de dados - podem interromper todo o fluxo de trabalho. Atualmente, isso muitas vezes força os agentes a reiniciarem tudo desde o início, o que gera atrasos e custos mais altos.

Ao mesmo tempo, muitas tarefas complexas, embora pareçam diferentes na superfície, compartilham semelhanças estruturais subjacentes. Em vez de reaprender esses padrões todas as vezes, um agente deve ser capaz de aproveitar e reutilizar suas experiências passadas - tanto os sucessos quanto os fracassos - como enfatizam os pesquisadores. Isso exige uma "memória processual" especializada, semelhante à memória humana de longo prazo para habilidades como digitar ou andar de bicicleta, que se tornam uma segunda natureza com a repetição.

A maioria dos sistemas de agentes atuais não possui essa funcionalidade. Seu conhecimento processual geralmente é programado manualmente pelos desenvolvedores, armazenado em modelos de prompt inflexíveis ou incorporado aos parâmetros do modelo, que são caros e lentos para serem modificados. Mesmo as estruturas existentes com aprimoramentos de memória oferecem apenas abstrações amplas e não abordam adequadamente como as habilidades devem ser desenvolvidas, indexadas, refinadas e gerenciadas durante todo o ciclo de vida de um agente.

Como os pesquisadores afirmam em seu artigo, "não há nenhuma maneira baseada em princípios para quantificar a eficiência com que um agente evolui seu repertório processual ou para garantir que novas experiências melhorem em vez de prejudicar o desempenho".

Como o Memp funciona

O Memp é uma estrutura independente de tarefas que trata a memória processual como um componente fundamental e otimizável. Ela opera por meio de três estágios principais que formam um ciclo contínuo: construção, recuperação e atualização da memória.

As memórias são construídas a partir das experiências passadas de um agente, ou "trajetórias". A equipe investigou o armazenamento dessas memórias de duas formas: como ações exatas, passo a passo, ou resumindo essas ações em abstrações de nível superior, semelhantes a scripts. Para recuperação, quando lhe é apresentada uma nova tarefa, o agente busca em sua memória a experiência anterior mais relevante. Os pesquisadores testaram vários métodos, inclusive a pesquisa vetorial, para alinhar a descrição da nova tarefa com consultas anteriores ou extrair palavras-chave para encontrar a correspondência mais próxima.

O mecanismo de atualização é o elemento mais importante. O Memp incorpora várias estratégias para garantir a evolução da memória do agente. À medida que um agente conclui mais tarefas, sua memória pode ser atualizada adicionando a nova experiência, filtrando apenas os resultados bem-sucedidos ou, o que é mais eficaz, analisando as falhas para corrigir e aprimorar a memória original.

Essa ênfase na memória dinâmica e adaptável situa o Memp em uma área de pesquisa crescente voltada para o aprimoramento da confiabilidade dos agentes de IA para atribuições de longo prazo. O projeto se alinha a outras iniciativas, como o Mem0, que extrai informações essenciais de longas conversas e as organiza em fatos estruturados e gráficos de conhecimento para manter a consistência. Da mesma forma, o A-MEM permite que os agentes gerem e conectem de forma autônoma "notas de memória" de suas interações, criando uma rede de conhecimento sofisticada ao longo do tempo.

No entanto, o coautor Runnan Fang aponta uma diferença crucial entre o Memp e estruturas semelhantes.

"O Mem0 e o A-MEM são excelentes trabalhos... mas eles se concentram em lembrar o conteúdo mais importante em uma única trajetória ou conversa", explicou Fang à VentureBeat. Essencialmente, eles ajudam um agente a lembrar "o que" ocorreu. "A Memp, por outro lado, tem como objetivo a memória processual de trajetórias cruzadas". Ela se concentra no conhecimento de "como fazer" que pode ser aplicado em tarefas comparáveis, eliminando a necessidade de o agente começar repetidamente da estaca zero.

"Ao destilar fluxos de trabalho anteriores bem-sucedidos em antecedentes processuais reutilizáveis, o Memp aumenta as taxas de sucesso e reduz as etapas", continuou Fang. "De forma crucial, também introduzimos um mecanismo de atualização para que essa memória processual continue melhorando - afinal, a prática leva à perfeição também para os agentes."

Superando o desafio da partida a frio

Embora aprender com experiências passadas seja um conceito poderoso, ele representa um desafio prático: como um agente desenvolve sua memória inicial quando não há exemplos perfeitos disponíveis? A equipe de pesquisa aborda essa questão do "início a frio" com uma solução prática.

Fang descreveu como os desenvolvedores podem começar definindo uma métrica de avaliação robusta em vez de precisar de uma trajetória "dourada" perfeita desde o início. Essa métrica, que pode ser baseada em regras ou alimentada por outro LLM, classifica a qualidade do desempenho de um agente. "Uma vez que essa métrica esteja implementada, permitimos que modelos de última geração explorem o fluxo de trabalho do agente e retenham as trajetórias que obtiverem as pontuações mais altas", disse Fang. Esse método monta rapidamente uma coleção inicial de memórias valiosas, permitindo que um novo agente se torne proficiente sem uma codificação manual extensa.

Memp em ação

Para avaliar a estrutura, a equipe integrou o Memp aos principais LLMs, como GPT-4o, Claude 3.5 Sonnet e Qwen2.5, testando-os em tarefas exigentes, como tarefas domésticas no benchmark ALFWorld e coleta de informações no TravelPlanner. Os resultados revelaram que, ao criar e acessar a memória processual, um agente pode resumir e reutilizar com eficiência sua experiência anterior.

Nos testes, os agentes que usaram a Memp não apenas alcançaram taxas de sucesso mais altas, mas também operaram com muito mais eficiência. Eles eliminaram a exploração improdutiva e a adivinhação, reduzindo significativamente o número de etapas e o uso de tokens necessários para concluir uma tarefa.

Uma descoberta particularmente notável para uso comercial é que a memória procedural pode ser transferida. Em um teste, a memória processual criada pelo GPT-4o de alta potência foi fornecida a um modelo muito menor, o Qwen2.5-14B. O desempenho do modelo menor melhorou significativamente, aumentando sua taxa de sucesso e reduzindo as etapas necessárias para realizar as tarefas.

De acordo com Fang, isso é possível porque os modelos menores normalmente lidam com ações simples e de uma única etapa com competência, mas têm dificuldades com o planejamento e o raciocínio de longo prazo. A memória processual do modelo maior preenche efetivamente essa lacuna. Isso significa que o conhecimento pode ser reunido usando um modelo de alto nível e depois aplicado a modelos menores e mais econômicos sem sacrificar as vantagens dessa experiência aprendida.

Avançando em direção a agentes totalmente autônomos

Ao integrar funções de atualização de memória, a estrutura Memp permite que os agentes desenvolvam e aperfeiçoem continuamente seu conhecimento processual à medida que trabalham em ambientes reais. Os pesquisadores observaram que isso proporcionou ao agente um "domínio contínuo e quase linear da tarefa".

Ainda assim, a obtenção de autonomia completa enfrenta outro obstáculo: várias tarefas do mundo real, como a geração de um relatório de pesquisa, não têm um indicador claro de sucesso. Para continuar melhorando, um agente precisa saber se seu desempenho foi satisfatório. Fang acredita que a solução está no emprego de LLMs como avaliadores.

"Atualmente, muitas vezes combinamos modelos avançados com regras criadas manualmente para calcular as pontuações de conclusão", observa ele. "Isso funciona, mas as regras escritas à mão são inflexíveis e difíceis de generalizar."

Um LLM atuando como juiz poderia oferecer o feedback detalhado e de supervisão necessário para que um agente se autocorrigisse em atribuições complexas e subjetivas. Isso tornaria o processo geral de aprendizagem mais dimensionável e resiliente, representando um passo vital para a criação de trabalhadores de IA duráveis, flexíveis e genuinamente autônomos, essenciais para a automação empresarial avançada.