Parei de tratar a memória da IA como resumos

Parei de tratar a memória da IA como um resumo. Agora, eu a trato como uma passagem de bastão.

A maioria dos sistemas de memória foca na sumarização. Eles comprimem uma conversa ao final de uma sessão. Eles salvam as partes importantes para depois.

Isso é um erro. Um resumo tenta comprimir tudo para ninguém em particular. Ele carece de um leitor claro.

Uma passagem de bastão é diferente. Uma passagem de bastão prepara a próxima interação. Ela escreve para uma sessão futura que precisa retomar o trabalho sem fingir que esteve presente o tempo todo.

Se você constrói memória de IA, deve focar em quatro coisas específicas:

  • Mudanças de enquadramento: Como a perspectiva do usuário mudou durante a sessão.
  • Limites: Regras como "Não tome esta decisão por mim" ou "Pergunte antes de reabrir este tópico".
  • Tensões não resolvidas: Coisas que o usuário escolheu deixar em aberto propositalmente.
  • Correções do usuário: Quando o sistema falhou e o usuário forneceu a correção.

Uma passagem de bastão exige um esquema. Ela deve separar o que deve ser levado adiante do que deve ser deixado para trás. Também deve rastrear se o usuário aprovou os dados.

O objetivo não é lembrar de tudo. O objetivo é preservar as poucas coisas que tornam a próxima sessão mais precisa e menos repetitiva.

O maior risco é deixar o modelo decidir tudo. Se o modelo escrever a passagem de bastão sozinho, ele pode salvar uma versão do usuário que seja fácil de entender, mas que não seja verdadeira. Ele pode transformar um humor temporário em um traço permanente.

A solução é um meio-termo: o modelo elabora o rascunho e o usuário ratifica.

O usuário deve ter autoridade. Ele deve ser capaz de manter, excluir ou editar rapidamente o que é levado adiante. Se o sistema levar a coisa errada adiante, o usuário perderá tempo desfazendo isso.

Memória não é um problema de armazenamento. É um problema de governança.

Você deve decidir:

  • Quem decide o que será lembrado?
  • Quem pode corrigir?
  • Quando o sistema deve escolher esquecer?

A memória de IA não deve ser um monte de resumos. Deve ser um conjunto de passagens de bastão governadas.

Fonte: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb

Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi