AIのメモリを「要約」として扱うのをやめた
AIのメモリを要約として扱うのをやめた。今は、それを「ハンドオフ（引き継ぎ）」として扱っている。
ほとんどのメモリシステムは要約に焦点を当てている。セッションの最後に会話を圧縮し、重要な部分を後で使うために保存する。
これは間違いだ。要約は、特定の誰のためでもなく、すべてを圧縮しようとする。そこには明確な読み手がいない。
ハンドオフは異なる。ハンドオフは次のインタラクションに備えるものだ。最初からそこにいたかのように振る舞うのではなく、作業を引き継ぐ必要がある将来のセッションに向けて記述する。
AIメモリを構築する場合、以下の4つの特定の事項に焦点を当てるべきだ：
- フレーミングの転換（Framing shifts）：セッション中にユーザーの視点がどのように変化したか。
- 境界線（Boundaries）：「私の代わりにこの決定を下さないでください」や「このトピックを再開する前に確認してください」といったルール。
- 未解決の緊張状態（Unresolved tensions）：ユーザーがあえて未解決のままにしておくことを選んだ事項。
- ユーザーによる修正（User corrections）：システムが失敗し、ユーザーが修正を行った場合。
ハンドオフにはスキーマが必要だ。何を次に持ち越し、何を後に残すかを区別しなければならない。また、ユーザーがそのデータを承認したかどうかも追跡する必要がある。
目標はすべてを記憶することではない。次のセッションをより正確にし、繰り返しを減らすための、わずかな事項を保存することだ。
最大のリスクは、モデルにすべてを決定させてしまうことだ。モデルが単独でハンドオフを記述すると、理解しやすいが真実ではない「ユーザー像」を保存してしまう可能性がある。一時的な気分を、永続的な特性に変えてしまうかもしれない。
解決策は中間的なアプローチだ。モデルがドラフト（下書き）を作成し、ユーザーがそれを承認する。
ユーザーが権限を持たなければならない。次に持ち越す内容を、素早く保持、削除、または編集できるようにすべきだ。システムが間違った内容を持ち越すと、ユーザーはそれを元に戻すために時間を浪費することになる。
メモリはストレージの問題ではない。ガバナンスの問題だ。
次の事項を決定しなければならない：
- 何を記憶するかを誰が決めるのか？
- 誰がそれを修正できるのか？
- システムはいつ忘却することを選択すべきか？
AIメモリは要約の山であってはならない。管理された一連のハンドオフであるべきだ。
Source: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb
Optional learning community: https://t.me/GyaanSetuAi