Przestałem traktować pamięć AI jako podsumowania

Przestałem traktować pamięć AI jako podsumowanie. Teraz traktuję ją jako przekazanie (handoff).

Większość systemów pamięci skupia się na streszczaniu. Kompresują one rozmowę na koniec sesji. Zapisują najważniejsze fragmenty na później.

To błąd. Podsumowanie próbuje skompresować wszystko dla nikogo konkretnego. Brakuje mu wyraźnego odbiorcy.

Przekazanie (handoff) jest inne. Przygotowuje ono kolejną interakcję. Tworzy ono zapis dla przyszłej sesji, która musi kontynuować pracę, nie udając, że była obecna od samego początku.

Jeśli budujesz pamięć AI, powinieneś skupić się na czterech konkretnych rzeczach:

  • Zmiany ramowania (framing shifts): Jak zmieniła się perspektywa użytkownika podczas sesji.
  • Granice: Zasady typu „Nie podejmuj za mnie tej decyzji” lub „Zapytaj, zanim ponownie otworzysz ten temat”.
  • Nierozwiązane napięcia: Rzeczy, które użytkownik celowo zdecydował się pozostawić otwarte.
  • Poprawki użytkownika: Sytuacje, w których system zawiódł, a użytkownik wskazał rozwiązanie.

Przekazanie wymaga schematu. Musi on oddzielać to, co należy przekazać dalej, od tego, co należy zostawić za sobą. Musi również śledzić, czy użytkownik zatwierdził dane.

Celem nie jest zapamiętanie wszystkiego. Celem jest zachowanie tych kilku rzeczy, które sprawią, że kolejna sesja będzie dokładniejsza i mniej powtarzalna.

Największym ryzykiem jest pozwolenie modelowi na decydowanie o wszystkim. Jeśli model samodzielnie tworzy przekazanie, może zapisać wersję użytkownika, która jest łatwa do zrozumienia, ale nieprawdziwa. Może zamienić chwilowy nastrój w trwałą cechę charakteru.

Rozwiązaniem jest złoty środek: model tworzy szkic, a użytkownik go zatwierdza.

Użytkownik musi mieć decyzyjność. Powinien mieć możliwość szybkiego zachowania, usunięcia lub edycji tego, co jest przekazywane dalej. Jeśli system przekaże niewłaściwą rzecz, użytkownik straci czas na jej cofanie.

Pamięć to nie problem przechowywania danych. To problem zarządzania (governance).

Musisz zdecydować:

  • Kto decyduje o tym, co jest zapamiętywane?
  • Kto może to poprawić?
  • Kiedy system powinien zdecydować o zapomnieniu?

Pamięć AI nie powinna być stosem podsumowań. Powinna być zestawem zarządzanych przekazań (handoffs).

Source: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb

Optional learning community: https://t.me/GyaanSetuAi