Я перестал воспринимать память ИИ как краткие сводки

Я перестал воспринимать память ИИ как краткое резюме. Теперь я рассматриваю её как передачу дел (handoff).

Большинство систем памяти сосредоточены на суммаризации. Они сжимают разговор в конце сессии, сохраняя важные части на будущее.

Это ошибка. Резюме пытается сжать всё сразу, не ориентируясь на конкретного читателя. Ему не хватает четко определенного адресата.

Передача дел (handoff) работает иначе. Она готовит почву для следующего взаимодействия. Она создается для будущей сессии, которой нужно будет продолжить работу, не делая вид, что она присутствовала при всем процессе.

Если вы создаете память для ИИ, вам следует сосредоточиться на четырех вещах:

  • Смена ракурса (Framing shifts): как изменилась точка зрения пользователя в ходе сессии.
  • Границы: правила вроде «Не принимай это решение за меня» или «Спрашивай, прежде чем снова поднимать эту тему».
  • Нерешенные противоречия: вещи, которые пользователь намеренно решил оставить открытыми.
  • Исправления пользователя: случаи, когда система ошиблась, а пользователь предоставил верное решение.

Для передачи дел нужна схема. Она должна отделять то, что нужно перенести в будущее, от того, что следует оставить позади. Также она должна отслеживать, одобрил ли пользователь эти данные.

Цель не в том, чтобы помнить всё. Цель — сохранить те немногие вещи, которые сделают следующую сессию более точной и менее повторяющейся.

Самый большой риск — позволить модели решать всё самой. Если модель пишет «передачу дел» в одиночку, она может сохранить такой образ пользователя, который легко понять, но который не соответствует действительности. Она может превратить временное настроение в постоянную черту характера.

Решение — золотая середина: модель готовит черновик, а пользователь его утверждает.

У пользователя должен быть авторитет. Он должен иметь возможность быстро сохранить, удалить или отредактировать то, что переносится дальше. Если система перенесет неверную информацию, пользователь потратит время на её исправление.

Память — это не проблема хранения. Это проблема управления (governance).

Вы должны решить:

  • Кто решает, что именно нужно запомнить?
  • Кто может это исправить?
  • В каких случаях система должна выбирать забвение?

Память ИИ не должна быть кучей резюме. Она должна представлять собой набор управляемых передач контекста.

Source: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb

Optional learning community: https://t.me/GyaanSetuAi