AI 메모리를 요약본으로 취급하는 것을 그만두었습니다
저는 AI 메모리를 요약본으로 취급하는 것을 그만두었습니다. 이제는 이를 핸드오프(handoff)로 취급합니다.
대부분의 메모리 시스템은 요약에 집중합니다. 세션이 끝나면 대화를 압축하고, 나중에 쓰기 위해 중요한 부분들을 저장합니다.
이것은 실수입니다. 요약은 특별한 독자 없이 모든 것을 압축하려고 시도합니다. 명확한 독자가 결여되어 있습니다.
핸드오프는 다릅니다. 핸드오프는 다음 상호작용을 준비합니다. 마치 처음부터 그 자리에 있었던 것처럼 가장하지 않으면서도, 작업을 이어서 수행해야 하는 미래의 세션을 위해 기록을 남깁니다.
AI 메모리를 구축한다면, 다음 네 가지 구체적인 사항에 집중해야 합니다:
- 프레이밍의 변화(Framing shifts): 세션 동안 사용자의 관점이 어떻게 변했는지.
- 경계(Boundaries): "나 대신 이 결정을 내리지 마세요" 또는 "이 주제를 다시 꺼내기 전에 물어보세요"와 같은 규칙.
- 해결되지 않은 긴장 상태(Unresolved tensions): 사용자가 의도적으로 열어두기로 선택한 사항들.
- 사용자 수정 사항(User corrections): 시스템이 실패했을 때 사용자가 수정한 내용.
핸드오프에는 스키마(schema)가 필요합니다. 무엇을 다음으로 넘길지, 무엇을 남겨둘지를 구분해야 합니다. 또한 사용자가 해당 데이터를 승인했는지 여부도 추적해야 합니다.
목표는 모든 것을 기억하는 것이 아닙니다. 목표는 다음 세션을 더 정확하고 덜 반복적으로 만들어 줄 소수의 핵심 사항을 보존하는 것입니다.
가장 큰 위험은 모델이 모든 것을 결정하게 두는 것입니다. 모델이 혼자서 핸드오프를 작성하면, 이해하기는 쉽지만 실제와는 다른 사용자의 버전을 저장할 수 있습니다. 일시적인 기분을 영구적인 특성으로 변질시킬 수도 있습니다.
해결책은 절충안에 있습니다: 모델이 초안을 작성하고, 사용자가 이를 승인합니다.
사용자에게 권한이 있어야 합니다. 사용자는 전달될 내용을 빠르게 유지, 삭제 또는 편집할 수 있어야 합니다. 시스템이 잘못된 내용을 전달하면, 사용자는 이를 되돌리는 데 시간을 허비하게 됩니다.
메모리는 저장의 문제가 아닙니다. 거버넌스(governance)의 문제입니다.
다음을 결정해야 합니다:
- 무엇을 기억할지 누가 결정하는가?
- 누가 이를 수정할 수 있는가?
- 시스템은 언제 잊기로 선택해야 하는가?
AI 메모리는 요약본의 더미가 되어서는 안 됩니다. 관리되는 핸드오프의 집합이어야 합니다.
Source: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb
Optional learning community: https://t.me/GyaanSetuAi