고정 크기 hidden state는 메모리인가, 압축인가?
고정 크기 recurrent hidden state를 기억 장치와 정보 압축의 관점에서 구분한다. S4, Mamba, RWKV, Resona를 중심으로 상태의 역할을 설명하고, Qdrant와 Statey는 외부 메모리 맥락으로 분리해 다룬다.
// TOPIC STREAM
"Memory" 태그 글 1개
지속적·순환적·검색 기반 메모리 / Persistent, recurrent, and retrieval-based memory.