xLSTM: 순환 메모리를 다시 확장하는 방법
xLSTM은 LSTM의 게이팅과 메모리 구조를 현대 언어 모델의 스케일링 관점에서 다시 설계한다. 공개 초록과 메타데이터를 바탕으로 sLSTM·mLSTM의 역할, 병렬화와 메모리 상태의 의미, 그리고 확인되지 않은 성능 조건을 정리한다.
// TOPIC STREAM
"Recurrent Model" 태그 글 2개
순환 모델 아키텍처와 분석 / Recurrent model architectures and analysis.
Resona: 선형 재귀 모델의 컨텍스트 복사를 검색으로 보완하기
Resona는 입력 컨텍스트에서 필요한 정보를 검색해 선형 재귀 언어 모델에 다시 주입하는 프레임워크다. 논문 초록을 바탕으로 컨텍스트 복사의 병목, 검색 결합 방식의 의미, 그리고 실전 도입 전에 확인할 평가·비용·근거를 정리한다.