본문으로 건너뛰기

최근 AI 스택 5개 신호: Agent, Voice LLM, EmbeddingGemma, Local sLLM, Qiskit Paulice

· 약 6분
p4r4d0xb0x
p4r4d0xb0x
Rustacean, AI, OSS Enthusiast

“가장 최근”이라는 말은 뉴스 피드에서는 위험하다. 공개 웹은 수시로 바뀌고, 일부 공식 페이지는 동적 렌더링이나 robots 정책 때문에 자동 검증이 제한된다. 그래서 이 글은 2026-07-06에 직접 확인 가능한 공개 자료 기준으로, AI/LLM/Embedding/sLLM/Quantum Computing에서 각각 하나씩 의미 있는 신호를 고른다. 목적은 유행어 정리가 아니라 “다음 구현·제품·연구 판단에서 무엇을 봐야 하는가”를 분리하는 것이다.

Image choice​

표지 이미지는 다섯 분야를 하나의 운영 대시보드처럼 배치한 직접 제작 다이어그램이다. 이번 글의 핵심이 단일 모델 뉴스가 아니라 AI 스택 전반의 변화 신호를 빠르게 비교하는 것이므로, 각 분야를 같은 형식의 lane으로 보여주는 이미지가 본문 구조와 가장 잘 맞는다.

Dark glass dashboard showing five recent signals across AI, LLM, Embedding, sLLM, and Quantum Computing

각 lane은 “흥미로운 발표 하나”가 아니라 실제 시스템 설계에서 봐야 할 질문 하나를 나타낸다.

AI — ScarfBench: 에이전트는 코드를 바꾸는가, 동작을 보존하는가​

AI 분야의 최근 신호로는 Hugging Face에 공개된 IBM Research의 ScarfBench를 골랐다. ScarfBench는 Enterprise Java framework migration을 평가하는 benchmark다. 중요한 점은 “코드가 그럴듯하게 바뀌었는가”가 아니라 “빌드되고, 배포되고, 행동이 보존되는가”를 평가한다는 데 있다.

이 관점은 agentic coding의 실전 기준을 바꾼다. 코드 생성 benchmark에서는 patch가 reference와 얼마나 비슷한지 보기도 하지만, framework migration에서는 설정, persistence, runtime dependency, deployment descriptor가 함께 움직인다. ScarfBench가 보여주는 메시지는 단순하다. 에이전트의 답변이 아니라 독립적인 build/deploy/test gate가 신뢰의 기준이 되어야 한다.

용어 해설: Agentic workflow

모델이 한 번 답하고 끝나는 것이 아니라, 목표를 나누고 도구를 쓰고 결과를 확인하며 다시 수정하는 작업 흐름이다.

예: 숙제를 한 번에 제출하는 대신, 초안을 쓰고 사전을 찾아보고 선생님 피드백을 반영해 다시 고치는 과정과 비슷하다.

LLM — Gemma 4 voice AI: 품질 다음 병목은 latency다​

LLM 분야에서는 Hugging Face와 Cerebras의 Gemma 4 real-time voice AI 데모가 눈에 띈다. 공개 글은 speech input → speech recognition → Gemma 4 VLM inference on Cerebras → Qwen3TTS → spoken response로 이어지는 open cascaded speech-to-speech stack을 설명한다. 여기서 핵심은 모델 품질만이 아니라 응답 지연시간이다.

대화형 음성 AI에서 1초와 4초의 차이는 benchmark 점수보다 크게 느껴진다. 특히 tool call, multimodal step, 여러 turn이 섞이면 평균 latency보다 P95 latency가 제품 경험을 좌우한다. 이 발표의 실용적 의미는 “더 큰 모델”보다 “예측 가능한 빠른 inference stack”이 real-world interaction의 조건이 된다는 점이다.

용어 해설: Latency

요청을 보낸 뒤 결과가 돌아오기까지 걸리는 시간이다.

예: 친구에게 질문했을 때 바로 대답하면 대화가 이어지지만, 매번 몇 초씩 멈추면 말의 흐름이 끊기는 것과 같다.

Embedding — EmbeddingGemma: 검색 모델도 온디바이스를 향한다​

Embedding 분야에서는 Google의 EmbeddingGemma 공개 글을 골랐다. EmbeddingGemma는 308M parameter, 2K context window, 100개 이상 언어 지원을 내세우는 multilingual embedding model이다. 공개 글은 quantized 상태에서 200MB 미만 RAM footprint와 MTEB/MMTEB 평가를 강조한다.

Embedding은 챗봇보다 덜 화려하지만 RAG, semantic search, recommendation, clustering의 기반이다. 작은 multilingual embedding model이 중요해지는 이유는 검색 파이프라인을 서버 밖으로 옮길 수 있기 때문이다. 문서 일부를 기기 안에서 벡터화하고, 민감한 데이터를 외부 API로 보내지 않는 구조가 가능해진다.

용어 해설: Embedding

글, 이미지, 문장 같은 대상을 숫자 목록으로 바꿔서 서로 얼마나 비슷한지 비교할 수 있게 만든 표현이다.

예: 도서관 책마다 “모험 8점, 과학 6점, 역사 1점”처럼 특징 점수를 붙이면 비슷한 책을 빨리 찾을 수 있는 것과 비슷하다.

sLLM — Local models for PR triage: 작은 모델의 가치는 소유권과 제어다​

sLLM 분야에서는 Hugging Face의 local models PR triage 사례를 골랐다. 이 글은 local open-weight models를 agent harness 안에서 사용해 issue와 PR을 분류하는 구조를 설명한다. 예시 모델은 Gemma와 Qwen 계열이며, 핵심은 “폐쇄형 모델을 쓰지 않는다”가 아니라 “분류 작업의 비용, 지연, quota, 데이터 경계를 직접 제어한다”는 점이다.

sLLM을 단순히 “큰 모델보다 성능이 낮은 모델”로 보면 놓치는 것이 많다. 실제 업무에서는 모든 작업이 frontier model을 필요로 하지 않는다. PR triage처럼 schema가 명확하고 반복되는 작업은 local model + restricted tool + structured output으로 충분히 강한 운영 구조를 만들 수 있다.

용어 해설: sLLM

큰 서버에서만 돌리는 거대 모델보다 작고 가벼워서 개인 장비나 회사 내부 장비에서 돌리기 쉬운 언어 모델이다.

예: 모든 짐을 대형 트럭으로 옮기지 않고, 동네 배달은 작은 전기차로 처리하는 것과 비슷하다.

Quantum Computing — Qiskit Paulice: 오류 수정 전 단계의 실용적 오류 감지​

Quantum Computing 분야에서는 IBM Quantum의 Qiskit Paulice를 골랐다. IBM은 Paulice를 spacetime Pauli checks를 회로 안에 직접 넣어 실행 중 오류를 감지하고, 오류가 관측된 run을 걸러내는 Qiskit addon으로 설명한다. 이 접근은 완전한 fault-tolerant quantum computing 전에 사용할 수 있는 error handling 도구에 가깝다.

양자 컴퓨팅에서 중요한 변화는 “큐비트 수”만이 아니다. 실제 계산이 커질수록 noise를 어떻게 다루는지가 실용성의 핵심이 된다. Paulice의 메시지는 error correction이라는 최종 목표로 가는 중간 단계에서도, 회로 실행 중 어떤 결과를 신뢰할지 판별하는 tooling이 중요해진다는 것이다.

용어 해설: Quantum error detection

양자 계산 중에 오류가 났는지 확인하는 방법이다. 오류를 바로 고치는 것과는 다르지만, 잘못된 결과를 걸러내는 데 도움이 된다.

예: 시험지를 채점하기 전에 답안지가 찢어졌는지, 이름이 빠졌는지 먼저 확인해 이상한 답안지를 빼는 것과 비슷하다.

읽는 법​

다섯 신호를 하나로 묶으면 방향은 분명하다. AI는 “생성”보다 “검증 가능한 workflow”로, LLM은 “크기”보다 “응답시간과 interaction”으로, Embedding은 “서버 검색”보다 “device-side retrieval”로, sLLM은 “낮은 성능”보다 “소유권과 운영 제어”로, Quantum Computing은 “큰 미래”보다 “오류를 다루는 현재 도구”로 이동하고 있다.

따라서 이번 roundup의 결론은 어떤 단일 제품을 따라가자는 것이 아니다. 각 분야에서 같은 질문을 던져야 한다. “이 기술은 실제 운영 경계에서 무엇을 더 검증 가능하게 만드는가?” 이 질문에 답하지 못하면 최신 발표도 금방 소음이 된다.

Sources​