오늘의 한줄
오늘은 LLM 추론 가속과 에이전트 시스템 설계, 그리고 장기 시계열을 다루는 비전·비디오 생성 연구가 특히 두드러졌습니다. 단일 모델 성능을 넘어서 학습 신호, 실행 하네스, 검색·메모리·희소화 구조까지 함께 최적화하는 방향이 뚜렷해지고 있습니다.
💻Code & Agents4
COLLEAGUE.SKILL: Automated AI Skill Generation via Expert Knowledge Distillation전문가 흔적에서 AI 스킬을 자동 추출하는 COLLEAGUE.SKILL⭐ 18,770
COLLEAGUE.SKILL은 사람·역할별 이질적 작업 흔적을 capability/behavior 이중 트랙의 버전형 스킬 패키지로 자동 증류해, 검사·수정 가능한 전문가 기반 에이전트 구축 워크플로를 제시합니다.
From Model Scaling to System Scaling: Scaling the Harness in Agentic AI에이전트 AI의 다음 과제, 모델 스케일링에서 시스템 스케일링으로⭐ 711
이 논문은 에이전트 성능을 모델 자체가 아니라 메모리·검색·오케스트레이션·검증 계층이 결합된 ‘하네스’의 문제로 재정의하며, 감사 가능하고 모듈식인 시스템 스케일링 관점을 제안합니다.
GrepSeek: Training Search Agents for Direct Corpus Interaction검색 인덱스 대신 코퍼스와 직접 상호작용하는 검색 에이전트⭐ 22
GrepSeek은 검색기를 거치지 않고 grep 같은 셸 명령으로 대규모 코퍼스에서 근거를 직접 찾는 DCI 에이전트를 제안하며, 튜터·플래너 기반 콜드스타트와 2단계 학습으로 RL 불안정을 줄였습니다.
💡 에이전트 연구의 초점이 이제 모델 능력보다 스킬 패키징, 검색 인터페이스, 하네스 구조, 지속적 보안 같은 시스템 층으로 이동하고 있습니다. 실전 배치에서는 ‘무엇을 생성하나’보다 ‘어떻게 실행·기억·검증·방어하나’가 성능과 안전을 함께 좌우한다는 점이 분명해집니다.
👁️Computer Vision4
VLM3: Vision Language Models Are Native 3D Learners비전-언어 모델은 본질적으로 3D를 배운다⭐ 58
VLM3는 초점거리 통일, 텍스트 기반 픽셀 참조, 데이터 혼합·스케일링만으로 표준 VLM의 3D 학습을 끌어올려 depth 정확도를 0.84에서 0.90으로 높이고 다양한 3D 작업을 단순 설계로 통합했습니다.
GGT-100K: Generative Ground Truth for Generalizable Real-World Image Restoration실세계 이미지 복원을 위한 생성형 정답 데이터셋 GGT-100K⭐ 29
GGT-100K는 Nano-Banana-2와 VLM 적응형 프롬프팅으로 실제 저화질 이미지의 고품질 타깃을 생성해 paired 데이터 부족을 보완하며, 실세계 복원 일반화를 위한 대규모 생성형 정답 파이프라인을 제시합니다.
SurGe: Improved Surface Geometry in Point Maps포인트맵의 표면 기하를 개선한 SurGe⭐ 27
SurGe는 로컬 표면 방향 오차를 드러내는 point map normal metric과 point gradient matching loss, NAD 디코더를 도입해 8개 제로샷 단안 3D 벤치마크에서 전반적 기하 품질을 개선했습니다.
💡 비전 분야에서는 범용 모델을 3D 이해, 이미지 복원, 표면 기하, 객체 계수처럼 전통적으로 분리됐던 문제들에 재활용하려는 흐름이 강합니다. 동시에 더 좋은 데이터셋과 더 예민한 평가 지표를 함께 설계해, 겉보기 성능이 아닌 실제 현장 일반화 성능을 끌어올리려는 시도가 돋보입니다.
📄Training & Optimization2
Draft-OPD: On-Policy Distillation for Speculative Draft Models스페큘러티브 드래프트 모델을 위한 온폴리시 증류, Draft-OPD⭐ 15
Draft-OPD는 SFT의 오프라인-추론 불일치를 해결하기 위해 드래프트 모델이 실제 자신의 정책에서 만나는 상태를 타깃 모델로 감독하는 온폴리시 증류를 도입해 acceptance length 향상을 노립니다.
Domino: Decoupling Causal Modeling from Autoregressive Drafting in Speculative Decoding인과 모델링과 자기회귀 드래프팅을 분리한 Domino⭐ 29
Domino는 병렬 draft backbone 위에 prefix 의존 정보를 보정하는 경량 head를 얹어 인과성은 유지하면서 자기회귀 드래프팅 비용을 줄이고, 스페큘러티브 디코딩의 속도-품질 절충을 완화합니다.
💡 추론 가속 연구는 단순히 작은 드래프트 모델을 붙이는 수준을 넘어, 학습 분포와 실제 추론 분포의 불일치 자체를 줄이는 방향으로 진화하고 있습니다. 결국 속도 향상의 핵심은 아키텍처 트릭보다도 드래프터가 실제 디코딩 상황을 얼마나 충실히 학습하느냐에 달려 있습니다.
📄Multimodal & Generative4
One-Forcing: Towards Stable One-Step Autoregressive Video Generation안정적인 원스텝 자기회귀 비디오 생성을 향한 One-Forcing⭐ 30
One-Forcing은 DMD 목적함수에 보조 GAN 손실을 결합해 원스텝 자기회귀 비디오 생성의 블러와 약한 동작 문제를 줄였고, VBench 총점 83.76으로 해당 설정의 SOTA를 달성했습니다.
X-Stream: Exploring MLLMs as Multiplexers for Multi-Stream Understanding멀티스트림 이해를 위한 MLLM 멀티플렉서 벤치마크 X-Stream⭐ 18
X-Stream은 932개 비디오와 4,220개 QA로 구성된 첫 멀티스트림 스트리밍 이해 벤치마크를 제안하고, MLLM을 신호 멀티플렉서 관점에서 분석해 온라인 교차 스트림 추론의 한계를 드러냅니다.
LongLive-RAG: A General Retrieval-Augmented Framework for Long Video Generation롱비디오 생성을 위한 검색증강 프레임워크 LongLive-RAG⭐ 21
LongLive-RAG는 이전에 생성된 latent를 검색 가능한 동적 메모리로 활용해 최근 윈도에만 의존하던 AR 비디오 확산의 누적 오류와 identity drift를 줄이는 일반형 RAG 프레임워크를 제안합니다.
💡 멀티모달·생성 연구는 더 긴 입력과 더 긴 출력을 다루기 위해 검색, 희소 어텐션, 원스텝 생성 같은 시스템적 장치를 적극 도입하고 있습니다. 벤치마크 역시 단일 스트림·짧은 시퀀스를 넘어, 실제 사용 환경의 복잡한 시간성과 병렬성을 반영하는 방향으로 확장되고 있습니다.
🗣️Language Models4
NITP: Next Implicit Token Prediction for LLM Pre-trainingLLM 사전학습을 위한 다음 암묵 토큰 예측, NITP⭐ 23
NITP는 기존 NTP에 더해 다음 토큰의 암묵적 의미를 표현 공간에서 예측하도록 학습해 숨은 상태의 퇴화와 비등방성을 줄였고, 0.5B~9B dense·MoE 모델 전반에서 다운스트림 성능을 일관되게 개선했습니다.
LongTraceRL: Learning Long-Context Reasoning from Search Agent Trajectories with Rubric Rewards검색 에이전트 궤적과 루브릭 보상으로 배우는 장문맥 추론⭐ 16
LongTraceRL은 검색 에이전트 궤적으로 고혼동 distractor를 만들고, 추론 체인별 gold entity를 활용한 rubric reward를 설계해 장문맥 다중홉 추론에서 중간 단계 감독을 강화했습니다.
dMoE: dLLMs with Learnable Block Experts블록 단위 전문가를 학습하는 확산 LLM용 dMoE⭐ 21
dMoE는 확산 LLM의 블록 병렬 디코딩과 토큰별 MoE 라우팅의 불일치를 해결하기 위해 토큰 expert 분포를 블록 수준으로 집계해, 활성 전문가 수와 메모리 병목을 줄이는 블록형 MoE를 제안합니다.
💡 언어모델 연구는 사전학습 목표, 장문맥 RL, 언러닝 평가, 확산형 LLM 설계처럼 모델 내부 표현과 학습 신호를 더 정교하게 다루는 쪽으로 깊어지고 있습니다. 성능 향상뿐 아니라 표현 구조, 보상 밀도, 삭제 가능성, 추론 효율까지 함께 최적화하려는 흐름이 뚜렷합니다.
📄Robotics & RL2
VisualThink-VLA: Visual Intermediate Reasoning for Effective and Low-Latency Vision-Language-Action Policies저지연 VLA를 위한 시각적 중간 추론, VisualThink-VLA⭐ 15
VisualThink-VLA는 텍스트 CoT 대신 공간 정밀도를 보존하는 시각 증거 토큰과 선택적 라우팅을 사용해, 실시간 폐루프 제어에 필요한 정확도와 저지연을 함께 겨냥한 VLA 정책을 제안합니다.
Where to Look: Can Foundation Models Reach a Target Viewpoint Through Active Exploration?기초 모델은 능동 탐색으로 목표 시점을 재현할 수 있을까?⭐ 13
TVRBench는 목표 이미지와 일치하는 시점을 능동적으로 찾아가는 TVR 과제를 제안하며, 최고 모델도 성공률이 7.8%와 12.0%에 그쳐 다중 턴 시각 기억과 이동 기반 공간 추론의 큰 격차를 보여줍니다.
💡 로보틱스· embodied 연구에서는 텍스트 추론을 그대로 행동 정책에 얹는 접근의 한계가 드러나고, 시각적 중간 표현과 능동 탐색 같은 몸을 가진 추론으로 무게중심이 옮겨가고 있습니다. 특히 실시간성, 다중 턴 기억, 이동 기반 공간 추론이 다음 병목으로 보입니다.