오늘의 한줄
오늘은 대규모 에이전트 학습을 실제로 굴리기 위한 시스템·정책최적화 연구와, 긴 문맥·월드모델을 활용해 로봇과 비디오 생성의 성능을 끌어올리는 작업이 두드러졌습니다. 동시에 자기증류·RL-only 적응처럼 후학습을 단순화하려는 시도들이 성과와 붕괴 메커니즘을 함께 정교하게 분석하고 있습니다.
📄Training & Optimization3
NeMo-DCR: Bit-Exact Delta-Compressed Refit for Scalable Agentic RL at Trillion-Parameter Scale트릴리언 파라미터 에이전트 RL을 위한 비트 정확 델타 압축 리핏⭐ 2,048
NeMo-DCR은 1T 모델 리핏에서 매 스텝 약 1%만 바뀌는 가중치만 전송하면서도 dense refit과 비트 단위로 동일한 복구를 보장해, 에이전트 RL의 크로스클러스터 동기화 병목과 장애 복구 문제를 함께 해결합니다.
On KL-Regularized Policy OptimizationKL 정규화 정책 최적화에 대하여⭐ 182
KLPO는 비동기 LLM 에이전트 RL에서 KL 기준점을 샘플러에 고정해 importance weight 없이 로그비 최적조건을 최소제곱으로 맞추며, 긴 에피소드에서도 GRPO류의 고비용 그룹 샘플링 없이 안정적 정책 업데이트를 가능하게 합니다.
STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization델타 규칙 순환 상태 양자화에서 오류가 중요한 시점과 위치를 찾는 STEPQuant⭐ 91
STEPQuant는 선형 어텐션의 recurrent state에서 오류의 지속 시간과 key-row별 민감도를 함께 고려하는 시공간 후처리 양자화로, 저정밀 상태 저장의 정확도 붕괴를 줄여 동시 서빙 메모리 병목을 완화합니다.
💡 대규모 에이전트 학습은 이제 알고리즘뿐 아니라 시스템 병목까지 함께 최적화해야 한다는 흐름이 뚜렷합니다. 리핏 압축, 비동기 RL용 KL 정식화, recurrent state 양자화처럼 실제 서빙·학습 루프의 마찰을 줄이는 연구가 곧 성능 경쟁력으로 이어지고 있습니다.
📄Robotics & RL3
Long-WAM: Scaling the Context of World-Action Models월드-액션 모델의 문맥 길이를 확장하는 Long-WAM⭐ 2,687
Long-WAM은 자율회귀 비디오 사전학습과 스트리밍 인코딩을 결합해 로봇 제어에서 긴 시각 문맥을 실효적으로 활용하며, RoboCasa GR-1에서 문맥을 0초에서 19.2초로 늘려 성공률을 63.3%에서 78.7%로 끌어올렸습니다.
UniWAM: Unified World-Action Model통합 월드-액션 모델 UniWAM⭐ 91
UniWAM은 물리 추론기·월드 생성기·행동 예측기를 하나로 묶고 저수준 액션을 자연어로 표현해, 비전-언어 모델의 의미 이해와 비디오 기반 동역학 학습을 동시에 살린 embodied 학습 프레임워크를 제안합니다.
RobotWorld: Benchmarking Multimodal Agents for Robot Use Across Diverse Tasks and Embodiments다양한 과업과 로봇 형태에서 멀티모달 에이전트를 평가하는 RobotWorld⭐ 25
RobotWorld는 조작·이동·주행·비행을 아우르는 84개 시뮬레이션 과제로 멀티모달 에이전트의 로봇 사용 능력을 평가하며, 지각·제어 파이프라인 구성은 가능하지만 상태 추적과 조합적 실행에서 여전히 큰 격차가 있음을 보여줍니다.
💡 로봇 쪽은 더 긴 시각 문맥과 더 풍부한 월드모델을 활용하는 방향으로 빠르게 이동하고 있습니다. 다만 RobotWorld가 보여주듯 개별 지각·제어 능력은 올라가도 상태 추적과 장기 조합 실행은 여전히 어려워, 통합 아키텍처와 평가셋의 중요성이 커지고 있습니다.
🗣️Language Models3
Recurrent Looped Transformer순환 루프드 트랜스포머⭐ 915
RLT는 병렬 인코더와 순환 디코더를 결합해 시퀀스가 길어질수록 계산 경로가 깊어지도록 설계했으며, 패리티 일반화에서 256비트까지 100% 정확도, 순열 추적에서 97% 정확도로 표준 Transformer를 크게 앞섰습니다.
HuatuoGPT-3: RL-Only Domain Adaptation from Base Models베이스 모델에서 시작하는 RL 전용 도메인 적응 HuatuoGPT-3⭐ 16
HuatuoGPT-3는 RL-only 도메인 적응의 두 병목인 Gradient Starvation과 Teacher-Distribution Anchoring을 짚고, OnePO의 Adaptive Objective Evolution과 Teacher Retirement로 SFT 없는 전문가 적응 경로를 제시합니다.
Gains and Collapse in On-Policy Distillation:A Reinforcement Learning Perspective온폴리시 증류의 성과와 붕괴를 강화학습 관점에서 해석하기⭐ 7
이 연구는 OPD를 교사가 암묵적 보상을 주는 RL 문제로 해석해 성능 향상과 장황·반복 붕괴를 동일 틀에서 설명하고, unhealthy response masking과 SFT 초기화가 보상 해킹을 줄이는 실용적 완화책임을 보였습니다.
💡 언어모델 후학습은 단순히 RL을 더 쓰는 단계가 아니라, 어떤 신호가 학습을 굶기고 어떤 보상이 붕괴를 부르는지 메커니즘을 해부하는 단계로 넘어갔습니다. 구조 설계(RLT)와 후학습 진단(OnePO, OPD 분석)이 함께 발전하면서 일반화와 안정성을 동시에 잡으려는 흐름이 보입니다.
💻Code & Agents4
nanoMuse: An Open-Source Personal Agent for Every Device You Own모든 내 기기에서 동작하는 오픈소스 개인 에이전트 nanoMuse⭐ 324
nanoMuse는 휴대폰·PC 전반에 걸친 단일 대화, 읽을 수 있는 파일 기반 메모리, Sentinel을 통한 액션 검증을 갖춘 GPL 오픈소스 개인 에이전트로, 폐쇄형 퍼스널 에이전트의 공개 대안을 제시합니다.
EVISKILL: Grounding Skill Evolution in Replayable Evidence재현 가능한 증거에 기반한 스킬 진화 EVISKILL⭐ 26
EVISKILL은 실행 관찰을 Replayable Evidence Card로 구조화하고 수정안과 근거를 명시적으로 연결한 뒤 targeted replay로 재검증해, 파라미터 업데이트 없이도 LLM 에이전트의 절차적 스킬을 더 신뢰성 있게 진화시킵니다.
Recursive Game Creator: An Agentic Product-Level Experience-Oriented Game Harness경험 중심 게임 개발을 위한 에이전트형 제품 수준 하네스 Recursive Game Creator⭐ 29
Recursive Game Creator는 Designer-Builder-Player-Reviewer의 재귀 루프와 코드 기반 플레이어를 통해 단순히 실행 가능한 게임이 아니라 재미있는 게임으로 반복 개선하는 에이전트형 개발 하네스를 제안합니다.
💡 에이전트 연구는 이제 단발성 태스크 수행보다 장기 메모리, 증거 기반 수정, 반복 개선 루프 같은 제품적 지속성을 더 강하게 겨냥합니다. 개인 에이전트, 스킬 진화, 게임 개발 하네스, 자기증류 안정화 모두 에이전트를 '계속 운영되는 소프트웨어'로 다루기 시작했다는 신호입니다.
📄Multimodal & Generative4
WorldSonus: Bringing Sound to Worlds월드모델에 소리를 더하는 WorldSonus⭐ 53
WorldSonus는 스트리밍 causal autoregressive diffusion으로 RTF 0.41의 실시간 비디오-오디오 생성을 달성하고, chunk 단위 프롬프트 스케줄링과 스테레오 정렬로 상호작용형 월드모델에 공간 음향을 입힙니다.
DuoMatching: Joint-Marginal Distribution Matching for Few-Step Video Generation적은 스텝 비디오 생성을 위한 결합-주변 분포 정합 DuoMatching⭐ 33
DuoMatching은 비디오 교사의 joint matching에 이미지 생성기의 frame-level marginal supervision을 더하고 LatentBridge로 잠재공간 불일치를 해소해, few-step 비디오 생성의 화질과 의미 정합성을 함께 개선합니다.
SGF+: Decoupling Gradient Flows for Autoregressive Video Generation자기회귀 비디오 생성을 위한 그래디언트 흐름 분리 SGF+⭐ 52
SGF+는 현재 프레임 복원과 미래 컨텍스트 기록이 만드는 음의 그래디언트 정렬 문제를 분리 파라미터로 해결해, 추가 손실 없이 5초 롤아웃 학습만으로도 장기 비디오의 화질과 시간적 일관성을 높였습니다.
💡 생성 모델은 품질 경쟁을 넘어 실시간성, 상호작용성, 효율성까지 함께 최적화하는 국면에 들어섰습니다. 오디오가 붙은 월드모델, few-step 비디오 생성, gradient decoupling, latent compression은 모두 긴 시퀀스를 더 싸고 빠르게 만들면서도 일관성을 유지하려는 시도로 읽힙니다.
👁️Computer Vision3
Tetris3D: 3D Scene Generation With Objects That Fit Together서로 맞물리는 객체로 3D 장면을 생성하는 Tetris3D⭐ 22
Tetris3D는 주변 객체의 기하와 물리 관계를 명시적으로 조건으로 넣어 단일 이미지에서 물리적으로 맞물리는 3D 장면을 복원하며, 120만 장면 규모의 ComOb 데이터셋으로 가려진 상호작용 영역까지 더 일관된 형상·포즈를 생성합니다.
UltraText Bench: A Comprehensive Bilingual Benchmark for Evaluating Visual Text Rendering in Image Generation이미지 생성의 시각 텍스트 렌더링을 평가하는 종합 이중언어 벤치마크 UltraText Bench⭐ 15
UltraText Bench는 영어·중국어 432개 프롬프트와 4~12개 텍스트 영역 참조를 통해 dense visual text 생성 능력을 정밀 평가하며, 선명도와 충실도 같은 지표가 서로 다른 모델 강점을 드러냄을 보여줍니다.
NAMVIS: Next-Scale Autoregressive Multi-View Image Synthesis다음 스케일 자기회귀 기반 멀티뷰 이미지 합성 NAMVIS⭐ 7
NAMVIS는 확산 대신 coarse-to-fine next-scale autoregression으로 멀티뷰 토큰을 병렬 생성하고, Multi-scale Projective Pose Encoding으로 카메라 기하를 각 해상도 어텐션에 주입해 빠른 sparse-view 합성을 구현합니다.
💡 비전 분야에서는 3D 장면의 물리적 일관성, 텍스트 렌더링의 정밀 평가, 멀티뷰 합성의 추론 효율처럼 '실사용 제약'이 핵심 기준으로 떠오르고 있습니다. 단순히 보기 좋은 결과보다 구조적으로 맞고, 측정 가능하며, 빠르게 생성되는 방향으로 연구 초점이 이동하고 있습니다.