오늘의 한줄

오늘은 에이전트의 실행·평가 루프를 정교화하는 연구와, 장기 비디오·월드모델의 일관성을 끌어올리는 생성 연구가 특히 두드러졌습니다. 동시에 저비용 프리트레이닝, LoRA 안정화, OPD 재해석처럼 학습 효율과 최적화 본질을 다시 묻는 작업도 인상적입니다.

📄Robotics & RL2

Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models데이터 확장을 넘어: 비전-언어-행동 모델을 위한 표현 중심 지속 사전학습⭐ 3,557

VLAct는 VLM prior 보존, 멀티헤드 연속 행동 공동지도, 부분 통합 행동 레이아웃으로 제한된 로봇 데이터를 더 잘 일반화 가능한 표현으로 바꿔 시뮬레이션·실세계·미지 embodiment 전이 성능을 꾸준히 높였습니다.

LightNav-0: Eliciting VLM Spatial Intelligence for Generalist Embodied NavigationLightNav-0: 범용 체화 내비게이션을 위한 VLM 공간 지능 끌어내기⭐ 253

LightNav-0는 듀얼 채널 포인팅과 residual VQ 액션 토크나이저로 다양한 내비게이션 과제를 하나의 토큰 인터페이스로 통합해, task-specific head 없이도 범용 embodied navigation 일반화를 노렸습니다.

💡 로보틱스에서는 더 많은 trajectory를 모으기보다, 기존 VLM의 공간·시각 prior를 어떻게 행동 표현으로 잘 전이하느냐가 핵심으로 보입니다. 범용 embodiment를 겨냥한 토큰화와 표현 중심 사전학습이 데이터 병목을 우회하는 실용적 해법으로 떠오릅니다.

📄Multimodal & Generative4

Matrix-Game 3.5: Enhancing Real-Time Streaming Interactive World Models with Patch MemoryMatrix-Game 3.5: 패치 메모리로 실시간 스트리밍 인터랙티브 월드모델 강화⭐ 151

Matrix-Game 3.5는 추가 파라미터 없이 patch-memory와 tiled-PRoPE를 결합한 기하 인지 메모리로 장기 장면 회상과 카메라 제어를 안정화해 실시간 인터랙티브 월드 생성의 일관성을 끌어올렸습니다.

DreamX-Creator: Democratizing Native Audio-Video Generation at 2K ResolutionDreamX-Creator: 2K 해상도 네이티브 오디오-비디오 생성의 대중화⭐ 91

DreamX-Creator 1.0은 7B 생성기와 Gated Cross-Modal Attention, 단계적 공동학습, AV 강화학습을 결합해 첫 프레임+텍스트 조건만으로 2K급 오디오·비디오를 네이티브로 함께 생성합니다.

RECAP-Forcing: Retaining Content Appearances for Long Video GenerationRECAP-Forcing: 장기 비디오 생성을 위한 콘텐츠 외형 유지⭐ 8

RECAP-Forcing은 오래된 프레임이 아니라 새로 등장한 주체·장면의 appearance novelty를 기준으로 KV 메모리를 보존해, 비디오 길이가 아니라 새 콘텐츠 양에 비례하는 메모리로 장기 일관성을 강화했습니다.

💡 장기 생성의 승부처가 모델 크기 자체보다 메모리 구조와 제어 인터페이스 설계로 이동하고 있습니다. appearance 기반 메모리, patch retrieval, 시간 구간 라우팅처럼 무엇을 언제 기억하고 어떻게 조건화할지가 월드모델 품질을 좌우합니다.

👁️Computer Vision2

Revisiting Local Context for Long-Horizon Streaming 3D Reconstruction장기 스트리밍 3D 재구성을 위한 로컬 컨텍스트 재조명⭐ 298

ABot-Recon은 직전 11프레임의 KV만 캐시하면서 현재 카메라 좌표계의 point map과 인접 프레임 상대 자세를 예측해, 긴 시퀀스 길이에 독립적인 안정적 스트리밍 3D 재구성을 구현했습니다.

Locate Anything in Videos: Rethinking Efficient Generative Spatio-Temporal Video Grounding비디오에서 무엇이든 찾기: 효율적 생성형 시공간 비디오 그라운딩 재고⭐ 17

PTD는 STVG를 시간 블록과 병렬 공간 블록으로 분해하고 Decoupled Block Attention을 도입해 tube 길이와 무관하게 1+1 라운드만 디코딩하면서 VidSTG 등에서 더 빠르고 정확한 grounding을 달성했습니다.

💡 비전에서는 긴 시퀀스를 다루기 위해 무조건 더 긴 컨텍스트를 쓰기보다, 문제를 병렬화하거나 참조계 불변 형태로 재정의하는 접근이 강해졌습니다. 즉 효율은 단순 경량화가 아니라 예측 대상과 디코딩 구조를 다시 설계하는 데서 나옵니다.

💻Code & Agents7

Code as Worlds: Agentic Discovery of Executable World Representations for Physical Reasoning코드로 표현하는 세계: 물리 추론을 위한 실행형 월드 표현의 에이전트 탐색⭐ 263

Code-as-World는 물리 구성·동역학·시각 외형을 실행 가능한 코드로 표현하고, 제안-실행-렌더-검증의 abductive agent loop로 비디오나 텍스트에서 제어 가능한 물리 세계 표현을 발견합니다.

LoopArena: Benchmarking Models as Runtime Controllers for Loop EngineeringLoopArena: 루프 엔지니어링의 런타임 컨트롤러로서 모델 평가하기⭐ 70

LoopArena는 고정된 Worker 코딩 에이전트를 별도 Controller 모델이 라운드별로 지휘·검증·종료 판단하도록 분리해, 코딩 능력과 루프 운영 능력을 구분해 평가하는 벤치마크를 제안했습니다.

Agentic Artifact Creation: Systems, Evaluation, Principles, and Opportunities에이전트형 아티팩트 생성: 시스템, 평가, 원칙, 그리고 기회⭐ 14

이 서베이는 259편을 검토해 에이전트형 아티팩트 생성을 운영 표현·구성 정책·런타임 검증의 연결 문제로 정리하고, 모달리티보다 의사결정과 검증의 결합 강도가 핵심 난제임을 보여줍니다.

💡 에이전트 연구는 이제 '잘 생성하느냐'보다 '어떻게 평가하고, 언제 수정하고, 무엇을 기억하느냐'로 무게중심이 옮겨갔습니다. 루브릭, 컨트롤러, 컨텍스트 관리, 실행형 표현처럼 중간 과정의 운영체제를 설계하는 흐름이 뚜렷합니다.

📄Training & Optimization3

Puro-2B: Poor Lab's Qwen2-1.5B Trained on RTX 5090 within $5090Puro-2B: RTX 5090과 5,090달러 안에서 학습한 Poor Lab의 Qwen2-1.5B급 모델⭐ 48

Puro-2B는 소비자용 RTX 5090에서 FP8로 최대 1.4조 토큰을 6.9천 달러 이하 비용으로 학습해, 접근 가능한 오픈 프리트레이닝 레시피만으로 Qwen2.5-1.5B에 근접한 성능을 보여줬습니다.

Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement온폴리시 증류는 정말 증류일까?: 잡음 많은 교사에서 자기개선으로⭐ 9

이 연구는 OPD의 교사 advantage가 상당히 noisy하며 제거해도 성능이 비슷하다는 점을 보이고, 실제 이득이 교사 지식 전수보다 저확률 토큰 억제와 자기적응에 가깝다고 재해석했습니다.

Normalized Low-Rank Adaptation정규화된 저랭크 적응⭐ 11

NoRA는 LoRA의 down-projection을 정규화해 초기 학습 동역학을 안정화하고, 사전학습·SFT·RL 전반에서 추가 파라미터나 추론 비용 없이 수렴 속도·성능·망각 완화를 개선했습니다.

💡 학습 최적화 쪽에서는 거대한 자원 투입보다 레시피와 동역학 해석의 힘이 다시 부각됩니다. 저비용 프리트레이닝, LoRA 정규화, OPD의 작동 원리 재검토는 '왜 되는가'를 이해해야 더 싸고 안정적으로 확장할 수 있음을 보여줍니다.

🗣️Language Models2

Scaling Large Reasoning Models beyond Human Supervision: A Path toward Superintelligence인간 감독을 넘어 대규모 추론 모델 확장하기: 초지능으로 가는 경로⭐ 12

이 논문은 인간 피드백에서 검증기·자기생성 커리큘럼으로 이동하는 보상 축과 경험 축을 함께 정리하며, 대규모 추론 모델이 인간 감독 없이도 계속 향상되는 5단계 로드맵을 제시합니다.

StudentSim: Training LLM-based Student SimulatorsStudentSim: LLM 기반 학생 시뮬레이터 학습⭐ 10

StudentSim은 희소한 학생별 데이터를 공통 학습 후 개인화 특화로 확장해, 학생의 원래 응답을 모사하면서도 튜터 피드백에 따라 변화하는 시뮬레이터를 만들고 StudentSimEval로 60명 규모 표준 평가를 제안했습니다.

💡 언어모델은 인간이 직접 채점하는 구간을 줄이면서도 학습을 지속하는 방향으로 진화하고 있습니다. 초개방형 과제에서 검증기, 시뮬레이터, 자기생성 경험을 어떻게 설계하느냐가 다음 단계 성능 향상의 핵심 인프라가 될 것입니다.