오늘의 한줄

오늘은 긴 맥락과 긴 시간축을 다루는 모델 설계가 특히 두드러졌습니다. 비디오 생성·재구성·에이전트 실행·연구 계획까지, 핵심은 더 많은 데이터를 무작정 늘리기보다 메모리 구조와 평가 신호를 정교하게 설계하는 방향으로 모이고 있습니다.

📄Robotics & RL2

Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models데이터 확장을 넘어선 표현 중심 비전-언어-행동 모델 지속 사전학습⭐ 3,557

VLAct는 VLM prior 보존, 다중 헤드 연속 행동 공동지도, 부분 통합 행동 레이아웃으로 제한된 로봇 데이터에서도 시뮬레이션·실세계·미지 embodiment 전이 성능을 일관되게 높인 VLA 백본입니다.

LightNav-0: Eliciting VLM Spatial Intelligence for Generalist Embodied Navigation일반화된 체화 내비게이션을 위한 VLM 공간 지능 끌어내기⭐ 253

LightNav-0는 듀얼 채널 포인팅과 잔차 벡터양자화 액션 토크나이저를 통해 task-specific head 없이도 사전학습 VLM의 공간 지능을 내비게이션 제어로 정렬한 소형 범용 embodied navigation 모델입니다.

💡 로보틱스 쪽은 더 많은 로봇 데이터를 모으기보다, 사전학습된 VLM의 표현과 공간 지능을 어떻게 행동 공간에 정렬할지가 핵심으로 보입니다. embodiment마다 다른 제어계를 흡수하면서도 공통 의미를 유지하는 인터페이스 설계가 범용 에이전트의 병목으로 떠오르고 있습니다.

📄Multimodal & Generative4

Matrix-Game 3.5: Enhancing Real-Time Streaming Interactive World Models with Patch Memory패치 메모리로 강화한 실시간 스트리밍 인터랙티브 월드 모델⭐ 151

Matrix-Game 3.5는 추가 학습 파라미터 없이 patch-memory와 tiled-PRoPE를 결합한 기하 인식 메모리로 장시간 일관성과 카메라 제어를 개선한 실시간 인터랙티브 월드 생성 모델입니다.

DreamX-Creator: Democratizing Native Audio-Video Generation at 2K Resolution2K 해상도 네이티브 오디오-비디오 생성을 대중화하는 DreamX-Creator⭐ 91

DreamX-Creator 1.0은 7B 생성기와 Gated Cross-Modal Attention, 단계적 공동학습, 오디오-비디오 RL을 결합해 첫 프레임+텍스트 조건에서 2K급 네이티브 음성-영상 공동 생성을 구현합니다.

RECAP-Forcing: Retaining Content Appearances for Long Video Generation장기 비디오 생성을 위한 콘텐츠 등장 기반 메모리 유지⭐ 8

RECAP-Forcing은 프레임 최근성이 아니라 새로 등장한 객체·장면의 외형 novelty를 기준으로 KV 캐시를 보존해, 비디오 길이보다 신규 콘텐츠 양에 비례하는 메모리로 장기 일관성을 높입니다.

💡 비디오·월드 생성은 이제 단순히 더 길게 만드는 문제가 아니라, 어떤 과거를 어떤 구조로 기억할지의 문제로 이동하고 있습니다. 최근성 중심 캐시에서 벗어나 기하, 외형 novelty, 레이어 선택적 주입처럼 메모리 접근 자체를 학습 가능한 설계 대상으로 다루는 흐름이 강합니다.

💻Code & Agents7

Code as Worlds: Agentic Discovery of Executable World Representations for Physical Reasoning물리 추론을 위한 실행 가능한 세계 표현의 에이전트형 발견⭐ 263

Code-as-World는 물리 구성·동역학·시각 외형을 실행 가능한 코드로 표현하고, 제안-실행-렌더링-검증 루프를 통해 비디오나 텍스트에서 정량적이고 개입 가능한 세계 모델을 구성합니다.

LoopArena: Benchmarking Models as Runtime Controllers for Loop Engineering루프 엔지니어링의 런타임 컨트롤러로서 모델을 평가하는 LoopArena⭐ 70

LoopArena는 고정된 코딩 에이전트 Worker를 별도 모델 Controller가 라운드별로 지시·검증·중단 판단하도록 구성해, 장기 코딩 루프 운영 능력을 에이전트 실행력과 분리해 평가하는 벤치마크입니다.

ContextPilot: Teaching Agents for Proactive Context Management via Fine-grained RL세밀한 강화학습으로 에이전트의 능동적 컨텍스트 관리를 가르치는 ContextPilot⭐ 16

ContextPilot은 계획·장기기억·적응형 압축까지 포함한 확장 도구셋과 세밀한 보상 할당 RL로, 장기 에이전트 작업에서 스스로 작업 컨텍스트를 편집·유지하는 능력을 강화합니다.

💡 에이전트 연구는 실행 능력 자체보다 루프 운영, 컨텍스트 관리, 루브릭 기반 검증처럼 메타 제어 계층을 정교화하는 방향으로 진화하고 있습니다. 특히 연구·코딩·콘텐츠 생성 모두에서 '먼저 평가 기준을 만들고 그 기준으로 반복 개선한다'는 패턴이 공통 인프라로 자리잡는 모습입니다.

👁️Computer Vision2

Revisiting Local Context for Long-Horizon Streaming 3D Reconstruction장기 스트리밍 3D 재구성을 위한 로컬 컨텍스트 재조명⭐ 298

ABot-Recon은 직전 11프레임의 KV만 캐시하면서 현재 카메라 좌표계의 포인트맵과 인접 프레임 상대 자세를 예측해, bounded memory 조건에서도 장기 3D 재구성 안정성을 확보합니다.

Locate Anything in Videos: Rethinking Efficient Generative Spatio-Temporal Video Grounding비디오에서 무엇이든 찾기 위한 효율적 생성형 시공간 그라운딩 재설계⭐ 17

PTD는 시공간 비디오 그라운딩을 시간 블록과 병렬 공간 블록으로 분해하고 Decoupled Block Attention을 도입해, tube 길이와 무관한 고정 1+1 라운드 디코딩으로 지연과 오류 전파를 줄입니다.

💡 비전 분야에서는 긴 시퀀스를 다룰 때 전역 메모리를 무겁게 키우기보다, 문제를 지역적이면서도 길이 불변인 예측 형태로 다시 쓰는 접근이 눈에 띕니다. 병렬 디코딩과 로컬 상태 설계가 효율과 안정성을 함께 잡는 실용적 해법으로 부상하고 있습니다.

🗣️Language Models2

Puro-2B: Poor Lab's Qwen2-1.5B Trained on RTX 5090 within $5090RTX 5090과 5,090달러 예산으로 학습한 Puro-2B⭐ 48

Puro-2B는 소비자용 RTX 5090에서 FP8 기반 오픈 레시피로 최대 1.4조 토큰을 6.9천 달러 이하 비용에 학습해, Qwen2.5-1.5B에 근접하는 성능을 재현한 저비용 사전학습 사례입니다.

Scaling Large Reasoning Models beyond Human Supervision: A Path toward Superintelligence인간 감독을 넘어 대형 추론 모델을 확장하는 길⭐ 12

이 논문은 RLVR 이후 개방형 과제로 확장하기 위해 보상 축과 경험 축을 함께 정리한 5단계 프레임워크를 제시하며, 인간 피드백 없이도 추론 모델이 자가 커리큘럼과 검증기로 성장하는 경로를 구조화합니다.

💡 언어모델 연구는 한편으로는 소비자급 GPU에서도 재현 가능한 저비용 사전학습 레시피를 만들고, 다른 한편으로는 인간 감독 이후의 보상·경험 체계를 설계하는 장기 로드맵을 탐색하고 있습니다. 즉, 스케일링의 의미가 단순 파라미터 확대에서 학습 접근성 및 자율 개선 구조로 넓어지고 있습니다.

📄Training & Optimization3

Fast Weight Attention for Continual Learning지속 학습을 위한 패스트 웨이트 어텐션⭐ 11

이 연구는 prefix-aligned 학습 규칙에 맞춘 Falcon-1/2/3 fast-weight 업데이트를 제안해, 고정 크기 상태로 확장 컨텍스트를 압축하는 recurrent memory의 온라인 학습 규칙을 더 정합적으로 설계합니다.

Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement온폴리시 증류는 정말 증류인가: 잡음 많은 교사에서 자기개선으로⭐ 9

이 연구는 OPD의 교사 advantage가 상당한 잡음을 포함해도 성능이 유지되며, 실제 개선은 교사 모방보다 낮은 로그확률 토큰 억제에 가깝다는 점을 보여 OPD 해석을 재정의합니다.

Normalized Low-Rank Adaptation정규화된 저랭크 적응⭐ 11

NoRA는 LoRA의 down-projection을 학습 중 또는 초기화 시 정규화해 추가 파라미터나 추론 비용 없이 수렴 속도, 안정성, 성능을 높이고 catastrophic forgetting까지 완화합니다.

💡 학습 최적화 쪽은 거창한 아키텍처 변경보다 학습 규칙의 정합성과 초기 동역학 제어가 성능을 크게 좌우한다는 점을 다시 보여줍니다. OPD의 실제 작동 원인 분석이나 LoRA 정규화처럼, '왜 잘 되는가'를 해부해 더 단순하고 안정적인 대안을 만드는 흐름이 강해지고 있습니다.