오늘의 한줄
오늘은 에이전트의 장기 과제 수행 능력과 안전성, 그리고 비전·비디오 생성 모델의 구조적 재설계가 두드러집니다. 특히 메모리 관리, 세분화된 크레딧 할당, 생성 모델의 병렬화·라우팅 같은 실전형 개선이 연구의 중심으로 보입니다.
📄Robotics & RL2
Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models데이터 스케일링을 넘어선 표현 중심 비전-언어-행동 모델 지속 사전학습⭐ 3,557
VLAct는 로봇 데이터가 제한된 환경에서 VLM prior 보존, 멀티헤드 연속 행동 공동지도, 부분 통합 행동 레이아웃으로 표현 품질을 높여 시뮬레이션·실세계·미지 embodiment 전이 성능을 일관되게 개선했습니다.
PonderPounce: A Pretrained MLLM as an Episode Context Engine for Robot Control로봇 제어를 위한 에피소드 컨텍스트 엔진으로서의 사전학습 MLLM, PonderPounce⭐ 3
PonderPounce는 MLLM의 기본 causal context를 로봇 에피소드 메모리로 재사용해 별도 메모리 모듈 없이도 시연·과거 관찰·추론을 축적하고, 최신 cognition token만 VLA에 비동기 전달해 제어 성능을 높입니다.
💡 로봇 쪽에서는 더 많은 데이터보다 더 나은 표현과 에피소드 메모리 활용이 성능 병목이라는 인식이 강해지고 있습니다. VLA를 단순 행동 예측기로 두기보다, VLM/MLLM의 사전학습 지식과 장기 문맥을 제어 루프에 직접 연결하는 방향이 뚜렷합니다.
👁️Computer Vision3
Revisiting Local Context for Long-Horizon Streaming 3D Reconstruction장기 스트리밍 3D 재구성을 위한 로컬 컨텍스트 재조명⭐ 298
ABot-Recon은 직전 11프레임의 KV만 유지하면서 현재 좌표계의 포인트맵과 인접 프레임 상대 자세를 예측해, 긴 비디오에서도 메모리 고정 비용으로 안정적인 온라인 3D 재구성을 달성합니다.
Generative Semantic Scene Completion생성형 의미 장면 완성⭐ 3
GSSC는 LiDAR SSC를 이산 확산 기반 생성 문제로 재구성해 PS^3로 희소-밀집 쌍 데이터를 합성하고, S^2D^2 한 단계 정제로 자체 및 외부 SSC 모델의 mIoU를 일관되게 끌어올립니다.
Video Generative Models as Geometry Learner기하 학습기로서의 비디오 생성 모델
GeoNeXt는 사전학습 비디오 생성 모델을 다음 프레임 예측 방식의 이미지-기하 공동모델로 재활용해, 깊이·법선 추정을 별도 모델 없이 더 적은 라벨로 함께 학습하는 데이터 효율적 프레임워크를 제시합니다.
💡 3D 재구성·장면 완성·기하 추정 모두에서 공통적으로 보이는 흐름은 무거운 전역 메모리보다 구조적으로 잘 정의된 예측 목표와 생성 모델의 prior를 활용하는 것입니다. 비전 문제도 점점 '무엇을 예측할지'의 설계가 모델 크기만큼 중요해지고 있습니다.
💻Code & Agents7
Code as Worlds: Agentic Discovery of Executable World Representations for Physical Reasoning물리 추론을 위한 실행 가능한 세계 표현의 에이전트적 발견⭐ 263
Code-as-World는 물리 세계의 구성·동역학·시각 외형을 실행 가능한 코드로 표현하고, 제안-실행-렌더링-검증 루프를 통해 비디오나 텍스트에서 정량적이고 개입 가능한 세계 모델을 자동 발견합니다.
LoopArena: Benchmarking Models as Runtime Controllers for Loop Engineering루프 엔지니어링의 런타임 컨트롤러로서 모델을 평가하는 LoopArena⭐ 70
LoopArena는 고정된 코딩 에이전트를 별도 모델이 단계별로 지휘하는 설정을 벤치마크화해, 장기 코딩 작업에서 '무엇을 다음에 시킬지' 결정하는 컨트롤러 능력을 분리 평가합니다.
ContextPilot: Teaching Agents for Proactive Context Management via Fine-grained RL세밀한 강화학습으로 에이전트의 선제적 컨텍스트 관리를 가르치는 ContextPilot⭐ 16
ContextPilot은 계획·장기기억·적응형 압축을 포함한 확장 도구셋과 세분화된 보상 할당 RL로 장기 에이전트의 컨텍스트 편집을 학습해, 늘어나는 작업 맥락을 더 효율적으로 관리합니다.
💡 에이전트 연구는 이제 단순 실행 능력보다 컨트롤러 설계, 컨텍스트 관리, 보안 감사, 자기증류 같은 운영 계층으로 빠르게 확장되고 있습니다. 특히 장기 작업에서는 한 번의 정답보다 중간 의사결정의 품질과 안전한 개입 지점이 경쟁력의 핵심으로 보입니다.
📄Training & Optimization3
Puro-2B: Poor Lab's Qwen2-1.5B Trained on RTX 5090 within $50905090달러 이하와 RTX 5090으로 학습한 Poor Lab의 Qwen2-1.5B급 Puro-2B⭐ 48
Puro-2B는 소비자용 RTX 5090과 FP8 기반 오픈 레시피로 최대 1.4조 토큰을 6.9천 달러 이하 비용에 사전학습해, 접근 가능한 예산으로 Qwen2.5-1.5B에 근접한 성능을 보여줍니다.
Fast Weight Attention for Continual Learning지속 학습을 위한 패스트 웨이트 어텐션⭐ 11
이 연구는 읽기-후-쓰기 자기회귀 조건에서 fast-memory 업데이트 규칙을 재정식화하고 Falcon-1/2/3 계열을 제안해, 고정 크기 상태로도 안정적인 온라인 연속 학습을 가능하게 합니다.
Rubric-to-Code Credit Assignment for Reinforcement Learning강화학습을 위한 루브릭-투-코드 크레딧 할당
RCCA는 웹앱 생성에서 기능 루브릭별 피드백을 코드 구간과 토큰에 정렬해 시퀀스 단일 보상 대신 국소 최적화 신호를 제공함으로써, 사용자 기능 요구를 더 정확히 만족하는 RL 학습을 가능하게 합니다.
💡 학습 효율화 연구는 저비용 사전학습, 온라인 메모리 업데이트, 세분화된 보상 할당처럼 '같은 계산으로 더 잘 배우는 법'에 집중합니다. 거대한 스케일링만이 답이 아니라, 하드웨어 친화적 레시피와 더 정확한 학습 신호 설계가 실질 성능을 좌우한다는 메시지가 강합니다.
📄Multimodal & Generative3
Locate Anything in Videos: Rethinking Efficient Generative Spatio-Temporal Video Grounding비디오에서 무엇이든 찾기 위한 효율적 생성형 시공간 비디오 그라운딩 재설계⭐ 17
PTD는 시공간 비디오 그라운딩을 시간 블록과 병렬 공간 블록으로 분해해 디코딩 깊이를 tube 길이와 무관한 1+1 단계로 고정하고, Decoupled Block Attention으로 지연과 오류 전파를 줄였습니다.
LayerRecall: A State-Conditioned Memory Router for Long-Horizon Consistency in Video Generation장기 비디오 생성 일관성을 위한 상태 조건부 메모리 라우터 LayerRecall⭐ 6
LayerRecall은 현재 상태에 따라 과거 K/V를 선택적으로 검색해 메모리에 민감한 DiT 레이어에만 주입하고, CHPM으로 장기 데이터 부족 문제를 완화해 긴 비디오의 재등장 일관성을 높입니다.
Paint What You See: Benchmarking Dexterous Visual Tool Use in Multimodal Agents보이는 대로 그리기: 멀티모달 에이전트의 정교한 시각 도구 사용 벤치마크⭐ 0
EASEL은 참조 이미지를 따라 점진적으로 캔버스를 그리는 과제로 시각 증거와 연속 파라미터 실행의 결합 능력을 평가하고, 44만 샘플 커리큘럼 데이터셋과 EASEL-9B를 함께 제공합니다.
💡 멀티모달·생성 분야에서는 병렬 디코딩, 레이어별 메모리 라우팅, 정교한 도구 사용 평가처럼 생성 과정 자체를 구조화하는 시도가 눈에 띕니다. 단순히 더 길고 더 크게 생성하는 단계에서 나아가, 시간축 일관성과 실행 정밀도를 제어하는 방향으로 진화하고 있습니다.
🗣️Language Models2
Blind Men and the Elephant: Probing the Epistemic Myopia of LLMs under Long-Tail Divergent Knowledge장님과 코끼리: 롱테일 상충 지식에서 드러나는 LLM의 인식론적 근시안성 탐구⭐ 2
ElephantBench는 상충하는 롱테일 사실을 묻는 1,094개 폐쇄형 QA로 32개 모델을 평가한 결과, 최고 모델도 두 관점을 모두 회수한 비율이 52.4%에 그쳐 LLM의 지식 회상 편향을 드러냈습니다.
Sliding-window beats linear attention슬라이딩 윈도우가 선형 어텐션을 이긴다
이 연구는 sink를 결합한 Sliding Window Attention이 후처리된 선형 어텐션 LLM과 비슷하거나 더 나은 성능을 보이며, Needle-in-a-Haystack과 BABILong에서는 2~10배 높은 장문 추론 성능을 낸다고 보고합니다.
💡 LLM 자체 연구에서는 긴 문맥 효율성과 지식 회상의 신뢰성이 여전히 핵심 과제로 남아 있습니다. 특히 더 복잡한 어텐션이 항상 답은 아니며, 동시에 모델이 아는 지식을 얼마나 균형 있게 꺼내는지도 별도의 평가 축으로 자리잡고 있습니다.