오늘의 한줄
오늘은 초장문 컨텍스트를 위한 효율적 LLM 인프라와, 장기 과제를 수행하는 에이전트·로보틱스 프레임워크가 특히 두드러졌습니다. 동시에 멀티모달 생성, 코드 에이전트 평가, 해석 가능성까지 실전 배치를 겨냥한 연구가 전반적으로 성숙해지고 있음을 보여줍니다.
📄Training & Optimization2
MiniMax Sparse AttentionMiniMax 희소 어텐션⭐ 184
MSA는 GQA 위에 인덱스 브랜치 기반 Top-k 블록 선택을 얹어 초장문 문맥에서 정확한 블록 희소 어텐션을 수행하며, 다양한 GPU에서 실제 배치 가능한 속도 향상을 노린 단순·확장형 설계를 제시합니다.
Flash-GMM: A Memory-Efficient Kernel for Scalable Soft ClusteringFlash-GMM: 확장 가능한 소프트 클러스터링을 위한 메모리 효율 커널⭐ 12
Flash-GMM은 책임도 행렬 물질화를 없앤 Triton 융합 커널로 GMM을 단일 GPU 패스에서 계산해 기존 대비 20배 속도와 100배 이상 큰 데이터 학습을 가능하게 했습니다.
💡 효율화 연구는 이제 이론적 복잡도 개선을 넘어 실제 GPU 경로와 커널 수준 최적화까지 함께 설계하는 방향으로 이동하고 있습니다. 초장문 어텐션과 대규모 클러스터링 모두, 배포 가능한 시스템 구현력이 곧 연구 기여가 되는 흐름이 뚜렷합니다.
📄Multimodal & Generative3
Robust-U1: Can MLLMs Self-Recover Corrupted Visual Content for Robust Understanding?Robust-U1: MLLM은 손상된 시각 정보를 스스로 복원해 더 강건하게 이해할 수 있을까?⭐ 72
Robust-U1은 MLLM에 이미지 자기복원 능력을 추가하기 위해 SFT와 SSIM·CLIP 이중 보상 RL을 결합하고, 손상 이미지와 복원 이미지를 함께 추론해 실제 시각 오염 환경에서 강건성을 높였습니다.
InterleaveThinker: Reinforcing Agentic Interleaved GenerationInterleaveThinker: 에이전트 기반 텍스트-이미지 교차 생성을 강화하다⭐ 76
InterleaveThinker는 플래너 에이전트와 크리틱 에이전트를 결합한 최초의 멀티에이전트 파이프라인으로, 기존 이미지 생성기에 텍스트-이미지 시퀀스의 교차 생성을 부여합니다.
i1: A Simple and Fully Open Recipe for Strong Text-to-Image Modelsi1: 강력한 텍스트-이미지 모델을 위한 단순하고 완전 공개된 레시피⭐ 38
i1은 300개 이상 통제 실험과 70만+ TPU v6e 시간 분석을 바탕으로 데이터 혼합의 균등 가중치, 더 큰 텍스트 인코더 어댑터 등 강력한 오픈 텍스트-이미지 모델 레시피를 정리했습니다.
💡 멀티모달 생성은 단순 품질 경쟁을 넘어 복원, 교차 생성, 완전 공개 레시피처럼 활용성과 재현성을 함께 높이는 쪽으로 진화하고 있습니다. 특히 에이전트 구조와 RL 보상을 접목해 생성 모델의 사용 범위를 넓히려는 시도가 인상적입니다.
👁️Computer Vision1
SpatialClaw: Rethinking Action Interface for Agentic Spatial ReasoningSpatialClaw: 에이전트형 공간 추론을 위한 액션 인터페이스 재설계⭐ 40
SpatialClaw는 툴 호출 대신 코드를 액션 인터페이스로 채택한 학습 없는 공간 추론 프레임워크로, 중간 결과를 보며 분석을 이어가는 자유로운 3D·4D 추론을 가능하게 합니다.
💡 공간 추론에서는 어떤 툴을 붙이느냐보다, 모델이 툴을 어떤 인터페이스로 호출하느냐가 성능을 좌우한다는 점이 부각됩니다. 코드 자체를 사고와 행동의 공용 표현으로 쓰려는 흐름이 향후 비전 에이전트 설계의 핵심 축이 될 가능성이 큽니다.
💻Code & Agents8
WeaveBench: A Long-Horizon, Real-World Benchmark for Computer-Use Agents with Hybrid InterfacesWeaveBench: 하이브리드 인터페이스 기반 장기 컴퓨터 사용 에이전트 벤치마크⭐ 35
WeaveBench는 GUI와 CLI·코드 작업을 한 궤적에서 엮어야 하는 114개 실사용 과제를 제시하고, 산출물·로그·스크린샷까지 보는 trajectory-aware judge로 편법을 탐지합니다.
Toward Generalist Autonomous Research via Hypothesis-Tree Refinement가설 트리 정제를 통한 범용 자율 연구로의 확장⭐ 63
Arbor는 장기 코디네이터와 단기 실행기, 그리고 가설·증거·아티팩트를 누적하는 HTR를 결합해 자율 연구를 일회성 시도 집합이 아닌 축적형 탐색 프로세스로 바꿉니다.
FORT-Searcher: Synthesizing Shortcut-Resistant Search Tasks for Training Deep Search AgentsFORT-Searcher: 지름길에 강한 탐색 과제 합성으로 심층 검색 에이전트 훈련하기⭐ 17
FORT-Searcher는 증거 공통피복, 단일 단서 선택성 등 4가지 shortcut risk를 체계화하고 이를 통제하는 FORT 합성 프레임워크로 진짜 검색이 필요한 학습 데이터를 만듭니다.
💡 에이전트 연구는 이제 모델 자체보다 환경, 하네스, 메모리, 벤치마크를 어떻게 설계하느냐가 성패를 가르는 단계로 들어섰습니다. 장기 과제와 동적 환경, 검증 가능한 데이터셋이 늘어나면서 '잘 생각하는 모델'보다 '끝까지 일하는 시스템'이 더 중요해지고 있습니다.
📄Robotics & RL4
LabVLA: Grounding Vision-Language-Action Models in Scientific LaboratoriesLabVLA: 과학 실험실에 비전-언어-행동 모델을 접지하다⭐ 44
LabVLA는 실험실 특화 VLA를 위해 시뮬레이션 기반 데이터 엔진 RoboGenesis와 다양한 로봇 구현을 아우르는 학습 체계를 제안해 벤치 작업의 물리적 자동화를 겨냥합니다.
Embodied-R1.5: Evolving Physical Intelligence via Embodied Foundation ModelsEmbodied-R1.5: 체화 파운데이션 모델로 물리 지능을 진화시키다⭐ 17
Embodied-R1.5는 15B 토큰 규모 데이터와 멀티태스크 균형 RL, PGC 폐루프를 통해 8B 모델로 24개 중 16개 embodied VLM 벤치에서 SOTA를 달성했습니다.
World Pilot: Steering Vision-Language-Action Models with World-Action PriorsWorld Pilot: 월드-액션 사전지식으로 VLA를 조향하다⭐ 9
World Pilot은 장면 진화 잠재변수와 예상 궤적을 각각 Latent Steering·Action Steering으로 주입해, 정적 사전학습의 한계를 넘어 조작 동역학을 반영한 VLA 성능을 끌어올립니다.
💡 로보틱스는 범용 VLA를 실제 물리 세계에 접지하기 위해 도메인 특화 데이터, 월드 모델 priors, 대규모 체화 학습을 결합하는 방향으로 빠르게 수렴하고 있습니다. 실험실 자동화부터 드론 시뮬레이션까지, 데이터 엔진과 실행 환경 자체가 곧 성능의 핵심 인프라가 되고 있습니다.
🗣️Language Models2
ComBench: A Benchmark for Rigorous Proof Reasoning and Constructive Realization in Olympiad-Level CombinatoricsComBench: 올림피아드급 조합론의 엄밀한 증명 추론과 구성 능력 벤치마크⭐ 14
ComBench는 100개 올림피아드급 조합론 문제를 증명 중심과 구성 중심으로 나누고, 루브릭 기반 채점과 결정적 검증을 함께 써 LLM의 창의적 수학 추론 약점을 드러냅니다.
ICA Lens: Interpreting Language Models Without Training Another DictionaryICA Lens: 새 딕셔너리 학습 없이 언어 모델 해석하기⭐ 20
ICA Lens는 SAE 대신 비가우시안 방향을 찾는 ICA를 LLM 해석의 경량 대안으로 재조명하며, 추가 딕셔너리 학습 없이도 토큰 선택적인 해석 가능 구조를 빠르게 탐색할 수 있음을 보입니다.
💡 언어 모델 연구에서는 성능 확장만큼이나 수학적 추론의 실제 한계와 내부 표현의 해석 가능성을 정밀하게 측정하려는 흐름이 강해졌습니다. 즉, 더 똑똑한 모델을 만드는 것과 동시에 왜 틀리고 어떻게 이해할지를 함께 다루는 단계로 접어들고 있습니다.