오늘의 한줄
오늘은 LLM의 추론·검증 능력을 직접 스케일링하는 시도와, 로봇·비전·멀티모달 시스템을 실제 배치 가능한 형태로 다듬는 연구가 두드러졌습니다. 특히 월드모델, VLA, 데이터·런타임·벤치마크를 함께 정비하며 연구가 성능 경쟁에서 실전 운영 단계로 넘어가고 있음을 보여줍니다.
🗣️Language Models3
LLM-as-a-Verifier: A General-Purpose Verification FrameworkLLM을 범용 검증기로 쓰는 프레임워크⭐ 413
LLM-as-a-Verifier는 점수 토큰 로짓의 기댓값으로 연속 점수를 계산해 추가 학습 없이도 더 정밀한 검증과 반복 평가, 기준 분해를 가능하게 하며 에이전트 과제의 정오 구분력을 높였습니다.
Speaker-Disentangled Chunk-Wise Regression for Syllabic Tokenization화자 분리를 적용한 청크 단위 음절 토크나이징⭐ 46
화자 교란 student 표현을 clean teacher 타깃으로 회귀시키는 speaker-disentangled tokenizer가 음절 경계 검출과 군집화 SOTA를 달성했고, 이 토큰으로 학습한 음성 LM은 구문·의미 이해에서 7% 상대 향상을 보였습니다.
Hierarchical Sparse Attention Done Right: Toward Infinite Context Modeling제대로 설계한 계층형 희소 어텐션으로 무한 문맥을 향해⭐ 23
HiLS-Attention은 청크 검색 점수를 LM 손실로 직접 학습하는 계층형 landmark sparse attention을 제안해 기존 희소 어텐션의 부정확한 청크 선택 문제를 줄이고 일부 설정에서 full attention급 성능을 보였습니다.
💡 언어모델 연구는 이제 단순히 더 크게 학습하는 데서 벗어나, 검증기 설계와 희소 어텐션 같은 추론 구조 자체를 스케일링 축으로 삼고 있습니다. 동시에 음성 토큰화처럼 입력 표현의 순도를 높여 다운스트림 이해력을 끌어올리는 흐름도 강해지고 있습니다.
📄Multimodal & Generative4
Multiplayer Interactive World Models with Representation Autoencoders표현 오토인코더 기반 멀티플레이어 상호작용 월드모델⭐ 197
Rocket League 1만 시간 데이터로 학습한 50억 파라미터 잠재 디퓨전 월드모델이 4인 경기의 각 플레이어 행동을 분리해 반영하며 단일 B200 GPU에서 초당 20프레임, 최대 5분 이상 안정 롤아웃을 달성했습니다.
PixWorld: Unifying 3D Scene Generation and Reconstruction in Pixel Space픽셀 공간에서 3D 장면 생성과 재구성을 통합하다⭐ 25
PixWorld는 VAE·RAE 없이 렌더링 이미지에 직접 디퓨전을 거는 픽셀 공간 통합 모델로 3D 재구성과 생성을 함께 다루며, 기하 인지 손실까지 더해 3D 장면 충실도를 높였습니다.
Vision as Unified Multimodal Generation비전을 통합 멀티모달 생성으로 재정의하다⭐ 21
SenseNova-Vision은 분류·밀집 예측·복합 시각 과제를 모두 텍스트·이미지·혼합 생성으로 표현하고, 전용 헤드 없이 instruction-response 코퍼스로 학습해 비전을 범용 멀티모달 생성 문제로 통합했습니다.
💡 멀티모달 생성은 단순 합성이 아니라 세계의 상호작용, 3D 구조, 시간축 이벤트를 하나의 생성 프레임으로 통합하는 방향으로 진화하고 있습니다. 특히 픽셀 공간·비디오 병렬 디코딩·멀티플레이어 월드모델은 충실도와 실시간성을 동시에 잡으려는 시도로 읽힙니다.
👁️Computer Vision1
Vision Pretraining for Dense Spatial Perception조밀한 공간 지각을 위한 비전 사전학습⭐ 290
LingBot-Vision은 경계 중심 자기지도 학습인 masked boundary modeling으로 서브픽셀 경계 표현을 학습해 DINOv3 기반의 조밀한 공간 인식 성능을 다양한 다운스트림 비전 과제에서 끌어올렸습니다.
💡 비전 사전학습은 의미 불변성 중심에서 다시 기하·경계·공간 구조를 복원하는 쪽으로 무게가 이동하고 있습니다. 실제 로봇과 3D 인지로 연결하려면 고수준 의미보다 조밀한 공간 표현이 더 중요하다는 메시지가 분명합니다.
💻Code & Agents4
ResearchStudio-Idea: An Evidence-Grounded Research-Ideation Skill Suite from ML Conference Outcomes근거 기반 연구 아이데이션 스킬 모음⭐ 150
ResearchStudio-Idea는 1,947편의 ML 학회 성과를 바탕으로 문헌 검색, 선행연구 충돌 점검, 아이디어 감사와 카드 생성까지 묶어 연구 아이데이션의 첫 단계를 근거 중심 워크플로로 표준화했습니다.
SkillOpt-Lite: Better and Faster Agent Self-evolution via One Line of Vibe한 줄의 바이브로 더 빠른 에이전트 자기 진화⭐ 52
SkillOpt-Lite는 에이전트 스킬 최적화를 영차 최적화로 재정식화하고 파일시스템 탐색, 속성 합의 추출, 독립 검증만 남긴 최소 파이프라인으로 LiveMath에서 GPT-5.5 기준 +8.8점, GPT-5.4-nano 기준 +25.4점을 기록했습니다.
Light-Omni: Reflex over Reasoning in Agentic Video Understanding with Long-Term Memory장기 기억 기반 에이전트형 비디오 이해에서 추론보다 반사적으로⭐ 25
Light-Omni는 전역 상태와 문맥 조건 반사 상태의 이중 메모리로 단일 포워드에서 장기 비디오 문맥을 구성해, 탐정식 반복 추론 없이도 저지연 에이전트형 비디오 이해를 구현했습니다.
💡 에이전트 연구는 아이디어 생성, 코드 리뷰, 비디오 이해까지 모두 '루프를 닫는' 방향으로 가고 있습니다. 즉 한 번 답을 내는 모델보다, 근거를 찾고 검토하고 스스로 수정하는 워크플로 설계가 성능과 실용성을 좌우하고 있습니다.
📄Robotics & RL6
From Foundation to Application: Improving VLA Models in Practice기반 모델에서 실전 응용까지, VLA 모델 개선⭐ 265
LingBot-VLA 2.0은 6만 시간 규모 데이터, 20종 로봇 구성, 확장된 전신 액션 공간과 미래 예측 프록시 태스크를 결합해 VLA의 범용화와 실환경 시간 추론 능력을 함께 강화했습니다.
GigaWorld-1: A Roadmap to Build World Models for Robot Policy Evaluation로봇 정책 평가용 월드모델 구축 로드맵⭐ 145
GigaWorld-1은 실제 로봇 데이터 기반 WMBench를 제안하고 7개 비디오 월드모델, 4개 액션 표현, 32만4천 회 롤아웃을 비교해 어떤 월드모델이 정책 평가 대리자로 신뢰할 만한지 체계적으로 분석했습니다.
Embodied.cpp: A Portable Inference Runtime of Embodied AI Models on Heterogeneous Robots이기종 로봇용 휴대형 임바디드 AI 추론 런타임⭐ 45
Embodied.cpp는 VLA와 WAM의 공통 실행 경로를 5계층 C++ 런타임으로 정리해 배치 1 지연 최적화, 멀티레이트 실행, 이기종 하드웨어 배치를 지원하며 로봇 현장 추론 스택의 파편화를 줄였습니다.
💡 로보틱스는 VLA·월드모델의 성능 경쟁을 넘어 데이터, 런타임, 평가, 보정까지 전 주기를 시스템으로 통합하는 단계에 들어섰습니다. 특히 실제 로봇 배치에서는 더 큰 모델보다 신뢰 가능한 평가 대리자와 저지연 실행·오류 보정 계층이 핵심임을 보여줍니다.
📄Training & Optimization2
OmniOpt: Taxonomy, Geometry, and Benchmarking of Modern Optimizers현대 옵티마이저의 분류법·기하학·벤치마킹⭐ 28
OmniOpt는 100여 개 옵티마이저를 5단계 메타 파이프라인과 LMO 관점으로 통합 분류하고, 교차 도메인 벤치마크를 통해 최적화기 선택을 경험칙이 아닌 측정 가능한 설계 문제로 바꿨습니다.
DataComp-VLM: Improved Open Datasets for Vision-Language Models비전-언어 모델을 위한 더 나은 오픈 데이터셋⭐ 23
DCVLM은 6조 멀티모달 토큰과 최대 52개 벤치마크를 갖춘 데이터 중심 평가틀을 제시하며, 필터링보다 데이터 혼합이 중요하고 특히 instruction-heavy 조합이 대규모에서 더 잘 스케일된다는 점을 보였습니다.
💡 학습 인프라 연구는 이제 모델 구조 못지않게 데이터 조합과 옵티마이저 선택을 정량적으로 다루는 방향으로 성숙하고 있습니다. 감에 의존하던 학습 레시피를 벤치마크와 분류 체계로 표준화하려는 움직임이 뚜렷합니다.