오늘의 한줄

오늘은 초장문 컨텍스트를 다루는 멀티모달 모델, 장기 과제를 수행하는 에이전트 설계, 그리고 생성·평가 스택을 체계화하는 연구가 두드러졌습니다. 특히 성능 향상 자체보다 데이터·인터페이스·환경 설계로 병목을 푸는 접근이 뚜렷하게 늘고 있습니다.

📄Multimodal & Generative6

Kwai Keye-VL-2.0 Technical ReportKwai Keye-VL-2.0 기술 보고서785

Keye-VL-2.0-30B-A3B는 DSA를 GQA 기반 멀티모달 구조에 처음 적용해 256K 무손실 컨텍스트로 장시간 비디오 이해를 지원하고, MOPD와 Context-RL로 멀티태스크 정렬 시 망각 문제까지 줄인 오픈소스 MoE 모델입니다.

SCAIL-2: Unifying Controlled Character Animation with End-to-end In-Context Conditioning엔드투엔드 인컨텍스트 조건화로 제어형 캐릭터 애니메이션을 통합한 SCAIL-2156

SCAIL-2는 포즈·마스크 같은 중간 표현 없이 입력 비디오를 직접 이어 붙여 캐릭터 애니메이션을 수행하고, MotionPair-60K와 in-context mask conditioning으로 이질적 모션 전이 작업을 하나의 프레임워크로 통합했습니다.

Robust-U1: Can MLLMs Self-Recover Corrupted Visual Content for Robust Understanding?Robust-U1: MLLM은 손상된 시각 정보를 스스로 복원해 견고하게 이해할 수 있을까?72

Robust-U1은 SFT 기반 복원, SSIM·CLIP 이중 보상 RL, 그리고 손상 이미지와 복원 이미지를 함께 쓰는 추론을 결합해, MLLM에 명시적 시각 자기복원 능력을 부여한 강건성 프레임워크입니다.

💡 멀티모달·생성 연구는 이제 단순 생성 품질보다 긴 비디오 문맥, 강건성, 3D 세계 생성, 인터리브드 생성처럼 실제 사용 시나리오를 버티는 능력으로 무게중심이 이동하고 있습니다. 동시에 공개 데이터셋과 레시피를 함께 내놓으며 재현성과 확장성을 연구 기여의 핵심으로 삼는 흐름도 강해졌습니다.

📄Training & Optimization2

Rethinking the Divergence Regularization in LLM RLLLM 강화학습의 발산 정규화를 다시 생각하다408

DRPO는 DPPO의 hard mask를 advantage-weighted quadratic regularizer로 바꿔 신뢰구간을 넘는 토큰의 그래디언트를 버리지 않고 교정해, 오프폴리시 LLM RL의 안정성과 학습 효율을 높였습니다.

MiniMax Sparse AttentionMiniMax 희소 어텐션184

MSA는 GQA 위에 그룹별 Top-k 블록을 고르는 Index Branch와 정확한 block-sparse attention을 결합해, 초장문 문맥을 단순한 구조와 GPU 친화적 실행 경로로 실용 속도 향상까지 연결한 희소 어텐션입니다.

💡 학습·최적화 쪽에서는 이론적으로 그럴듯한 기법보다 실제 시스템에서 안정적으로 돌아가는 신뢰구간 제어와 희소화 구현이 중요해지고 있습니다. 즉, 긴 컨텍스트와 RL 후처리의 병목을 푸는 핵심은 알고리즘과 GPU 실행 경로를 함께 설계하는 데 있다는 점을 보여줍니다.

💻Code & Agents8

Role-Agent: Bootstrapping LLM Agents via Dual-Role Evolution이중 역할 진화로 LLM 에이전트를 부트스트래핑하는 Role-Agent74

Role-Agent는 하나의 LLM이 agent와 environment를 동시에 맡는 WIA·AIW 구조로 process reward와 실패 패턴 기반 재훈련을 수행해, 정적 환경 없이도 에이전트 일반화를 끌어올렸습니다.

Toward Generalist Autonomous Research via Hypothesis-Tree Refinement가설 트리 정제로 범용 자율 연구를 향하여63

Arbor는 장수명 coordinator와 단기 executor를 Hypothesis Tree Refinement로 묶어, 가설·증거·산출물·교훈을 장기적으로 축적하며 자율 연구를 일회성 시도가 아닌 누적 탐색 과정으로 바꿉니다.

SearchSwarm: Towards Delegation Intelligence in Agentic LLMs for Long-Horizon Deep Research장기 딥리서치를 위한 에이전트 LLM의 위임 지능, SearchSwarm56

SearchSwarm은 메인 에이전트가 언제 무엇을 서브에이전트에 위임할지 학습하도록 데이터 합성 하네스를 설계해, 유한한 컨텍스트 창 아래서 장기 딥리서치의 분업 능력을 다루는 오픈소스 탐색을 제시했습니다.

💡 에이전트 연구는 모델 자체보다 위임, 인터페이스, 하네스, 환경, 벤치마크를 어떻게 설계하느냐가 성능을 좌우하는 단계로 넘어가고 있습니다. 특히 장기 과제에서는 더 똑똑한 단일 에이전트보다, 실패를 축적하고 분업하며 스스로 개선하는 운영체제가 더 중요해 보입니다.

📄Robotics & RL1

LabVLA: Grounding Vision-Language-Action Models in Scientific Laboratories과학 실험실에 비전-언어-행동 모델을 접지하는 LabVLA44

LabVLA는 실험실 특화 로봇 데이터 병목을 풀기 위해 RoboGenesis 기반 시뮬레이션 데이터 엔진과 통합 학습 프레임워크를 제시해, 가정용 중심 VLA를 과학 실험 프로토콜 실행으로 확장합니다.

💡 로보틱스에서는 범용 VLA를 바로 확장하기보다 도메인 특화 데이터 엔진과 embodiment를 함께 다루는 접근이 현실적이라는 메시지가 강합니다. 실험실처럼 제약이 많은 환경일수록 모델 설계보다 데이터 생성 파이프라인이 경쟁력이 됩니다.

👁️Computer Vision1

WorldOlympiad: Can Your World Model Survive a Triathlon?당신의 월드 모델은 트라이애슬론을 버틸 수 있을까?34

WorldOlympiad는 비디오 월드 모델을 물리 충실도·기하 일관성·상호작용 충실도 세 축으로 분해하고, Gaussian splatting과 MLLM judge를 결합해 시각 품질 중심 평가의 빈틈을 메우는 벤치마크입니다.

💡 비전 평가도 이제 보기 좋은 영상인지보다 물리적으로 맞는지, 3D 구조가 유지되는지, 상호작용이 제어 가능한지로 빠르게 고도화되고 있습니다. 월드 모델이 실제 시뮬레이터나 에이전트 기반 응용으로 가려면 평가 축부터 더 엄격해져야 한다는 신호입니다.

🗣️Language Models2

ComBench: A Benchmark for Rigorous Proof Reasoning and Constructive Realization in Olympiad-Level Combinatorics올림피아드급 조합론의 엄밀한 증명 추론과 구성적 실현을 위한 벤치마크, ComBench14

ComBench는 증명 중심과 구성 중심 100문제를 rubric 기반 증명 채점과 결정적 구성 검증으로 함께 평가해, 최신 모델의 조합론 추론에서 논증 품질과 실제 구성 능력의 괴리를 드러냅니다.

ICA Lens: Interpreting Language Models Without Training Another Dictionary다른 사전을 다시 학습하지 않고 언어 모델을 해석하는 ICA Lens20

ICA Lens는 SAE 대신 비가우시안 방향을 찾는 ICA를 LLM 해석의 경량 첫 도구로 재조명해, 별도 대형 사전 학습 없이도 토큰 선택적이고 해석 가능한 표현 방향을 빠르게 탐색할 수 있음을 보였습니다.

💡 언어모델 연구에서는 더 어려운 추론 벤치마크와 더 가벼운 해석 도구가 동시에 부상하고 있습니다. 즉, 모델의 한계를 더 정밀하게 드러내는 평가와, 내부 표현을 더 싸고 빠르게 들여다보는 해석 방법이 함께 발전하는 흐름입니다.

매일 아침, 받은편지함에서 만나보세요

새로운 뉴스레터가 발행될 때마다 이메일로 받아볼 수 있습니다.

받아볼 뉴스레터 선택