오늘의 한줄
오늘은 비디오·3D 월드모델의 스케일업, 코딩 에이전트를 위한 환경·평가·스킬화, 그리고 LLM 효율화·학습 동역학을 다시 보는 연구가 두드러졌습니다. 특히 데이터·환경·메모리 같은 보이지 않는 인프라를 재설계해 성능과 재현성을 함께 끌어올리려는 흐름이 강하게 보입니다.
📄Multimodal & Generative4
SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models장기 예측 비디오 월드모델을 위한 오픈 데이터와 확장형 학습 프레임워크⭐ 273
SolarWM은 10개 데이터셋의 143만 클립을 프레임 정렬된 공통 포맷으로 통합하고 백본별 적응 프레임워크를 제공해, 장기 비디오 월드모델의 데이터 혼합·카메라 조건화·재현성 문제를 한 번에 해결하려는 오픈 기반입니다.
FlashRender: Few-Step Generative Rendering via Camera-Controlled Video MeanFlow카메라 제어 비디오 MeanFlow로 구현한 소수 스텝 생성 렌더링⭐ 7
FlashRender는 RETA로 카메라 제어 일관성을 맞춘 뒤 MeanFlow와 on-policy flow map distillation을 적용해, 소스 비디오를 목표 카메라 궤적으로 수초 내 재촬영하는 few-step 생성 렌더링을 구현했습니다.
Puffin-World: Scaling a Unified Multimodal Model with Native 3D World States네이티브 3D 월드 상태를 갖춘 통합 멀티모달 모델 확장
Puffin-World는 물리·기하·외관을 네이티브 3D 월드 상태로 함께 모델링하고 Omni-Camera 표현과 미래 물리 전파를 결합해, 외부 모듈 없이 3D 생성·재구성·시뮬레이션을 통합합니다.
💡 비디오·3D 생성은 이제 단순 샘플 품질 경쟁을 넘어, 데이터 계약·카메라 제어·물리 상태·잠재 메모리까지 포함한 세계모델 인프라 경쟁으로 이동하는 모습입니다. 특히 장기 일관성과 폐루프 상호작용을 위해 생성 모델 내부에 기하·물리·기억을 네이티브하게 심으려는 흐름이 뚜렷합니다.
💻Code & Agents7
Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills깃허브 저장소를 AI 연구용 스킬로 증류하기⭐ 109
DisCo는 GitHub 저장소와 과제별 자료에서 운영 노하우를 재사용 가능한 스킬로 증류해 연구 에이전트에 주입함으로써, 매번 시행착오로 재발견하던 ML 실전 지식을 스킬 계층으로 체계화했습니다.
WHALE: A Simple Recipe for Joint Harness-Weight Optimization하네스와 가중치를 함께 최적화하는 간단한 레시피⭐ 15
WHALE은 온라인 rejection-sampling 미세조정과 Meta-Harness 탐색을 번갈아 수행해 모델 가중치와 실행 하네스를 공동 최적화하며, 에이전트 성능 병목이 프롬프트가 아니라 제어 코드일 수 있음을 실용적으로 보여줍니다.
Editable Visual Design편집 가능한 비주얼 디자인
Editable Visual Design은 VLM을 창의적 브레인, 이미지 생성 모델을 자산 생성기로 두는 코딩 에이전트 기반 폐루프를 통해 HTML/CSS 레이어를 유지한 채 시각적으로 세련되고 사후 편집 가능한 디자인 생성을 가능하게 합니다.
💡 코딩 에이전트 연구는 모델 자체보다 스킬, 하네스, 환경, 평가셋, 행동 분석 체계를 어떻게 설계하느냐가 성능을 좌우하는 단계로 들어섰습니다. 즉 에이전트의 스케일링 법칙이 파라미터 수보다 운영 지식과 실행 환경의 재사용성에서 나온다는 신호로 읽힙니다.
🗣️Language Models4
Last Translation Benchmark최후의 번역 벤치마크⭐ 45
Last Translation Benchmark는 텍스트·이미지·오디오·비디오 전반에서 최상위 번역 모델을 깨는 사례와 예제별 수작업 검증 규칙을 함께 제공해, 포화된 번역 평가를 더 재현 가능하고 실패 원인 중심으로 바꿉니다.
Rethinking On-Policy Distillation of Large Language Models II: One Training Example대형언어모델 온폴리시 증류의 재고 II: 단 하나의 학습 예제
이 연구는 온폴리시 증류가 단일 질의만으로도 전체 데이터 학습 이득의 대부분을 회복하며, 16개 의미적으로 다른 질의면 상태 커버리지 98.9%로 full-data에 근접함을 보여 데이터보다 방문 상태가 핵심임을 시사합니다.
LatentPress: Context Compression Beyond Text and Vision텍스트와 비전을 넘어선 잠재 컨텍스트 압축
LatentPress는 대화·문서를 텍스트 대신 연속 메모리 토큰으로 압축해 동결된 디코더가 직접 읽게 하며, LongMemEval에서 7.70배 압축으로 비압축 입력보다 높은 0.504 정확도를 기록했습니다.
💡 언어모델 쪽에서는 더 많은 데이터보다 더 적절한 상태 표현과 평가 설정이 중요하다는 메시지가 반복됩니다. 단일 예제로도 증류가 상당 부분 가능하고, 잠재 메모리 압축과 숨은 충돌 평가가 부상하는 것은 LLM이 텍스트 생성기를 넘어 상태 추적기이자 상황 판단기로 확장되고 있음을 보여줍니다.
📄Training & Optimization4
Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning효율적 추론을 위한 KV 캐시 제거의 재고: 랜덤 어텐션⭐ 22
Random Attention은 중요도 점수 없이 프롬프트만 보존하고 나머지 KV를 헤드별로 무작위 제거해도 기존 최고 기법과 비슷한 성능을 유지하면서 vLLM 기준 처리량을 32~43% 높였습니다.
Let Confidence Change, Not the Prediction: Prediction-Preserving Repair for Post-hoc Calibration예측은 유지하고 신뢰도만 바꾸는 사후 보정 수리법⭐ 0
CORD는 보정기 자체를 바꾸지 않고 출력 확률벡터를 사후 수리해 원래 top-1 예측을 정확히 보존하면서 신뢰도 보정을 수행해, calibration이 의도치 않게 예측 라벨을 바꾸는 문제를 해결합니다.
Percolation Dynamics in Optimization : Variance Cascades and Discrete Scale Invariance최적화의 퍼콜레이션 동역학: 분산 폭주와 이산 스케일 불변성
이 연구는 SGD의 확률적 경사 흐름을 퍼콜레이션 과정으로 모델링해 대칭성에 따른 서브네트워크 병합이 분산 스파이크와 스케일 캐스케이드를 만든다고 설명하며, 이 현상이 Adam·AdamW에도 확장됨을 보였습니다.
💡 효율화 연구는 복잡한 휴리스틱보다 구조적 통찰이 더 큰 이득을 줄 수 있음을 보여줍니다. 무작위 KV 제거, 예측 보존형 보정, 4비트 양자화, 최적화 퍼콜레이션 해석은 각각 메모리·신뢰도·정밀도·학습 동역학의 핵심 병목을 더 단순하고 설명 가능한 방식으로 다룹니다.
👁️Computer Vision1
QCell: Recombining and Aligning Cell Queries for Overlapping Instance Segmentation겹친 세포 인스턴스 분할을 위한 쿼리 재조합·정렬 모델⭐ 9
QCell은 잠재공간에서 쿼리를 분해·재조합하는 모듈과 contrastive query alignment를 결합해 겹친 세포를 더 잘 분리하며, ISBI2014에서 AP +2.2와 AJI +2.7 향상을 기록했습니다.
💡 비전에서는 여전히 도메인 특화 구조가 강력합니다. QCell 사례처럼 겹침과 반투명성 같은 현장 난제를 쿼리 재조합과 정렬 목적함수로 직접 모델링하는 접근이 범용 세그멘테이션보다 실질 성능 개선으로 이어집니다.