오늘의 한줄
오늘은 에이전트형 RL·장기 메모리·검증 체계를 다루는 연구와, 오디오까지 통합한 실시간 월드모델 및 비디오 생성 효율화 연구가 특히 두드러졌습니다. 동시에 대규모 모델 학습·적응 비용을 줄이면서도 정확도와 신뢰성을 높이려는 최적화 기법들이 실전 지향적으로 발전하고 있습니다.
📄Robotics & RL2
NeMo-DCR: Bit-Exact Delta-Compressed Refit for Scalable Agentic RL at Trillion-Parameter ScaleNeMo-DCR: 초거대 에이전트형 RL을 위한 비트 정확 델타 압축 리핏⭐ 2,048
NeMo-DCR은 1T 체크포인트 전체 전송 대신 변경된 가중치만 비트 정확하게 동기화해 에이전트형 RL의 리핏 병목과 장애 복구 문제를 줄이는 시스템입니다.
RealtimeWAM: One-Step Asynchronous World Action ModelsRealtimeWAM: 비동기 1스텝 월드 액션 모델⭐ 2,880
RealtimeWAM은 TACD와 비동기 실행으로 멀티스텝 액션 디노이징과 전문가 간 대기 시간을 없애, 월드 액션 모델의 실시간 추론 효율을 크게 높였습니다.
💡 에이전트형 RL은 이제 알고리즘 자체보다도 초대형 정책 동기화와 실시간 액션 추론 같은 시스템 병목을 정면으로 다루는 단계로 넘어가고 있습니다. 학습-롤아웃 분산 구조를 전제로, 정확도를 유지한 채 통신·지연을 줄이는 인프라 최적화가 핵심 경쟁력이 되고 있습니다.
📄Multimodal & Generative5
HelixWorld: A Real-time Interactive Audio-Visual World ModelHelixWorld: 실시간 상호작용형 오디오-비주얼 월드모델⭐ 620
HelixWorld는 6-DoF 카메라 궤적과 사용자 입력에 따라 영상과 공간 스테레오 사운드를 함께 생성하며, 단일 GPU에서 24FPS 드리프트 없는 롤아웃을 구현했습니다.
Kandinsky 6.0 Video: Foundation Models for Synchronized Video and Audio GenerationKandinsky 6.0 Video: 동기화된 비디오·오디오 생성을 위한 파운데이션 모델⭐ 119
Kandinsky 6.0 Video는 3B·29B 듀얼스트림 CrossDiT로 5초 길이의 44kHz 오디오 동기 비디오를 생성하고, 립싱크와 Full-HD 업스케일링까지 지원합니다.
DuoMatching: Joint-Marginal Distribution Matching for Few-Step Video GenerationDuoMatching: 소수 스텝 비디오 생성을 위한 결합-주변 분포 정합⭐ 33
DuoMatching은 비디오 교사의 joint matching에 이미지 교사의 frame-level marginal matching을 더하고 LatentBridge를 도입해 적은 스텝에서도 화질과 의미 정합을 개선했습니다.
💡 비디오 생성은 더 이상 영상만의 문제가 아니라 오디오 동기화, 장기 메모리, 미래 지향적 이력 선택까지 포함한 '세계 시뮬레이션' 문제로 확장되고 있습니다. 특히 적은 스텝·고해상도·실시간 상호작용을 동시에 달성하려는 흐름이 뚜렷합니다.
💻Code & Agents4
VeriHarness: Scaling Agentic Verification for Long-Horizon TasksVeriHarness: 장기 과제를 위한 에이전트형 검증 확장⭐ 37
VeriHarness는 동일한 LLM에 작업공간·증거 도구·검증 스킬을 부여해 불일치 해결과 합의 도전으로 장기 과제 산출물을 더 신뢰성 있게 검증·수정합니다.
EVISKILL: Grounding Skill Evolution in Replayable EvidenceEVISKILL: 재현 가능한 증거에 기반한 스킬 진화⭐ 26
EVISKILL은 Replayable Evidence Cards와 타깃 재실행 검증을 통해 에이전트의 스킬 수정 근거를 보존하고, 지속적 스킬 진화의 신뢰도를 높였습니다.
Science Utopia? Closed-Loop LLM Simulation of Academic Research EcosystemsScience Utopia?: 학술 연구 생태계의 폐루프 LLM 시뮬레이션⭐ 22
SciUtopia는 연구 주제 선택부터 심사·재투고·인용·펀딩까지 포함한 폐루프 시뮬레이션으로, 61개 세계에서 4만 명 이상 연구자의 장기 학술 생태계를 모사합니다.
💡 에이전트 연구는 생성 능력보다 검증·증거 보존·공학적 평가처럼 결과를 믿을 수 있게 만드는 장치로 무게중심이 이동하고 있습니다. 실제 장기 과제에서는 정답 생성보다도, 왜 맞는지 추적하고 요구사항을 만족하는지 확인하는 메커니즘이 성능을 좌우합니다.
👁️Computer Vision1
GTR: Gated Token Recurrence for Efficient Dense PredictionGTR: 효율적인 조밀 예측을 위한 게이트 토큰 순환⭐ 47
GTR은 소프트맥스 없는 recurrent 비전 백본으로 COCO val2017에서 58.9 box AP와 RTX 4090 기준 1.908ms 지연을 달성해 고해상도 조밀 예측의 효율성을 입증했습니다.
💡 비전 백본은 고해상도 조밀 예측을 위해 글로벌 어텐션의 정면 승부 대신 recurrence와 특화 커널로 효율을 재설계하는 방향으로 진화하고 있습니다. 실사용 관점에서 AP와 함께 단일 GPU 지연시간을 전면에 내세우는 점도 인상적입니다.
🗣️Language Models4
Towards Looped Models Done Right, Part II: Rethinking at Fixed Points루프드 모델 제대로 만들기 II: 고정점에서 다시 생각하기⭐ 30
이 연구는 루프드 언어모델의 고정점 성질을 활용해 KV 공유, truncated backprop, RL 상태 재사용을 가능하게 하며 프리필 1.79배·RL 업데이트 2배 가속을 보고했습니다.
Memadapter: Counterfactual Adaptation Against Memory-induced SycophancyMemAdapter: 메모리 유발 아첨 편향에 대응하는 반사실 적응⭐ 21
MemAdapter는 반사실 유도와 적응형 메모리 통합으로, 맞는 기억조차 문맥에 따라 과도한 동조를 유발할 수 있다는 문제를 줄여 더 객관적인 에이전트 추론을 지원합니다.
Representation-Space MMD for Diffusion Language Models확산 언어모델을 위한 표현 공간 MMD⭐ 10
이 방법은 동결된 DLM 특징공간에서 MMD를 최소화하는 후처리 학습으로 OpenWebText perplexity와 GSM8K 정확도-연산 효율을 함께 개선했습니다.
💡 언어모델 쪽에서는 추론 구조 자체를 고정점·메모리 편향·확산 후처리 관점에서 다시 다루며, 더 빠르고 덜 아첨하며 더 평가 가능한 모델을 만들려는 시도가 이어집니다. 성능 향상뿐 아니라 신뢰성과 계산 효율을 동시에 챙기려는 흐름이 강합니다.
📄Training & Optimization4
HuatuoGPT-3: RL-Only Domain Adaptation from Base ModelsHuatuoGPT-3: 베이스 모델에서 출발하는 RL 전용 도메인 적응⭐ 16
HuatuoGPT-3는 OnePO로 Gradient Starvation과 Teacher-Distribution Anchoring을 해결해, SFT 없이도 RL만으로 도메인 전문가 LLM 적응이 가능함을 보여줍니다.
Prism: Dynamic Sparse Attention for Native 2K Joint Video-Audio Generation Model TrainingPrism: 네이티브 2K 비디오-오디오 생성 학습을 위한 동적 희소 어텐션⭐ 30
Prism은 시공간 매크로존과 오디오-비디오 정보 구조를 반영한 동적 희소 어텐션으로 2K 해상도 공동 생성 모델의 학습 비용과 정보 분산 문제를 줄였습니다.
PDE-JEPA: Predictive Representation Learning of Latent Dynamics Modeling for Parametric PDEsPDE-JEPA: 파라메트릭 PDE를 위한 예측 표현 기반 잠재 동역학 학습⭐ 7
PDE-JEPA는 masked-latent prediction과 geometry projector를 결합해 재구성 대신 예측 표현으로 PDE 동역학을 더 잘 포착하도록 사전학습합니다.
💡 학습·적응 연구는 SFT를 생략한 RL 적응, 동적 희소 어텐션, 재구성 대체형 사전학습, 망각 완화처럼 '같은 자원으로 더 잘 배우는 법'에 집중하고 있습니다. 특히 대규모 모델의 후반 적응 비용과 장기 유지보수 부담을 줄이려는 실전형 아이디어가 많습니다.