몇 시간마다 RL 정책을 업데이트하면 즉각적인 병목이 생깁니다. 서빙 가용성을 떨어뜨리지 않고 새 체크포인트를 추론 워커에 올리는 일입니다.
다음 주 목요일, 11월 19일, @youdotcom, @NVIDIA, CoreWeave 엔지니어들이 오늘 실제 운영 환경에서 이 문제를 해결하는 방법을 설명합니다.
NVIDIA Nemotron 3.5 Lightning의 라이브 배포를 시연합니다. CoreWeave 인프라에서 RL Rollouts와 NVIDIA Dynamo를 사용해 체크포인트 핫로딩과…
전체 보기
몇 시간마다 RL 정책을 업데이트하면 즉각적인 병목이 생깁니다. 서빙 가용성을 떨어뜨리지 않고 새 체크포인트를 추론 워커에 올리는 일입니다.
다음 주 목요일, 11월 19일, @youdotcom, @NVIDIA, CoreWeave 엔지니어들이 오늘 실제 운영 환경에서 이 문제를 해결하는 방법을 설명합니다.
NVIDIA Nemotron 3.5 Lightning의 라이브 배포를 시연합니다. CoreWeave 인프라에서 RL Rollouts와 NVIDIA Dynamo를 사용해 체크포인트 핫로딩과 온폴리시 가중치 전환을 처리합니다.
NVIDIA HGX B200에서의 직접 결과:
✅ 정확도 22.94% 향상
✅ 도구 호출 30.24% 감소
정확한 청사진을 확인하세요
원문Updating RL policies every few hours creates an immediate bottleneck: getting new checkpoints onto inference workers without dropping serving availability.
Next Thursday, Nov 19th, engineers from @youdotcom, @NVIDIA and CoreWeave break down how to solve this in production today.
We’re walking through a live deployment of NVIDIA Nemotron 3.5 Lightning, using RL Rollouts and NVIDIA Dynamo on CoreWeave infrastructure to handle checkpoint hot-loading and on-policy weight transitions.
The direct outcomes on NVIDIA HGX B200:
✅ 22.94% accuracy gain
✅ 30.24% fewer tool calls
Get the exact blueprint, compute costs, and before-and-after traces. Register here: https://t.co/bQcQcevvH2