llm-d 1.0: CNCF выпустил стабильную версию фреймворка для распределённого inference
20 октября 2026 года на PyTorch Conference North America CNCF выпустила llm-d 1.0 — первую production-версию проекта Sandbox для распределённого inference LLM.
Читать полностью 2 мин чтения