包含标签 "dstack" 的文章

使用 dstack 在 nexgpu 上部署 LLMs

dstack 是一个开源的 GPU 编排工具,能够自动化管理实例配置和生命周期,并支持跨云服务提供商的部署。本指南将逐步介绍如何以 nexgpu 作为后端使用 dstack,将声明式基础设施与具有竞争力的 GPU 市场价格结合。dstack 的独特之处有哪些?主要功能包括:基础设施即代码 :通过 YAML 文件定义 GPU 需求、价格限制以及工作负载自...