在 AIGC 从概念迈向大规模落地的当下，“如何优雅地玩转训练、推理与知识库”，已经成为一线工程团队绕不过去的问题。11 月 15 日，继 6 月北京站之后，DigitalOcean 开发者沙龙来到了上海，围绕算力、存储、知识基座与大模型推理优化等“硬核议题”，与现场开发者、架构师和技术管理者展开了一场深入而务实的技术对话。

![IMG_9117.jpg](https://blog.aidroplet.com/uploads/IMG_9117_4f4c6cd1ff.jpg)

本次沙龙延续了活动预告中的几大核心提问：

当 AMD ROCm 等开源生态迅猛发展，如何在复杂的硬件与软件选型中构建稳定且高效的 AI 算力底座？当模型与数据规模迈向数十 TB、PB 级别，存储系统是否还能跟上 GPU 的速度？当传统 RAG 面临知识“扁平化”的瓶颈，图技术能否成为 LLM 时代的“世界理解基座”？而在走向 DeepSeek 这类 MoE 大模型架构后，如何把推理性能真正“拉满”，突破延迟与成本的双重极限？

围绕这些问题，本次活动邀请到了来自 AMD、Juicedata、DigitalOcean、NebulaGraph、PPIO 等公司的技术专家，从开源 GPU 软件栈、云原生高性能存储、全球算力资源布局、图数据库与 RAG 演进、MoE 推理优化等多个维度，分享他们在一线实践中的真实经验与思考。下面，我们就通过五个精彩演讲，一起回顾这场围绕“如何优雅地玩转 AIGC”的深度技术沙龙。

## AMD ROCm 开源软件及生态，赋能 AI 开发者

![Snapseed.jpeg](https://blog.aidroplet.com/uploads/Snapseed_a2d8aa2faa.jpeg)

在此次演讲中，**AMD​ 高级 AI 架构师**​**李皓** 向现场观众系统介绍了 AMD ROCm™ 如何实现“软件无处不在”，并重点展示了 ROCm 7.0 在生成式 AI 与大模型时代的全栈能力。他强调，从本地开发到企业级集群部署，ROCm 覆盖 AMD Instinct、Radeon AI GPU 等多种硬件平台，实现训练与推理的统一加速。

ROCm 的核心竞争力来自 ​**开放性与广泛兼容性**​。ROCm 不仅支持主流 AI 框架，还包括 Mooncake、Torch Helion 等新兴生态。同时，ROCm 提供了专业的分析工具，包括 rocprofiler-compute 和 torchprofiler，使开发者能够更准确地定位性能瓶颈、优化大模型运行效率。

![640.webp](https://blog.aidroplet.com/uploads/640_bf9575b36c.webp)

在部署方面，他介绍了 ROCm 在容器化和云端的完善布局：从 Docker、Kubernetes、Singularity，到 AMD Dev Cloud ，再到对 Llama.cpp HIP 加速的支持，助力开发者实现从本地开发、容器测试到云端扩展的灵活模型构建与迁移路径。

ROCm 不只是一个 GPU 软件平台，而是 AMD 构建 AI 开放生态的底座。

## JuiceFS：AIGC 背后的存储挑战与 落地方案

![640 (1).webp](https://blog.aidroplet.com/uploads/640_1_4b10c24d32.webp)

在 Juicedata 解决方案架构师 **蔡敏** 的演讲里，他系统阐述了 AIGC 时代存储系统面临的挑战，并介绍 JuiceFS 在大模型训练、推理和多云部署中的落地实践。

AIGC 业务的多模态特征——从 LLM 文生文，到 Diffusion 文生图，再到音频与视频生成——带来了​**海量数据、巨量文件数与极端性能需求**​。典型大模型企业的数据规模可达数十 PB、文件数量超过百亿，业务吞吐量需要达到 400GB/s、IOPS 超过千万级，这对底层存储提出了前所未有的要求。

![640 (2).webp](https://blog.aidroplet.com/uploads/640_2_01c3db7d43.webp)

在剖析技术难点时，他详细比较了传统 NAS 与对象存储在 AIGC 场景中的局限，包括协议瓶颈、缺乏元数据语义、性能受限、无缓存机制等。随着模型规模和算力集群的不断扩张，企业急需一种既兼容 POSIX、又具备云原生特性的高性能分布式文件系统。

![640 (3).webp](https://blog.aidroplet.com/uploads/640_3_bfb40b9fa4.webp)

对此，他介绍了 ​**JuiceFS 的技术架构**​：通过“元数据与数据分离”的方式，将大规模数据存于对象存储，并以独立元数据服务补齐语义能力，同时提供多级缓存与多种访问接口，以实现高吞吐、低延迟访问。针对超大规模 AI 训练场景，JuiceFS 还提供可扩展的分布式缓存集群与多种元数据引擎，以支持从数亿到千亿级文件规模。同时，他还分享了一些落地案例。

## 如何构建 AI 训练与推理的算力资源

![640 (4).webp](https://blog.aidroplet.com/uploads/640_4_b5451f86ae.webp)

DigitalOcean Cloud Solutions Expert、卓普云科技解决方案架构师 **丁可** 在演讲中，全面介绍了 DigitalOcean 在全球 AI 基础设施领域的最新布局，展示了 DigitalOcean 从 GPU 云、Kubernetes、存储到 GenAI 平台的一整套解决方案，帮助企业快速构建 AI 训练与推理平台。

丁可首先回顾了 DigitalOcean 十余年的云服务发展历程，并强调公司在收购 Paperspace、引入原 AWS 与 NVIDIA 高管 Bratin Saha 后，在 AI 产品路径与 GPU 云能力上实现了显著跃升。当前 DigitalOcean 已覆盖全球 16 个数据中心，为 63.8 万客户提供服务，是全球增长最快的中型云平台之一。

在算力方面，他重点介绍了 DigitalOcean 现阶段提供的多类[ GPU](https://www.aidroplet.com/product/gpu/)，包括 **NVIDIA H200/H100、L40S/RTX 系列、AMD MI325X** 等，并透露 **最新 Blackwell 架构的 GPU 与 MI350X** 将在未来上线，继续完善从推理到大模型训练的全链路算力供应。部分 GPU 价格低至每小时 \$0.76，大幅降低企业的 AI 部署成本。

![640 (5).webp](https://blog.aidroplet.com/uploads/640_5_9165e8a960.webp)

丁可指出，AI 基础设施不止于 GPU。DigitalOcean 通过 **Gradient AI Platform、托管 Kubernetes（DOKS）、一键部署模型、高性能推理镜像、对象存储**​**与高性能 ​NFS** 等产品，帮助企业以更低运维成本构建端到端的 AI 工作流。从 serverless 到多卡训练，从 Hugging Face 模型加速到多模态推理端点，整个流程可在数分钟内完成部署。

演讲也展示了 DigitalOcean 在训练场景中的竞争优势：

* 裸金属 GPU 集群支持 ​**最高 1024 卡规模**​；
* GPU 间 **3.2Tbps RoCE2** 超高速互联，无 spine 架构、一跳通信；
* 无出网费用，使跨区域推理与数据流转更加经济可控。

![640 (6).webp](https://blog.aidroplet.com/uploads/640_6_120651474a.webp)

此外，丁可介绍了多模态 Serverless 推理能力，包括文生图（SDXL、FLUX）、文生音、TTS 多语言等模型支持，并展示了 DigitalOcean 与 llm-d 等开源项目的深度合作，使企业能在 DOKS 上快速部署分布式推理框架。

## 图即基座:NebulaGraph 在 LLM 时代的角色

![640 (7).webp](https://blog.aidroplet.com/uploads/640_7_5056e6cdd8.webp)

在 NebulaGraph GenAI 团队成员 **尚卓燃** 的演讲中，他深入剖析了传统 RAG 在 AIGC 时代遭遇的结构性瓶颈，并提出“图即基座”（Graph as the Foundation）这一全新范式，系统阐述了图技术如何成为大模型时代不可或缺的事实基座与推理基座。

他指出，当前主流 RAG 依赖文本分块与向量检索，本质上将知识“扁平化”，导致细粒度实体丢失、关系链断裂、多跳推理失效——尤其在面对“供应链中断是否导致某型号故障”这类需要跨时间、跨领域推理的问题时，表现乏力。

![640 (8).webp](https://blog.aidroplet.com/uploads/640_8_8dfa22c98c.webp)

为此，NebulaGraph 团队率先提出并落地多项关键技术：SubGraph RAG、Chain of Exploration（CoE），以及 FusionGraphRAG。其中 FusionGraphRAG 可大幅降低建图成本（↓ 约 80%），综合准确率领先业界约 10%。

在工程层面，NebulaGraph 已深度集成向量、全文与图结构的混合检索能力，并贡献 LlamaIndex MCP ToolSpec 至上游社区，率先实践 Local MCP 范式，推动图成为大模型可直接调用的“原生工具”。最后，他还分享了其技术在工业与金融领域的解决方案。

## 破局大规模 LLM 服务：MoE 推理的性能优化之道

![640 (9).webp](https://blog.aidroplet.com/uploads/640_9_1213495103.webp)

在 PPIO AI 推理加速高级算法工程师 **金明熠​** 的演讲中，他聚焦大规模 MoE（Mixture of Experts）模型在线服务的工程挑战，系统剖析了千亿参数级模型在高并发推理场景下面临的延迟与资源瓶颈，并介绍了 PPIO 在 DeepSeek 等模型服务中落地的多项核心技术优化。

他指出，以 DeepSeek 为代表的现代 MoE 模型（如 256 专家、每次激活 8 个）虽提升了训练效率，但在实现最佳计算效率、高内存和通信压力以及处理模型动态和稀疏性方面带来了额外挑战：不仅需跨多卡加载海量参数，专家路由引发的动态 token 分发与 All-to-All 通信亦成为性能关键路径——若不加优化，ITL（Inter-Token Latency）可达 300ms 量级。

![640 (10).webp](https://blog.aidroplet.com/uploads/640_10_64ce1bacf7.webp)

对此，PPIO 提出了多项核心优化策略：专家并行（EP）与专家负载均衡（EPLB）、计算-通信重叠（Computation-Communication Overlap）、Prefill-Decode 分离架构、Prefix Cache 分层缓存机制、多 Token 预测（MTP）集成。

## 写在最后

随着五位嘉宾的深度分享，本次 DigitalOcean 开发者沙龙以完整的技术链路，呈现了 AIGC 落地过程中最重要的四个底座：**算力、存储、知识结构化与高效推理**。从硬件到软件、从本地到云端、从模型工具链到工程优化，每一个环节都在快速迭代，而这也意味着企业与开发者正站在一个前所未有的创新窗口期。

无论是 AMD 推动的开源 AI 生态，JuiceFS 应对 PB 级数据的高并发挑战，DigitalOcean 打造的全球 GPU 云平台，NebulaGraph 构建的“图即基座”，还是 PPIO 在 MoE 推理上的极限优化，这些实践共同展示了 AIGC 的未来图景：更加开放、更具弹性、更注重工程效率，也更强调真实业务的落地价值。

DigitalOcean 未来将继续携手生态伙伴，把最前沿的算力产品、模型工具链与开发者平台带给中国企业出海用户与全球开发者，为 AI 的规模化落地提供稳健且具性价比的基础设施支持。至此，上海站的分享圆满落幕，但 AIGC 技术的探索仍在继续。下一站，更多关于训练、推理和知识系统建设的答案，将在实践中不断被刷新。如果你需要了解更多关于 [DigitalOcean 云平台在 AI 方面的产品详情](https://www.aidroplet.com/product/gpu/)，可咨询 DigitalOcean 中国区独家战略合作伙伴卓普云 aidroplet.com。

medium_IMG_9117.jpg

small_IMG_9117.jpg

thumbnail_IMG_9117.jpg

xsmall_IMG_9117.jpg

IMG_9117.jpg

本次 DigitalOcean 开发者沙龙以完整的技术链路，呈现了 AIGC 落地过程中最重要关键技术与实践经验。

DigitalOcean 开发者沙龙上海站落幕：五大硬核议题拆解 AIGC 落地的真实挑战

在 AIGC 的狂飙突进的当下，当“人人都能做 AI”的时代来临，作为 AI 实践者、工程师和决策者，你是否仍在为以下问题感到困惑？

-   面对日新月异的硬件和不断涌现的开源生态（比如 AMD ROCm），如何做出最明智的选择，为你的 AI 训练与推理构建**稳定且高效**的算力资源底座？你的硬件能力是否被软件生态充分释放？
-   数 TB 乃至 PB 级别的模型和数据集，已经成为常态。你的存储系统是否能跟上 GPU 的速度？如何才能在高吞吐、高并发的 AIGC 场景中，实现**可靠、灵活、低成本**的数据管理？
-   LLM 拥有强大的语言能力，但如何将它们从“语言复读机”升级为“世界理解者”？
-   如何将你企业独有的、散落在各处的“知识”系统化、结构化，让 AI 真正“理解”并进行高阶推理？
-   当我们走向 MoE 等更大、更复杂的模型架构时，部署和推理的成本与延迟成为了新的“拦路虎”。如何通过**创新的算法和工程优化**，将大规模模型的推理性能提升至极致，实现真正意义上的“破局”？

**如果上任何一个问题是你的痛点，或你对这些问题答案感到好奇，那么恭喜你——你正处于** **AIGC** **实践的最前沿。本次的DigitalOcean 开发者沙龙将带给你答案。**

这一次，我们不再停留在理论，我们将聚焦在 AIGC 落地中最核心、最“硬核”的议题。

继 6 月 **DigitalOcean 开发者沙龙北京站** [100+ 位参会者的成功热度](https://mp.weixin.qq.com/s?__biz=MzkyODYzMzUwOQ==&mid=2247485107&idx=1&sn=50de08dc649861554bd39b95874c6bb1&scene=21#wechat_redirect)之后，我们将在**11月15日**把沙龙带到**上海**！邀请技术业界技术大佬来为大家讲讲“**如何优雅的玩转** **AIGC** **——训练、推理、知识库的那些事儿”** 。

从**芯片生态**的赋能，到**存储系统**的挑战与应对，从**图数据库**如何构建 LLM 时代的知识基座，到**MoE** **大模型**的极致推理优化，我们为你邀请到了来自 **AMD** **、Juicedata、NebulaGraph、PPIO** 等顶尖企业的一线专家，为你揭示最前沿的工程实践与解决方案。

**别让你的** **AIGC** **停留在“能跑”的阶段，是时候掌握“优雅”地玩转它的秘诀了！**

**🔥 立即向下滚动，查看完整议程，扫描海报底部二维码即可报名，锁定你的席位！**

## **活动日程**  


  


![微信图片_2025-10-20_163200_863.png](https://blog.aidroplet.com/uploads/2025_10_20_163200_863_18f2258825.png)

  


## **演讲人**  
**王宏强**，AMD人工智能事业部总监：AI软件产品工程及解决方案架构********

毕业于中国电子科技大学，硕士。在科技行业拥有超过20年的经验。现就职于AMD人工智能事业部，担任AI软件产品工程总监，负责AI软件解决方案、产品工程和端到端性能优化，服务于数据中心、客户端以及边缘/终端应用，为 AMD的客户、开发者和更广泛的社区提供领先的人工智能技术。曾获得两项美国技术专利。

**蔡敏**，Juicedata 解决方案架构师

Juicedata 解决方案架构师，具备丰富的 AI 项目落地经验。曾在 IBM 工作十余年，长期专注于企业级存储系统的架构设计与实践。

**丁可**，DigitalOcean Cloud Solutions Expert/卓普云科技解决方案架构师

云计算与数据分析领域从业18年，先后供职于Digital Ocean中国、Neo4j图数据、亚马逊AWS和甲骨文数据库等公司担任架构师与技术咨询和实施顾问。关注新兴人工智能技术与当前IT服务的结合和重构，人工智能的工程化与落地等领域。人工智能与数据和计算的结合。对开源社区与AIGC有着浓厚的兴趣与参与。AWS认证DevOps专家/解决方案专家/数据专家，Neo4j图数据科学专家。

**金明熠**，PPIO  AI推理加速高级算法工程师

深耕AI领域六年。专注于攻克大模型推理性能瓶颈，通过算法与系统的协同创新，持续驱动AI应用落地的效能革命。致力于以“多、快、好、省”的技术方案，打通从技术到商业的最后一公里，推动AI技术的规模化产业应用。

**尚卓燃**，NebulaGraph GenAI 团队成员

应用数学与数据科学硕士。致力于探索图技术与生成式 AI 融合领域，并推动其在数据分析和智能应用等方面的落地。Apache OpenDAL PMC Member，积极参与开源大数据生态和 AI Infra 建设，曾作为创始团队成员深度参与云原生数据仓库 Databend 的构建。

large_wechat_2025-10-20_163912_131.png

medium_wechat_2025-10-20_163912_131.png

small_wechat_2025-10-20_163912_131.png

thumbnail_wechat_2025-10-20_163912_131.png

xlarge_wechat_2025-10-20_163912_131.png

xsmall_wechat_2025-10-20_163912_131.png

wechat_2025-10-20_163912_131.png

11月15日，DigitalOcean 开发者沙龙落地上海，我们为你邀请到了来自 AMD、Juicedata、NebulaGraph、PPIO 等顶尖企业的一线专家，为你揭示最前沿的工程实践与解决方案。

DigitalOcean 开发者沙龙上海站报名啦！与AI 技术专家面对面聊实践

十月将至，一年一度由 DigitalOcean 主办的**线上开源盛会 Hacktoberfest** 又要开始了。今年的 Hacktoberfest 是由 DigitalOcean 与 Major League Hacking (MLH) 共同发起，并由 AMD、auther0 赞助，与 GitHub、GitLab、CNCF、Open Source Initiative (OSI)、DEV、Holopin 等社区合作主办。**我们诚邀关注开源、参与开源的你，加入这场年度节日！**


Hacktoberfest 最初只是 DigitalOcean 在 2014 年发起的一场小型黑客松，名称来自 “Hack” + “October” + “Festival”，意为十月的黑客编程节日。每年都有大量的开源项目维护者和贡献者齐聚 Hacktoberfest，为那些包括 DigitalOcean 在内的无数公司、以及开发者所依赖的开源项目贡献力量。自 11 年前创办以来，Hacktoberfest 已从区区 676 名贡献者的小活动，爆发式增长为覆盖全球的开源现象——**2024 年**共有近 **90,000** 名参与者，遍布 **184** 个国家。这是对开源满满的爱！

无论你是初次尝试的新手，还是久别重逢的老朋友，都能在这里找到属于自己的舞台。参与其中，你不仅能为数以百万计的人改善日常使用的工具，还能收获新技能、结识伙伴，真正融入开源的世界。同时，DigitalOcean 也会为参与其中的 Haker 们送上不同等级的奖励！

![wechat_2025-09-16_152629_745.png](https://blog.aidroplet.com/uploads/wechat_2025_09_16_152629_745_ba5cb7abc0.png)

## Hacktoberfest 的影响

近两年有大量的伙伴参加到 Hacktoberfest 活动中来。根据 **2023** 年的数据，有来自 184 个国家的 **98,855** 人注册，共提交 **118,469** 次贡献，**139,422** 个仓库选择参与。十年累计，已有超过 **240 万个** **PR** **/** **MR** ****被合并。每一位参与者都应为这一巨大成就感到自豪。更令我振奋的是，听到那些因 Hacktoberfest 贡献而受益的故事——我迫不及待想看到今年又为开源带来哪些新成果。

例如，2021 年，.NET Screenplay 模式库 Boa Constrictor 的维护者表示：

> “Hacktoberfest 2021 对我们大获成功！共完成 41 个 PR、151 次 commit，新增超 1 万行代码，贡献者达 11 人。”

去年，Reactive Resume 维护者 Amruth Pillai 也分享：

> “在此期间，项目活跃度激增，用户和贡献者提交了众多新功能、问题报告与修复，极大提升了项目的韧性与安全性。”

## 怎么参与Hacktoberfest？

DigitalOcean 鼓励所有人参与到开源的社区中来，不论你是否会代码，都能报名参加 Hacktoberfest。

以下是参与并完成 Hacktoberfest 所需了解的信息：

-   即日起至 10 月 10 日之间的任意时间注册，**在官网** **hacktoberfest.com/auth/** **通过你的** **Github** **或GitLab账号授权即可**。
-   注册 Hacktoberfest 后，你将解锁一枚数字徽章；在活动期间每成功被接受一个 Pull/merge 请求，徽章等级将随之提升，直至完成四个为止。
-   Pull/merge 请求可提交至任何参与 Hacktoberfest 的 GitHub （github.com/topics/hacktoberfest）或 GitLab（go.gitlab.com/ubCLKL） 托管项目（请查找带有“hacktoberfest”主题标签的项目）。
-   目标是在 10 月 1 日至 10 月 31 日期间提交四个高质量的拉取/合并请求，并需由项目维护者接受，才能计入你的总完成数。
-   如果你是第一次参与活动，可在 Hacktoberfest 官网，查看更多关于 Pull/merge 的要求：https://hacktoberfest.com/participation/

![wechat_2025-09-16_152544_395.png](https://blog.aidroplet.com/uploads/wechat_2025_09_16_152544_395_0e93e7c5ba.png)

图：在官网点击授权登录即可

  


如果你是**开源项目的维护者**，你希望你的项目参与到 Hacktoberfest 活动中来，那么你需要：

-   在你的代码仓库中添加 “hacktoberfest” 主题标签，以加入 Hacktoberfest 活动，并表明你欢迎贡献。
-   在 GitHub 或 GitLab 项目中，为你希望贡献者参与解决的问题打上 “hacktoberfest” 标签。
-   在仓库中添加 CONTRIBUTING.md 文件，明确贡献指南。
-   选择范围清晰、独立完整的问题，便于新人上手。
-   制定并采用行为准则（Code of Conduct），营造更具包容性和社区感的协作环境。
-   准备好审核拉取/合并请求：对有效贡献，请通过合并、给予整体批准评价，或添加 “hacktoberfest-accepted” 标签予以接受。
-   对垃圾请求，请打上 “spam” 标签；对其他无效贡献，请直接关闭或标记为 “invalid”。


让开源协作更顺畅、更友好！


注意！！**如果你不会代码，也能报名参加！**


Hacktoberfest 的核心目标是鼓励更多人参与开源，携手协作，共同参与到开源社区中来。开源项目能从社区贡献中获益良多，而参与方式远不止写代码——无论你是否具备技术背景，都可以运用自己的专业技能支持开源项目。你能以翻译、协作、视频制作、播客等各种形式参与到活动中来。


现在就加入 Digitalocean Hacktoberfest 活动：**在官网** **hacktoberfest.com/auth/** **通过你的** **Github** **或GitLab账号授权即可注册报名**


## Hacktoberfest 与 卓普云AI Droplet

卓普云AI Droplet 作为 DigitalOcean 中国区的独家战略合作伙伴，这次与 DigitalOcean 一起，为开源维护者和贡献者摇旗呐喊！

今年我们携手为中国区的更多开发者献上 **Global Hack Week 月度系列活动**，你可以在这里学习新技能、丰富作品集、参加趣味 Session、与全球开发者连线。**在 11 月** **中**，即 Hacktoberfest 圆满结束之时，我们还将**在上海举行一次线下的沙龙**，邀请重磅的技术专家与大家分享开源、AI相关的前沿技术与经验。请关注我们的公众号或扫码加入我们的QQ群（611945524），以便及时获取11月沙龙的详细信息。立即免费注册，和数千名开发者一起嗨！

![微信图片_20250916152704_1.jpg](https://blog.aidroplet.com/uploads/20250916152704_1_f89937c0e8.jpg)
想了解更多 Hacktoberfest 活动的信息，请访问 hacktoberfest.com。

  


## 为什么 DigitalOcean 要支持开源？

  


Hacktoberfest 的核心是庆祝开源——那些驱动当今无数热门网站与应用的项目。毫不夸张地说，如果没有开源，互联网将面目全非；而这些项目往往由开发者在业余时间、几乎零预算地维护更新。开源是当今技术的脊梁，而维护并贡献代码的开发者，则是开源的脊梁。

Hacktoberfest 希望吸引更多新手和回归者，在专属月份里回馈这些项目。参与者不仅能给每日被数百万人使用的工具带来实质改进，还能学习新技能、结识社区伙伴。

  


在 DigitalOcean，我们坚信开发者与开源社区的力量；工具越触手可及，开发者越能创造卓越软件。我们迫不及待想看到你在今年 Hacktoberfest 中留下自己的印记——立即访问下方链接报名，Happy Hacking！

  


🎉现在就加入 Digitalocean Hacktoberfest 活动：**在官网** **hacktoberfest.com/auth/** **通过你的** **Github** **或GitLab账号授权即可注册报名！**

**同时，加入我们的QQ群（611945524），以便及时获取11月沙龙的详细信息。**

  


![微信图片_20250916152704_1.jpg](https://blog.aidroplet.com/uploads/20250916152704_1_f89937c0e8.jpg)

large_opengraph.6e804091.png

medium_opengraph.6e804091.png

small_opengraph.6e804091.png

thumbnail_opengraph.6e804091.png

xsmall_opengraph.6e804091.png

opengraph.6e804091.png

DigitalOcean 联手 MLH、AMD、auther0、Github、Gitlab、CNCF等组织举办，一年一度有数万人参加的线上开源节日！

每年9万人参加的开源盛会来了！DigitalOcean Hacktoberfest 报名开启！

2025 年 2 月 18 日-2 月 20 日，全球区块链行业瞩目的年度盛会——Consensus大会在香港圆满落幕。作为全球Web3领域最具影响力的峰会之一，本届大会吸引了来自全球与 Web3 相关的头部企业、开发者及投资机构，围绕区块链技术创新、去中心化应用与行业合规等议题展开深度探讨。云计算服务商卓普云（AI Droplet）联合国际知名云平台DigitalOcean首次亮相Consensus大会，在展会现场通过前沿技术展示与行业解决方案分享，吸引了许多开发者与企业代表的驻足交流。

![Consensus1.png](https://blog.aidroplet.com/uploads/Consensus1_f8d01bf827.png)

Consensus 大会首度落地香港，彰显了亚洲市场在 Web3 全球化进程中的战略地位。香港特区政府代表在开幕致辞中强调，香港将通过政策支持与技术创新，打造开放、合规的数字资产交易环境。这一背景下，DigitalOcean 与其中国区独家战略合作伙伴卓普云的参展，不仅展示了 DigitalOcean 在云计算基础设施领域的合作成果，更传递出对 Web3 市场长期布局的信心。

在展会现场，DigitalOcean 云平台针对区块链技术场景的解决方案，吸引了众多开发者与企业客户驻足。在展区现场，卓普云的工程师重点介绍了 DigitalOcean 面向区块链场景的四大核心能力：

## 1. 节省成本

-   按需计费：DigitalOcean 的服务采用按需计费模式，企业可以根据实际需要选择计算资源，避免了冗余的硬件采购和维护成本。这对于区块链企业尤为重要，因为它们需要根据项目的波动性灵活调整资源。


-   高性价比：DigitalOcean 以较低的价格提供高效能的云计算资源（如 Droplets 和 GPU Droplets），相比其他云平台，它的成本效益较为突出，尤其适合中小型区块链公司进行快速实验和产品部署。而且 DigitalOcean 的流量费用远远低于大多数老牌云服务平台，迁移至 DigitalOcean 可以帮助区块链企业节省大量成本。


-   自动化和集成工具：DigitalOcean 提供一整套自动化工具，如 API、CLI、Kubernetes 集群等，可以帮助企业自动化资源配置和管理，进一步减少了人工成本。

## 2. 产品服务

-   Droplets：作为 DigitalOcean 的核心产品，Droplets 是虚拟私有服务器，适用于运行区块链节点、开发环境或轻量级的区块链应用。Droplets 支持快速部署，且支持不同操作系统和开发框架，非常适合区块链企业快速启动应用。

-   GPU 裸金属服务器和 GPU Droplets：对于需要进行大规模数据处理、机器学习训练或区块链挖矿的企业，DigitalOcean 提供了GPU裸金属服务器和 GPU Droplets。这些产品可以大幅提高图形处理能力，满足区块链企业在高负载和计算密集型任务中的需求。与此同时，GPU 裸金属服务器可以为区块链企业提供独享的物理计算资源，用于建设区块链基础设施或 DePin 等项目。

-   全球数据中心：DigitalOcean 在全球 16 个数据中心布局，为区块链企业提供全球范围内的低延迟和高可用性的基础设施。无论是针对用户的全球分布，还是针对不同市场的合规需求，DO 的数据中心都能提供支持。

## 3. 高可靠性和安全性

-   高可用性：DigitalOcean 通过全球负载均衡和高可用的网络架构，确保区块链企业的应用在全球范围内 24/7 运行稳定。

-   安全保障：DO 为区块链企业提供包括防火墙、加密存储、DDoS 防护等多种安全功能，保障数据和交易的安全性，符合行业对数据隐私和安全的严格要求。

## 4. 简化区块链部署

-   Kubernetes 集群支持：通过 DigitalOcean 的 Kubernetes 服务，企业可以轻松管理和扩展基于容器的区块链应用，简化了区块链节点的部署和管理工作。对于需要快速迭代和扩展的区块链企业而言，Kubernetes 提供了极大的灵活性和便利。

-   一键部署工具：DigitalOcean 提供了区块链相关的预配置镜像，企业可以通过一键部署快速启动区块链节点和应用，减少了初期的配置时间和技术门槛。

![Consensus2.png](https://blog.aidroplet.com/uploads/Consensus2_90e2e0ddcb.png)

在展会现场， 多家 Web3 企业与卓普云在大会现场商洽，达成进一步沟通以及合作的意向。随着全球 Web3 产业进入”价值落地”新周期，卓普云与 DigitalOcean 的参展，不仅为行业提供了可复用的技术范式，更以扎实的云服务能力为下一波去中心化应用爆发奠定基石。这场东方之珠的科技盛宴，或将成为 Web3 基础设施演进的重要注脚。

large_Consensus1.png

medium_Consensus1.png

small_Consensus1.png

thumbnail_Consensus1.png

xsmall_Consensus1.png

Consensus1.png

DO携卓普云亮相Consensus2025，展示低成本GPU+Droplets区块链方案。

卓普云携手DigitalOcean亮相香港Consensus大会：以技术赋能全球Web3生态

作为开发者，DigitalOcean 的团队同样热爱构建各种各样的应用，但也深知随着应用组合不断增长，管理它们会变得越来越复杂。生产服务、staging 环境和新功能分支部署之间的界限可能变得模糊不清。快速识别哪些应用属于哪个用途，并一眼看清所有“生产”应用，已成为一项重大的组织挑战。

DigitalOcean 近期宣布一种全新的强大方式来应对这种复杂性：​**DigitalOcean App Platform （应用托管平台）现已支持环境管理（Environment Support）**​，该功能基于 DigitalOcean Projects 实现。同时，我们还推出了 **App 克隆（App Cloning）** 功能，只需点击几下即可复制你的应用。

通过这项新功能，你可以明确地为资源分组（即 Projects）打上特定环境标签，例如开发、Staging 或 生产，然后将你的 App Platform 应用分配到这些项目中。这样一来，你就能在控制面板或通过命令行（CLI）获得一个高层级、可筛选的全局应用视图。

如果你还没有使用过 DigitalOcean AppPlatform。我们在这里简单介绍一下。

## DigitalOcean App Platform 是什么？

如果你熟悉 AWS，可以把 DigitalOcean App Platform 理解为 “AWS App Runner + Elastic Beanstalk 的简化融合版” ——一个真正开箱即用、无需配置基础设施的全托管应用平台。

就像你在 AWS 中使用 App Runner 从 GitHub 直接部署服务、或用 Elastic Beanstalk 上传代码自动运行 Web 应用一样，App Platform 允许你只需连接 Git 仓库（或上传代码），它就会自动完成构建、部署、扩缩容、HTTPS 配置、日志收集和健康监控——完全无需管理服务器、容器、负载均衡器或 CI/CD 流水线。

但它比 AWS 更进一步简化：

* 没有 VPC、安全组、IAM 角色等底层概念；
* 数据库、后台 Worker、前端静态站点和 API 服务可以定义在同一个应用配置中，一键部署为完整系统；
* 通过 Projects 原生支持环境（Development/Staging/Production）分组，类似 Beanstalk 的 Environments，但集成更直观。

一句话总结来讲就是：App Platform 就像是 DigitalOcean 为你打造的“无需配置的 PaaS”——如果你曾希望 Elastic Beanstalk 能再简单一点，或者 App Runner 能直接支持数据库和多组件协同，那这就是你要的体验。

适合希望聚焦业务代码、快速上线、避免运维复杂度的团队，尤其是从 AWS 迁移或寻找更轻量替代方案的开发者。

###  环境管理功能的核心

![Environments - App Platform 1.png](https://blog.aidroplet.com/uploads/Environments_App_Platform_1_2572e8b582.png)

逻辑简单却非常有效：

* **Project** 是你资源的“容器”。你可以将 Droplet、负载均衡器、数据库和 App Platform 应用等资源归入同一个 Project。
* ​**Project 现在可以分配一个环境标签**​。该标签正式定义了该项目的用途。
* **App Platform 应用会被分配到某个 Project 中。**

通过将这三者结合，你就能将应用与特定环境关联起来，从而实现更清晰的组织结构、更精准的成本管理，以及更强大的脚本编写和自动化能力。

### 在云后台页面中配置环境

你可以在 DigitalOcean 控制面板中直接完成全部操作。

当你创建一个新项目时（从主仪表盘点击 “New Project”），会看到一个新的 “Environment” 下拉菜单。在这里，你可以选择​**​ Development、Staging 或 Production**​，以定义该项目的角色。

![Environments - App Platform 2.png](https://blog.aidroplet.com/uploads/Environments_App_Platform_2_50bd35e91e.png)

项目创建完成后，在 App Platform 应用创建向导中只需选择该项目即可。该应用的所有资源现在都会与这个带有环境标签的项目关联。

![Environments - App Platform 3.png](https://blog.aidroplet.com/uploads/Environments_App_Platform_3_872ead9cf2.png)

### 使用 doctl 管理环境

对于习惯在终端工作的开发者，整个流程也完全支持 DigitalOcean 的命令行工具 ​**doctl**​。

下面我们逐步演示完整的终端操作流程。

#### 步骤 1：创建一个带环境标签的 Project

首先，我们创建一个新项目。doctl projects create命令现在新增了 --environment 参数，可接受 **Development、Staging**​​**​ 或 Production**​。

```
# 创建一个用于staging环境的新项目
$ doctl projects create --name "saas-staging-project" \
  --purpose "Staging environment for our main SaaS app" \
  --environment "Staging"

# 输出示例
ID                                      Owner UUID                              Owner ID    Name                    
Description                                     Purpose                                   Environment    Is Default?    
Created At              Updated At
c4f2b0a8-6f17-4e6f-9b8f-1a2b3c4d5e6f    a34997bf-6ff4-4aa1-bb9f-4e4dd08ea790    8198484     saas-staging-project    
Update your project information under Settings    Staging environment for our main SaaS app    Staging        false          
2025-11-10T14:30:00Z    2025-11-10T14:30:00Z
```

请记下这个新项目的 ID（例如 c4f2b0a8-…）。

#### 步骤 2：创建应用并将其分配到该项目

接下来，在创建 App Platform 应用时，使用 --project-id 参数将其分配到刚刚创建的项目中：

```
# 基于配置文件创建新应用，并分配到指定项目
$ doctl apps create --spec /path/to/my-staging-app.yaml \
  --project-id "c4f2b0a8-6f17-4e6f-9b8f-1a2b3c4d5e6f"

# 输出（已精简）
ID                                      Spec Name       Default Ingress    ...    Created At
01c03d96-43bb-4da9-ba54-0b215c44a498    saas-staging    ...                     2025-11-10T14:32:15
```

现在，这个新应用（ID 为 01c03d96-…）已在组织层面与 “Staging” 环境关联。

#### 步骤 3：查询已部署应用所属的环境

如何查找一个已部署应用的环境？虽然这需要两次 API 调用（先获取应用的 project_id，再获取该项目的环境），但你可以轻松地在命令行中用 doctl 和 jq 将它们串联起来。

以下是一个单行命令，输入应用 ID，即可输出其所属项目和环境的摘要信息：

```
APP_ID="01c03d96-43bb-4da9-ba54-0b215c44a498"; doctl projects get $(doctl apps get "$APP_ID" -o json | jq -r '.[0].project_id') -o json | jq -r --arg APP_ID "$APP_ID" '.[0] | "App ID: \($APP_ID)\nProject: \(.name)\nEnvironment: \(.environment)"'
```

输出结果如下：

```
App ID: 01c03d96-43bb-4da9-ba54-0b215c44a498
Project: saas-staging-project
Environment: Staging
```

这样，你就能在终端中快速、可脚本化地确认任意应用的所属环境。

### 使用 App 克隆功能加速工作流

配合另一项新功能——​**App 克隆（App Cloning）**​，环境管理变得更加轻松。这项功能是环境标签化 Project 的完美搭档，可让你快速复制应用，快速搭建新环境。

你现在可以基于现有应用创建一个全新的应用。只需进入原应用的主页，点击 “Actions” 菜单，选择 “Clone app”。

![Environments - App Platform 4.png](https://blog.aidroplet.com/uploads/Environments_App_Platform_4_166f0d15b1.png)

系统会引导你进入一个创建向导，其中已预填充原应用的所有设置，包括组件、配置和未加密的环境变量。

![Environments - App Platform 5.png](https://blog.aidroplet.com/uploads/Environments_App_Platform_5_0045f72d3f.png)

这个完全可自定义的模板允许你在克隆过程中修改新应用的任何属性，包括源代码、实例规格、构建命令、环境变量、数据中心区域、VPC 设置以及应用名称。

例如，若要快速搭建一个测试环境，你可以直接克隆生产应用，在 “Clone App” 向导中：

* 将 Project 更改为你的 “Staging” 或 “Development” 项目；
* 更新环境变量，使其指向开发数据库或 staging API 密钥；
* 为新应用命名，例如 my-app-staging。

这让创建用于开发、测试或功能分支的平行环境变得前所未有的快速和可靠。

### 尝试开始管理你的应用

App Platform 与支持环境标签的 Projects 深度集成，加上全新的 App 克隆工作流，标志着我们在简化复杂应用部署管理方面迈出了重要一步。你现在可以一目了然地看清每个应用的用途，有效避免代价高昂的误操作，并为 CI/CD 流水线构建更加健壮的自动化能力。

如需了解更多详情，请查阅 DigitalOcean 英文官网文档：[App Platform 文档](https://docs.digitalocean.com/products/app-platform/) 和 [Projects 文档](https://docs.digitalocean.com/products/accounts/projects/)，或者咨询 [DigitalOcean 中国区独家战略合作伙伴卓普云的技术专家 aidroplet.com](https://www.aidroplet.com/)。

medium_images (1).png

small_images (1).png

thumbnail_images (1).png

xsmall_images (1).png

images (1).png

DigitalOcean App Platform 新增环境标签与应用克隆功能，简化多环境管理。

简化工作流：DigitalOcean App Platform 正式支持环境管理

DigitalOcean 云平台为所有 [GPU Droplets ](https://www.aidroplet.com/product/gpu/)服务器及 [DOKS（DigitalOcean Kubernetes Service）集群](https://www.aidroplet.com/product/kubernetes/)推出了一套全新的基础可观测性（observability）指标，为你提供强大而简洁的工具，助你监控并优化 AI 工作负载。

## 为何 GPU 可观测性很重要？

在运行大规模模型训练、推理及复杂数据处理任务时，集群的性能与稳定性至关重要。DigitalOcean 全新推出可观测性功能，助你全面掌握运行状态，高效利用资源，快速定位并解决性能瓶颈。

无需配置，你就可直接在 DigitalOcean Insights 用户界面中，获取 NVIDIA 与 AMD GPU 及其网络接口的实时、细粒度指标数据，覆盖利用率、温度、功耗等关键维度。

DigitalOcean 将新指标划分为五大类别，更加直观，全面呈现 GPU 与 DOKS 集群的运行状态与性能表现：

* **利用率（Utilization）**：掌握 GPU 核心与显存的繁忙程度。核心指标包括 GPU 占用率（GPU Occupancy）与显存利用率（Memory Utilization），助你实时优化配置，实现峰值性能。
* **温度（Temperature）**：监控热状态，防止过热，确保高负载下稳定运行。
* **功耗（Power）**：追踪功耗水平，这对理解 GPU 性能表现与能效至关重要。
* **降频（Throttle）**：识别 GPU 是否因温度、功耗或电压限制而主动降频。该指标对诊断突发性性能下降极为关键。
* **互连（Interconnect）**：深入了解 GPU 资源间网络接口的性能表现。

## 零配置、零额外成本

指标的可观测性不应产生任何使用障碍——所以，DigitalOcean 力求让该功能做到简单、无成本：

* **默认启用**：创建 GPU Droplet 服务器时，可观测性功能即自动开启，无需任何额外配置或操作。
* **免费提供**：这些核心可观测性指标已包含在面向 GPU Droplets 的 AI/ML 镜像中，无需额外付费。

DigitalOcean 致力于持续提升 GPU 使用体验，未来还将为可观测性套件添加更多高阶、差异化功能。

DigitalOcean GPU Droplets 的核心优势：

* **部署简化**：DigitalOcean 直观易用的平台让 AI 基础设施的创建与管理变得轻而易举，助你专注于应用开发，而非复杂运维。
* **高性价比**：GPU Droplets 起价仅为每 GPU 每小时 0.76 美元，并提供灵活配置选项（包括单卡与八卡机型），助你根据具体用例精准优化成本。
* **无缝集成**：GPU Droplets 可与你现有的 DigitalOcean 项目无缝协同，并与 DigitalOcean 的 Kubernetes 服务深度集成。
* **高可靠性**：依托 DigitalOcean 久经验证的云基础设施，你可享有企业级 SLA 保障、HIPAA 合规支持与 SOC 2 认证，为业务提供坚实可信的运行底座。

目前，DigitalOcean 云平台的 GPU Droplet 可提供包括 **NVIDIA H200/H100、L40S/RTX 系列、AMD MI325X** 等，而且**最新的 AMD MI350X 与 Blackwell 架构的 NVIDIA GPU 将在未来不久上线**，**如需要提前预订**，可直接联系[ DigitalOcean 中国区独家战略合作伙伴卓普云 aidroplet.com](https://www.aidroplet.com/)。

large_images (3).png

medium_images (3).png

small_images (3).png

thumbnail_images (3).png

xsmall_images (3).png

images (3).png

DigitalOcean 推出 GPU 与 DOKS 免费可观测性指标，零配置监控 AI 工作负载性能瓶颈。

DigitalOcean GPU 与 K8S 新增可观测性指标，实时掌控 AI 性能

DigitalOcean 云平台近期宣布，来自 fal.ai 的四个多模态 AI 模型已在 [DigitalOcean Gradient™ AI 平台](https://www.aidroplet.com/product/gpu/)上架，现在可通过 Serverless Inference 以公开预览版的形式使用。借助这些模型，你可以直接通过 API 生成图像和音频，无需操心基础设施、扩缩容或供应商管理。此次发布后，构建包含视觉与音频内容的 AI 驱动应用变得前所未有的简单。

对于不熟悉 **fal.ai** 的开发者来说，这里简单介绍一下。它是一家专注于为 **生成式媒体（Generative Media）**  提供**高性能** **AI** **部署平台**的公司。简单来说，fal.ai 致力于解决 AI 模型推理速度慢、部署复杂的问题。他们提供了一个 Serverless 环境，让开发者能够通过简单的 API 快速、高效地运行 **文生图、图生视频** 等大规模 AI 模型，而无需管理底层 GPU 基础设施。**fal.ai 的使命是提供行业领先的推理速度和效率，以加速 AI 驱动的创意应用的开发。**

在此次发布中，fal.ai 的角色是**高性能服务提供商**，将这些强大的模型带到 DigitalOcean 平台上。

## 探索新模型

以下 fal.ai 的模型已进入公开预览版本，涵盖多种模态，可以帮助你快速实验、原型化并部署多模态 AI 功能：

图像生成的模型有：

-   Stable Diffusion XL fast (fal-ai/fast-sdxl) – 高分辨率图像生成
-   FLUX.1 (schnell) (fal-ai/flux/schnell) – 快速出图，适合快速原型

音频生成的模型有：

-   Stable Audio (fal-ai/stable-audio-25/text-to-audio) – 将文本转换为自然听感的音频
-   ElevenLabs TTS Multilingual v2 9 (fal-ai/elevenlabs/tts/multilingual-v2) – 多语种文本转语音

这些模型均通过 Serverless Inference 提供，你可在 DigitalOcean Gradient AI 平台上沿用已有的简单 API 工作流来生成图像与音频。

## 如何使用？

你可立即通过 Serverless Inference API（https://inference.do-ai.run）开始使用这些模型。以下是调用示例：

示例 1：生成图像

```
export MODEL_ACCESS_KEY="YOUR_KEY"
curl -sS -X POST "https://inference.do-ai.run/v1/async-invoke" \
  -H "Authorization: Bearer $MODEL_ACCESS_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model_id": "fal-ai/flux/schnell",
    "input": { "prompt": "A high-quality photo of a futuristic city at sunset" }
  }'
```

示例 2：带自定义参数生成图像

```
curl -sS -X POST 'https://inference.do-ai.run/v1/async-invoke' \
  -H "Authorization: Bearer $MODEL_ACCESS_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model_id": "fal-ai/fast-sdxl",
    "input": {
      "prompt": "A high-quality photo of a futuristic city at sunset",
      "output_format": "landscape_4_3",
      "num_inference_steps": 4,
      "guidance_scale": 3.5,
      "num_images": 1,
      "enable_safety_checker": true
    },
    "tags": [
      { "key": "type", "value": "test" }
    ]
  }'
```

示例 3：生成声音

```
curl -sS -X POST 'https://inference.do-ai.run/v1/async-invoke' \
  -H "Authorization: Bearer $MODEL_ACCESS_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model_id": "fal-ai/stable-audio-25/text-to-audio",
    "input": {
      "prompt": "Futuristic epic song",
      "seconds_total": 60
    },
    "tags": [
      { "key": "type", "value": "test" }
    ]
  }'
```

示例 4：文本转语音（TTS）

```
curl -sS -X POST 'https://inference.do-ai.run/v1/async-invoke' \
  -H "Authorization: Bearer $MODEL_ACCESS_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model_id": "fal-ai/elevenlabs/tts/multilingual-v2",
    "input": {
      "text": "Hello, this is a text to speech example using Digital Ocean multilingual voice."
    },
    "tags": [
      { "key": "type", "value": "test" }
    ]
  }'
```

上述调用会启动作业并返回 request_id，可用于查询结果。由于 Serverless Inference 采用异步 API，你需要轮询直到任务完成。

/status 端点非常轻量，可频繁查询。当响应显示以下状态时

```
{ "status": "COMPLETE" }
```

这说明已经可通过 /async-invoke/{request_id} 端点获取完整结果：

```
curl -sS -X GET "https://inference.do-ai.run/v1/async-invoke/{request_id}" \
  -H "Authorization: Bearer $MODEL_ACCESS_KEY"
```

## 用 fal 在 DigitalOcean 实现创意

对于希望快速开发 AI 应用的开发者来说，时间就是金钱。自己部署虽然给予最大控制权，但耗时耗力，成本高昂。而使用 DigitalOcean 上的 fal.ai 服务，就是**用一个简单的** **API** **调用，换取高效率、低成本的自动运维和专业的模型性能优化**。

随着这四款多模态模型进入公开预览，你现在无需管理任何基础设施，就能构建更丰富的 AI 体验，生成图像与音频。

本次发布标志着 DigitalOcean 与 fal 的合作进一步扩展，通过 Gradient AI 平台为开发者带来高性能的图像与语音生成模型。如果你需要了解更多详情，包括 DigitalOcean Gradient AI 平台上的各种GPU Droplet服务器，比如H200、H100、MI325X、L40S等，你可以咨询 [DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。

来自 fal.ai 的四个多模态 AI 模型已在 DigitalOcean Gradient™ AI 平台上架，现在可通过 Serverless Inference 以公开预览版的形式使用，可用于生成图片、音频。

DigitalOcean Gradient™ 平台上线 fal 四款多模态 AI 模型：快速生成图像与音频

对**高性能计算** **(** **HPC** **)** 资源的需求，尤其是用于**尖端训练和推理工作负载**的需求，正持续呈指数级增长。我们深知，欧洲的开发者和企业需要简单、**本地化**地访问强大的 **GPU**，以保持他们的创新渠道快速发展。同时，也有不少中国及其他地区的企业希望在欧洲的数据中心使用 GPU 服务器。

DigitalOcean 近日宣布，**NVIDIA HGX H100** 现已作为 **[GPU Droplets服务器产品](https://www.aidroplet.com/product/gpu/)**——DigitalOcean 的按需实例——在**阿姆斯特丹数据中心上线**。通过将 NVIDIA HGX H100 GPU 集成到位于欧洲的数据中心，我们正在让开发者和数字原生企业能够更简单地获取尖端性能，同时享受你对 DigitalOcean 一贯的期望：**简单易用性**和**经济实惠**。

## 利用 NVIDIA HGX H100 和 DigitalOcean 加速训练工作负载

**NVIDIA HGX H100** 是一款功能强大的 GPU，以其**训练速度**而闻名。它涵盖了一系列用例，包括训练 **LLM** **（大型语言模型）** 、**推理**和**高性能计算**。

DigitalOcean 的客户正在将 NVIDIA HGX H100 置于复杂的用例测试中。**WindBorne Systems** 运营着世界上最大的气球星座，同时也在开发用于实时预测的最先进深度学习模型，他们依靠 DigitalOcean 上的 NVIDIA HGX H100 进行训练。结合 NVIDIA 的先进技术和 DigitalOcean 的资源，他们发现 DigitalOcean 的基础设施让他们能够**比其他云选项更快、更具成本效益地**在 H100 上训练模型。

“我们每个节点都有 **2 TB 的** **RAM**，我们利用它来训练更大的模型。DigitalOcean 能够为我们提供所需的所有资源，这些资源我们在其他地方往往找不到，这非常有帮助。”**Anuj Shetty, WindBorne Systems** **机器学习** **工程师表示。**

## 简单、强大的 GPU Droplets

与所有 DigitalOcean 产品一样，GPU Droplets 的设计宗旨之一就是**简化操作**。你只需点击几下即可启动它们，从而摆脱复杂的**基础** **设施管理**。

这些 GPU Droplets 还可以与我们新的**推理优化镜像 (Inference-Optimized Image)** 配合使用，这是一个预配置的镜像，可为你完成工作。该功能提供了一个即时**生产级环境**，内置了 **CUDA** 和 **FlashAttention** 等优化，让你可以快速地从 Droplet 启动过渡到实时推理。

**安全性和合规性**也是重中之重。所有 GPU Droplets 都符合 **HIPAA** 和 **SOC** **2** 标准，让你高枕无忧。你可以将这些强大的 Droplets 与我们托管的 **Kubernetes** 服务以及我们的 **DigitalOcean Gradient** **AI** **TM** **Platform** 结合使用，以构建和扩展全面的 **AI 驱动型应用程序**。

## 注册即可使用

你现在就可以开始使用 **NVIDIA HGX H100**，按需价格**低至 $2.99/** **GPU** **/小时**，或签订数月承诺合约后**低至 $1.99/GPU/小时**。

我们还在所有数据中心以**经济实惠的价格**提供全系列的 **NVIDIA GPU Droplet 选项**，包括 **NVIDIA HGX H200s**、**NVIDIA RTX 4000 Ada Generation** 和 **NVIDIA RTX 6000 Ada Generation**，以及 **NVIDIA L40S**。我们的 **AMD 产品**也在持续增长——我们最近在已有的 [**AMD Instinct™ MI300X GPU** ](https://blog.aidroplet.com/product-updates/mi300x-droplet-launch/)基础上，新增了 **[AMD Instinct™ MI325X GPU](https://blog.aidroplet.com/product-updates/mi325x-launch/)**。

需要更多信息？请咨询 DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com，了解更多关于这些 GPU 的信息，以及如何利用 DigitalOcean 从头到尾扩展你的 AI 工作负载。

large_images (2).png

medium_images (2).png

small_images (2).png

thumbnail_images (2).png

xsmall_images (2).png

images (2).png

DigitalOcean 在欧洲数据中心上线 NVIDIA HGX H100 GPU Droplets，为欧洲开发者提供按需的高性能计算资源，加速 AI 训练与推理。

NVIDIA HGX H100 GPU 服务器现已在 DigitalOcean 欧洲数据中心上线

对于正在布局海外市场的中国企业——尤其是 **AI、Web3 或游戏** 领域的团队来说，云基础设施的选型往往是一场“性能”与“成本”的博弈。

大家在 AWS 或 GCP 上可能都遇到过这样的痛点：为了保证 AI 训练的数据吞吐量，或者游戏服的高并发读取，不得不开通昂贵的高性能文件存储服务。结果到了月底，除了存储容量费，还有一堆看不懂的 **IOPS 请求费、跨可用区**​​**流量费、吞吐量预置费**​……账单往往是“背刺”级别的。

**有没有一种方案，既能扛得住 AI 的高并发业务，定价又像 VPS 一样简单透明？**

DigitalOcean 最新推出的​**网络文件存储（NFS**​，Network File Storage​**）**​，正是为了解决这个问题而生。它不仅在性能上足以替代 AWS EFS，更重要的是，它彻底打破了传统云大厂复杂的计费陷阱。

## 一、 拒绝“账单刺客”：看得见的透明定价

很多出海企业从国内迁移到海外云平台，最不适应的就是复杂的计费公式。DigitalOcean NFS（Network File Storage） 的最大杀手锏就是​**极简与透明**​，专治各种“隐形消费”。

* ​**一口价存储费**​：​**\$0.30 / GiB / 月**​。
  * *注意：* 这个价格已经包含了所有的 IOPS 和吞吐量性能。不像其他大厂，你不需要为了获得更高的读写速度而额外付费。
* ​**VPC​ 内传输免费**​：这是最大的良心。在同一个 VPC 私有网络内，Droplets（云服务器）或 Kubernetes 集群访问存储的数据流量​**完全免费**​。
* ​**白菜价的快照备份**​：按时间点快照仅需 ​**\$0.06 / GiB / 月**​。相比 AWS EFS 和 GCP Filestore 普遍 \$0.20 起步的价格，成本直接砍到了三分之一不到。

​**一句话总结**​：你只需要为存储空间付费，剩下的性能、流量、请求次数，全部打包在内。

## 二、 硬核性能：专为 AI 与高算力业务打造

便宜不代表低能。DigitalOcean NFS（Network File Storage） 并不是廉价的冷存储，而是基于 NFSv4.1 协议构建的​**全托管企业级 SSD 存储**​，专门针对数据密集型工作负载进行了优化。

对于中国出海的热门赛道，它的性能指标完全够用：

**1、AI 与机器学习​**​**管道**

* ​**痛点**​：模型训练需要频繁读取海量小文件或加载大型数据集。
* ​**能力**​：最高支持 ​**1 ​GB**​​**/s 的读取吞吐量**​**​，读取 IOPS 高达 50K，写入 IOPS 高达 30K。​**这意味着 GPU 在训练时不会因为等待数据加载而空转，大幅提升训练效率。

**2、海外部分存储产品定价高且成本不可预测**

* ​**痛点**​：有的海外云平台例如 AWS EFS 的按使用量计费，包括吞吐量和请求费用，成本不易预估。
* ​**能力**​：DigitalOcean 的 NFS [固定费率，](https://www.digitalocean.com/pricing/network-file-storage)每月每 GiB 0.30 美元。DigitalOcean 快照定价为每月每 GiB 0.06 美元（按使用量计费），远低于 AWS EFS 和 GCP Filestore 的每月每 GiB 0.20 美元的收费。

**3、POSIX**​**​ 标准兼容**

* ​**优势**​：不需要改写代码。它完全符合 POSIX 标准，就像操作本地硬盘一样操作远程文件。你的 Docker、AI 框架服务端代码可以直接无缝迁移。

## 三、 运维减负：完全托管，开箱即用

很多出海团队是“精兵作战”，没有庞大的 SRE 团队来维护底层的 NFS Server 或 Ceph 集群。

DigitalOcean NFS 是 **Fully Managed（完全托管）** 服务。

* ​**零运维**​：你不需要关心底层服务器的补丁、升级或故障转移。DigitalOcean 在后台自动处理高可用性和数据冗余。
* ​**无缝集成 K8s**​：原生支持 DigitalOcean Kubernetes (DOKS)。对于使用容器技术的团队，直接通过 CSI 驱动即可挂载，无需复杂的配置。
* ​**安全性**​：基于 VPC 网络隔离，数据不仅传输免费，而且彻底与公网隔离，确保核心数据资产的安全。

## 四、 灵魂拷问：为什么比 AWS 和 GCP 更适合你？

如果你的业务处于​**成长期**​，或者对**成本控制**极其敏感，不妨看看下面这张对比表：

| 关键维度         | DigitalOcean NFS  | AWS EFS                     | GCP Filestore         |
| ------------------ | ------------------- | ----------------------------- | ----------------------- |
| 核心定价逻辑     | 简单 (容量一口价) | 复杂 (存储 + 吞吐 + 请求数) | 分层 (按性能等级付费) |
| VPC 内数据流量   | 免费 ✅           | 跨可用区收费 ❌             | 计费规则复杂          |
| IOPS 费用        | \$0 (已包含)      | 额外收费 (或需预置)         | 包含在更贵的层级中    |
| 快照 (备份) 成本 | \$0.06 / GiB      | \~\$0.20 / GiB              | \~\$0.20 / GiB        |
| 配置复杂度       | 一键创建          | 需配置 VPC/挂载点/安全组    | 需规划区域与层级      |
| 网络出口费用     | 私网无出口费      | 可能产生隐形费用            | 依网络类型而定        |

​**结论很明显**​：DigitalOcean NFS 提供了更具**可预测性**的成本模型。你不需要专门雇人来计算下个月的云账单会是多少。

## 五、 快速上手：三步开启

无论你是想为 AI 训练寻找廉价的高性能存储，还是为 K8s 集群寻找持久卷，DigitalOcean 的配置都极度简化：

1. ​**创建**​：在控制面板选择“Network File Storage”，选择 50 GiB 到 16 TiB 的容量。
2. ​**挂载**​：在你的 Droplet（Ubuntu/CentOS）上使用标准 NFS 命令挂载，或者在 K8s 中通过 YAML 定义 PV。
3. ​**保护**​：设置自动快照策略，以极低的成本保护数据安全。



**对于中国出海企业而言，每一分预算都应该花在刀刃上——即业务增长和产品研发，而不是花在看不懂的云存储**​**账单上。**

如果你的业务正在海外扩张，且需要高性能的文件共享存储，DigitalOcean NFS 绝对是目前市面上性价比最高的选择之一。

👉 立即访问 DigitalOcean 官网注册体验 NFS 服务，如需进一步了解产品详情以及近期优惠政策，可联系 [DigitalOcean 中国区独家战略合作伙伴卓普云 aidroplet.com](https://www.aidroplet.com/)。

### 附录：常见问题 (FAQ)

* **Q: 它的速度能满足 AI 训练吗？**
  * A: 是的，1GB/s 的吞吐量对于大多数中小规模的模型训练和微调（Fine-tuning）场景绰绰有余。
* **Q: 真的没有流量费吗？**
  * A: 只要是在 VPC 内部（即 DigitalOcean 的内网）传输数据，完全免费。
* **Q: 我的旧系统能迁过来吗？**
  * A: 只要你的系统支持 NFSv4 协议（绝大多数 Linux 发行版都支持），就可以直接挂载使用，无需重构代码。如有需要，可随时咨询 [DigitalOcean 中国区独家战略合作伙伴卓普云的技术支持团队（aidroplet.com）。](https://www.aidroplet.com/)

medium_Gemini_Generated_Image_1xtkd81xtkd81xtk.jpg

small_Gemini_Generated_Image_1xtkd81xtkd81xtk.jpg

thumbnail_Gemini_Generated_Image_1xtkd81xtkd81xtk.jpg

xsmall_Gemini_Generated_Image_1xtkd81xtkd81xtk.jpg

Gemini_Generated_Image_1xtkd81xtkd81xtk.jpg

拒绝隐形收费！DigitalOcean NFS高性能存储，AI与游戏出海的降本增效新方案。

AI 训练与游戏出海的新选择：比 AWS EFS 更便宜、更透明的企业级云存储来了

大型语言模型如今被用在各种我们能想到的场景里。从生成简单的指令回答，到推理复杂的数学题，再到给机器人提供逐步动作指引，它们正在推动一场我们亲眼可见的技术变革。

这些模型的能力似乎没有边界。那么接下来还能走到哪里？

一个可能的方向，是为模型加入更多模态，让它不仅能用文本输入输出，还能处理更多形式的数据。通过让模型在训练中同时接触文本、音频、图像，我们可以把它的能力扩展到更多领域。用大模型生成图像并不新鲜，比如 BAGEL 或后来的 HunyuanImage 3.0 都做过。但这些技术大多还没有被真正用在更复杂的应用里。

智源悟界 Emu3.5 的出现改变了这一点。

它引入了“视觉引导 + 叙事生成”管线。使用 Emu3.5，我们不仅能生成文字指令，还能在回答中同时生成一组图像，组成一段视觉叙事，为任务提供可视化的步骤与指导。

这篇文章将全面介绍智源悟界 Emu3.5 的工作方式、它如何生成图像和文本，以及如何实际使用它。接下来我们会一起在 DigitalOcean 的 [GPU Droplet 云服务器](https://www.aidroplet.com/product/gpu/)上完整跑一遍 Emu3.5。

## Emu3.5：视觉引导管线

Emu3.5 最大的创新在于它的设计思路。模型本质上是一个“能在视觉与语言之间原生预测下一状态的大规模多模态世界模型”。

![Screenshot 2025-11-18 at 3.51.56 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_11_18_at_3_51_56_PM_bca87da348.png)

这意味着模型可以在图像与文本的生成过程中动态预测下一步，从而构建出“像在讲故事”或“像在做视觉指导”一样的生成体验。

要做到这一点，Emu3.5 本身既是强大的语言模型，也是优秀的图像生成器，同时还能做任意形式的图像编辑。

模型的预训练数据集非常庞大，由四类主要内容组成：

* ​**视觉–语言交错数据**​：带有逐段文字描述的视频
* ​**图像–文本对**​：图像与详细文字说明
* ​**任意到图像的数据**​：图像序列及描述图像变化的文字
* ​**纯文本数据**​：用于 LLM 训练

模型的训练流程分为四个主要阶段：

* ​**S1 阶段**​：在 10 万亿 tokens 上进行初始预训练
* ​**S2 阶段**​：再训练 3 万亿 tokens，用于提升分辨率、准确度等能力
* ​**监督微调阶段**​：让模型学会多模态任务，包括 any-to-any 和视觉引导
* ​**强化学习​阶段**​：让模型更符合人类标准，提升泛化、任务表现与“一模型多任务”的统一能力

## 在 Gradient GPU Droplet 中启动 Emu3.5

要运行 Emu3.5，我们需要足够的 GPU 算力。建议至少使用 ​**一块 NVIDIA H200**​。 你可以参考 DigitalOcean 中国区独家战略合作伙伴卓普云在其官网发布的 [GPU Droplet 环境搭建教程](https://blog.aidroplet.com/tutorials/do-gpu-jupyter-dl-setup/)，完成 AI/ML 环境配置：https://blog.aidroplet.com/tutorials/do-gpu-jupyter-dl-setup/

当然，DigitalOcean 还有其它型号的 GPU，同样可以运行 Emu3.5，例如 H100、MI325X、MI300X 等。如需了解详情，可咨询卓普云 aidroplet.com。

当 GPU Droplet 启动并通过 SSH 连接成功后，就可以继续下一步。

## Emu3.5 视觉引导 Gradio Demo

在 GPU Droplet 中运行以下命令即可安装 Emu3.5：

```
git clone https://github.com/baaivision/Emu3.5
cd Emu3.5
python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt
pip install flash_attn==2.8.3 --no-build-isolation
mkdir weights
hf download BAAI/Emu3.5-VisionTokenizer --local-dir ./weights/Emu3.5-VisionTokenizer/
hf download BAAI/Emu3.5 --local-dir ./weights/Emu3.5/
hf download BAAI/Emu3.5-Image --local-dir ./weights/Emu3.5-Image/
```

这段代码需要几分钟，会完成所有环境准备。

安装完成后，可以用下面的命令启动内置 demo：

图像生成或图像编辑：

```
CUDA_VISIBLE_DEVICES=0 python gradio_demo_image.py --host 0.0.0.0 --port 7860
```

视觉引导和故事生成：

```
CUDA_VISIBLE_DEVICES=0 python gradio_demo_interleave.py --host 0.0.0.0 --port 7860
```

我们将在本文展示后者。当它启动完成后，按照设置教程中的说明，使用你的 VS Code/Cursor 应用程序内置的简单浏览器，在本地浏览器中打开输出的 URL。

![Screenshot 2025-11-18 at 3.13.25 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_11_18_at_3_13_25_PM_c0c99d5547.png)

现在，让我们看看应用页面。页面中央有一个“Generation Mode”选项，这里提供两个模式。选择“howto”即可启用视觉引导。接下来，我们可以输入希望模型演示的任务。例如，我们让模型展示在加州淘金热时期如何挖金。模型输出了一个由 5 个步骤组成的流程，展示了如何在溪流和河道中淘金，如下图所示。

![Screenshot 2025-11-17 at 12.57.34 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_11_17_at_12_57_34_PM_88ad3ff35a.png)

可以看到，指令细节丰富，配图对完成任务非常有帮助。我们还让模型执行了其他多种任务，例如展示如何装订一本书，以及如何进行 3D 建模并打印一个动作人偶，效果都很出色。总体来看，在 Emu3.5 中，视觉引导模型的 LLM 驱动指令生成能力非常强大。

![Screenshot 2025-11-17 at 1.30.12 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_11_17_at_1_30_12_PM_e92732a236.png)

除了实用功能外，模型在讲故事方面也非常有趣。我们让模型讲述一个传统《龙与地下城》探险小队迷失在现代沃尔玛的故事，对于模型如何想象角色的行为方式，我们感到十分惊喜。

![Screenshot 2025-11-17 at 2.02.36 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_11_17_at_2_02_36_PM_b1ea3d40b2.png)

最后，我们来看另一个演示：图像生成与编辑 Demo。请看上面的示例。我们让模型把一张二维卡通恐龙的图画变成真实的三维效果。模型完成得非常好，几乎看不到任何瑕疵或二维原图的痕迹。这只是模型图像编辑能力的一个例子。总体来看，我们发现它比我们在图像编辑评测中测试过的许多模型都更强大、更灵活，甚至超过了 Qwen Image Edit。

## 总结

Emu3.5 可以说是近期图像生成领域最具突破性的技术之一。它能把图像和文本交替生成，组合成故事或操作指南，这让 LLM 与视觉能力真正集成到了可解决实际问题的方向。此外，Emu3.5 本身也是非常强大的图像生成和编辑模型。

我们非常推荐使用 Emu3.5 来创作视觉指导内容或图像编辑任务。它在多个维度上都领先于同类模型。

large_images (5).png

medium_images (5).png

small_images (5).png

thumbnail_images (5).png

xsmall_images (5).png

images (5).png

Emu3.5 通过文本与图像交替生成，实现视觉引导与叙事生成。本文展示其能力并在 DigitalOcean GPU Droplet 上完整运行示例。

教程：利用智源悟界Emu3.5，生成可视化任务指南

DigitalOcean 云平台一直在不断研发以代码为核心的项目，帮助用户快速构建可投入生产的应用程序，并能根据自己的需求进行扩展。

DigitalOcean 的 **Gradient™ ​AI**​**​ 平台**近期推出了 Agent Templates（智能体模板），为开发者提供了即插即用的 AI 工具。 本文将以 **SQL​ Agent 模板** 为例，演示如何扩展它，实现自动生成安全测试数据和 SQL 插入脚本的功能，让数据库测试更快、更智能、更安全。

## 什么是 Agent Templates（智能体模板）？

[Gradient AI 平台](https://www.aidroplet.com/product/gpu/)是 DigitalOcean 提供的一个一体化 AI 云服务平台，覆盖从生成式模型调用、智能 Agent 构建、GPU 服务器（如 H200、H100、RTX 6000 等按需/裸金属）、到 Serverless 推理服务的完整流程。

Agent Templates 是在 **DigitalOcean Gradient ​AI**​**​ 平台** 上构建的、以代码为核心的即插即用入门套件。

每个模板都是一个 Python 项目，你可以在几分钟内克隆、配置并部署。无论是构建 SQL 查询助手、客服 Bot 还是文档问答系统，只需克隆模板、配置少量参数，就能立即部署到生产环境。

以下是当前可用的模板：

| 模板                        | 功能                                                                                        | 主要技术特性                                                                   |
| ----------------------------- | --------------------------------------------------------------------------------------------- | -------------------------------------------------------------------------------- |
| LLM Auditor Agent           | 通过 Tavily API 搜索网络，并可选地使用结构化外部知识进行验证，为 LLM 添加验证或事实核查层。 | • 集成 Tavily API• 支持可选的知识库（KB）接地以获得更可靠的回答              |
| Product Documentation Agent | 利用产品文档构建支持型聊天机器人，使用户可以提问并从文档中获取准确答案。                    | • 基于嵌入的文档检索• 聊天记录 / 对话上下文支持• 可处理任意产品文档         |
| SQL Agent                   | 将自然语言提示转换为针对 MySQL 数据库的 SQL 查询（只读），动态检索架构并执行安全查询。      | • 架构自省，识别表和字段结构• 只读查询防护• 自然语言到 SQL 转换并带安全校验 |
| Twilio API Agent            | 通过 Twilio 发送短信（营销或事务性），并可实现自动化消息流逻辑。                            | • 集成 Twilio SDK/API• 可插拔消息逻辑                                        |

你可以直接使用这些模板，也可以直接在此基础上扩展功能，无需从零配置环境或重写推理逻辑，从而极大地缩短智能体开发周期。

## 合成数据生成服务的工作原理

合成数据生成服务用于创建逼真的模拟数据集，用于测试和开发。

它采用一个编排的微服务架构，由以下四个层组成：

当有人点击 “Generate Data（生成数据）” 按钮，或输入类似 “Generate 10 mock users（生成 10 个模拟用户）” 的自然语言请求时，系统会这样工作：

![Architecture Overview - visual selection.png](https://blog.aidroplet.com/uploads/Architecture_Overview_visual_selection_3dac9184cb.png)

1、用户输入处理层

通过聊天界面或手动配置捕获用户请求，提取诸如数据类型、记录数和输出格式等参数。

2、AI 驱动的请求解析层

利用 **DigitalOcean Gradient ​AI**​**​ 平台** 理解自然语言请求，并确定合适的数据生成策略，包括安全验证，确保不会访问生产数据。

3、合成数据生成引擎

接收解析后的请求，使用 **Faker 库** 创建具有真实字段类型、关系和约束的模拟数据。 该引擎可生成用户、订单、支付、产品及自定义数据结构。

4、多格式输出层

将生成的数据转换为用户请求的格式（SQL INSERT 语句、CSV 或 JSON），并以实时预览和下载选项的形式呈现。

## 详细数据流示例

当用户请求 “Generate 10 mock users with random names and emails（生成 10 个随机姓名和邮箱的模拟用户）” 时，系统执行以下步骤：

1. **用户输入处理** Streamlit 界面捕获请求并提取参数（count=10，data\_type=users，fields=[‘name’, ‘email’]）。
2. **AI​ 请求解析** Gradient AI Agent 处理自然语言请求，确定需要生成用户数据并满足特定字段要求。
3. **数据生成引擎** SyntheticDataGenerator 使用 Faker 生成 10 条真实感用户数据：
   1. 生成真实姓名，如 “John Smith”、“Sarah Johnson”
   2. 生成有效邮箱地址，如 john.smith @ email.com
   3. 添加电话号码、地址和时间戳
   4. 保证数据关系与约束条件成立
4. **格式转换** 系统将生成的数据转换为所需格式：
   1. SQL：生成可直接执行的 INSERT 语句
   2. CSV：格式化为可导入表格的数据
   3. JSON：结构化为可供 API 调用的数据
5. **安全验证** 所有生成数据均经过验证以确保：
   1. 未访问任何生产数据
   2. 防止 SQL 注入
   3. 遵守记录数量限制
   4. 保持数据完整性
6. **用户展示** 最终数据在网页界面展示，包含：
   1. 实时预览表格
   2. 各格式的下载按钮
   3. 复制到剪贴板功能
   4. 成功生成的确认提示

## 构建数据生成器

### 步骤 1：配置 DigitalOcean Gradient AI 凭证

在扩展 SQL Agent 模板前，需要配置你的 DigitalOcean Gradient AI 凭证。

这对实现 AI 驱动的自然语言处理功能至关重要。

1. 在 cloud.digitalocean.com 注册 DigitalOcean 账户
2. 在控制台进入 “Agent Platform” 部分
3. 创建新工作区或使用已有工作区并新建一个 Agent（可参考指南中的步骤）
4. 创建后，前往 Gradient AI 工作区设置，获取 API 访问令牌并记录工作区 ID

控制台中 DigitalOcean Gradient AI Agent 示例如下：

![Screenshot 2025-09-12 at 11.21.18 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_09_12_at_11_21_18_PM_e6c9197fc3.png)

### 步骤 2：扩展 SQL Agent 模板

接下来，我们将为 DigitalOcean 的 SQL Agent 模板增加合成数据生成功能。

基础模板已提供安全 SQL 查询执行与架构自省功能，我们在此基础上增强数据生成能力。

#### 核心扩展架构：

增强版 SQL Agent 通过集成合成数据生成器并更新系统提示来处理数据生成请求。 它保留了原有 SQL 功能，同时新增了数据生成的自然语言处理能力。 完整代码位于 `src/agent.py`。

### 步骤 3：构建合成数据生成引擎

扩展的核心是 `SyntheticDataGenerator` 类，利用 **Faker 库** 生成逼真的模拟数据。 它支持多种数据类型（用户、订单、支付、产品），可通过参数配置生成逻辑。

```
class SyntheticDataGenerator:
    def __init__(self, locale='en_US'):
        self.fake = Faker(locale)
    
    def generate_users(self, count=10, fields=None):
        users = []
        for i in range(count):
            user = {
                'id': i + 1,
                'name': self.fake.name(),
                'email': self.fake.email(),
                'phone': self.fake.phone_number(),
                'address': self.fake.address(),
                'created_at': self.fake.date_time_between(start_date='-2y', end_date='now')
            }
            users.append(user)
        return users
    
    def generate_orders(self, count=10, amount_range=(10, 1000), year=2024):
        orders = []
        for i in range(count):
            order = {
                'id': i + 1,
                'user_id': self.fake.random_int(min=1, max=count),
                'amount': self.fake.random_int(min=amount_range[0], max=amount_range[1]),
                'status': self.fake.random_element(elements=('pending', 'completed', 'cancelled', 'shipped')),
                'order_date': self.fake.date_between(start_date=f'{year}-01-01', end_date=f'{year}-12-31'),
                'product_name': self.fake.catch_phrase(),
                'quantity': self.fake.random_int(min=1, max=10)
            }
            orders.append(order)
        return orders
```

完整代码位于 [`src/synthetic_data_generator.py`](https://github.com/Haimantika/Gradient-SQL-template/blob/main/src/synthetic_data_generator.py)。

#### 数据生成工作原理：

1. **Faker 库集成：** 使用 Faker 提供的 200+ 数据生成器，生成姓名、地址、邮箱、电话号码、日期等真实感数据。
2. **可配置字段生成：** 每种数据类型（用户、订单、支付、产品）都有特定字段生成逻辑，以保持真实关系与约束。
3. **区域支持：** 支持多种区域（如 en\_US、en\_GB）生成对应地区风格的数据。
4. **参数化生成：** 可通过参数（数量、日期范围、金额范围、字段选择）定制生成结果。

### 步骤 4：实现多格式输出支持

系统将生成的数据转换为多种格式，以适应不同场景。

以下为 SQL 转换示例：

```
def to_sql_inserts(self, data, table_name):
    if not data:
        return []
    
    columns = list(data[0].keys())
    column_str = ', '.join(columns)
    insert_statements = []
    
    for record in data:
        values = []
        for col in columns:
            value = record[col]
            if value is None:
                values.append('NULL')
            elif isinstance(value, str):
                escaped_value = value.replace("'", "''")
                values.append(f"'{escaped_value}'")
            elif isinstance(value, datetime):
                values.append(f"'{value.strftime('%Y-%m-%d %H:%M:%S')}'")
            else:
                values.append(str(value))
        
        values_str = ', '.join(values)
        insert_stmt = f"INSERT INTO {table_name} ({column_str}) VALUES ({values_str});"
        insert_statements.append(insert_stmt)
    
    return insert_statements
def to_csv(self, data):
    df = pd.DataFrame(data)
    return df.to_csv(index=False)
def to_json(self, data):
    return json.dumps(data, indent=2, default=str)
```

#### 输出生成原理：

1. **SQL​ INSERT 生成：** 将每条记录转换为格式化的 SQL INSERT 语句，并处理转义与数据类型。
2. **CSV​ 导出：** 使用 pandas DataFrame 将数据转换为 CSV，确保编码和格式正确。
3. **JSON​ 导出：** 将数据转换为 JSON，正确序列化日期时间和复杂类型。
4. **安全校验：** 所有输出格式都包含安全检查，防止 SQL 注入并保持数据完整性。

#### 示例输出：

```
INSERT INTO users (id, name, email, phone, address, created_at) VALUES (1, 'John Smith', 'john.smith@email.com', '+1-555-123-4567', '123 Main St, Anytown, ST 12345', '2023-06-15 14:30:22');
INSERT INTO users (id, name, email, phone, address, created_at) VALUES (2, 'Jane Doe', 'jane.doe@email.com', '+1-555-987-6543', '456 Oak Ave, Somewhere, ST 67890', '2023-07-22 09:15:45');
```

### 步骤 5：创建增强版 Agent 界面

增强版 Agent 将基础 SQL Agent 的功能与合成数据生成结合，能解析自然语言请求、提取参数并路由到相应的数据生成函数。

相关代码位于[ `src/agent.py` 文件](https://github.com/Haimantika/Gradient-SQL-template/blob/main/src/agent.py)。

最后，将整个应用整合进一个简单的 ​**Streamlit ​UI**​，其完整代码可在 GitHub 仓库中找到。

这是一个简单的示例，展示了如何扩展 SQL Agent 模板。

你可以直接使用这种集成方式，或进一步扩展以构建自己的版本。

## 写在最后

本教程展示了如何使用这些现成模板来满足你公司或项目的需求。

这些模板的魅力在于，它们为你提供了坚实的基础，你只需确定自己要解决的问题，并在其上添加相应功能即可。

以下是一些可在其他模板基础上扩展的思路：

* **LLM Auditor Agent：** 为你的内容添加事实核查功能，或与公司知识库集成
* **Product Documentation Agent：** 扩展以支持多种文档类型（PDF、视频、内部 Wiki），或增加多语言支持
* **Twilio ​API**​**​ Agent：** 构建自动化客户支持流程或营销活动自动化

如果你还需要了解更多关于 DigitalOcean [GPU 服务器](https://www.aidroplet.com/product/gpu/)及 AI 相关产品服务，可咨询 DigitalOcean 中国区独家战略合作伙伴卓普云。访问[卓普云官网 aidroplet.com](https://www.aidroplet.com/)，可阅读更多相关产品信息与教程内容。

large_images.jpeg

medium_images.jpeg

small_images.jpeg

thumbnail_images.jpeg

xsmall_images.jpeg

images.jpeg

本文介绍如何基于 DigitalOcean Gradient AI 的 SQL Agent 模板，快速生成安全、真实感强的模拟测试数据，用于开发与测试环境。

基于AI Agent模板：快速生成 SQL 测试数据

任何刚接触大语言模型（LLM）技术的新用户，都必须面对的最大难题就是“算力”。从显存、吞吐量到底层技术和软件，不同机器之间的差异足以让人头晕目眩；部署 LLM 时，这种差异会更加明显。归根结底，我们想在低成本下拿到最高质量，而真正的挑战就在于如何找到那个平衡点。

今天，我们就拿 AMD Instinct MI300X GPU 运行 GPT-OSS 120B 来近距离剖析这个问题。这个怪兽级 GPU 处理器是 AMD 的旗舰之一，拥有 192 GB HBM3 显存，理论峰值 653.7 TFLOPs，带宽高达 5.3 TB/s。MI300X 的显存比 H100 要高，而且云服务器的价格比 H100 更低（参考 DigitalOcean 云平台的价格），是测试大模型的理想平台。我们选用近期因“代理能力”和“代码能力”而热评不断的 OpenAI GPT-OSS 120B 作为示例模型。

本教程将手把手教你用 vLLM 在 AMD GPU 上跑通 GPT-OSS 120B。读完你将彻底掌握 vLLM、GPT-OSS，以及在 [Gradient AMD GPU 服务器](https://www.aidroplet.com/product/gpu/) 上的每一步部署细节。

## 什么是 vLLM

vLLM 是一个开源的高性能推理引擎，专为以卓越的速度和内存效率提供大型语言模型（LLM）服务而设计。通过优化 GPU 内存利用率，vLLM 比许多其他竞争方案提供更快的响应速度、更高的吞吐量和更低的延迟。其核心创新包括 PagedAttention 算法、对连续批处理的支持，以及与 Hugging Face 等主流模型生态系统的无缝兼容性。我们推荐使用 vLLM，正是基于这些优势特性。

## 为何选 GPT-OSS

GPT-OSS（20B 和 120B 版本）是 OpenAI 今年早些时候发布的旗舰级开源大语言模型（LLM）。这两个版本分别在其尺寸类别中成为目前最强大的智能体（agentic）和编程模型之一。值得注意的是，在发布时，GPT-OSS 120B 在标准推理基准测试中的表现可与 o4-Mini 模型相媲美；而 20B 版本在仅配备 16GB 虚拟内存的边缘设备上运行时，其表现也与 o3-Mini 模型相当。

![Codeforces Competition code.png](https://blog.aidroplet.com/uploads/Codeforces_Competition_code_6ae69fe919.png)

我们推荐使用 GPT-OSS 120B 的原因在于：其采用开源且宽松的 Apache 2.0 许可证，便于针对各类任务进行微调，并可在任何场景中自由使用；同时，它在推理和编程任务上达到了当前最先进的（SOTA）性能水平。如上图结果所示，该模型在 Codeforces 基准测试中，其推理能力与旗舰级 o3 和 o4-Mini 模型表现相当。基于这些优势，GPT-OSS 120B 是任何希望在 vLLM 上运行编程模型的用户的理想起点。

## 在 AMD MI300X GPU Droplet 上运行 vLLM

![Screenshot 2025-11-07 at 12.56.25 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_11_07_at_12_56_25_PM_eb6d8522a5.png)

首先，我们将启动一台搭载 MI300X GPU 的 Droplet。登录你的 DigitalOcean 云平台账户（可访问 digitalocean.com 注册），点击左侧边栏中的“GPU Droplets”链接（注：Droplet 是 DigitalOcean 云服务器的产品名）。

进入创建界面后，选择 ATL （亚特兰大）数据中心——这是目前唯一提供 AMD GPU 的区域。向下滚动，在“GPU 平台”选项中选择“AMD”，然后选择单个 MI300X GPU。最后，从你团队可用的 SSH 密钥列表中选择一个密钥。

至此，你已准备好创建 Droplet！这里我们使用的 DigitalOcean 云平台的 AMD GPU Droplet 服务器是按需实例，每小时仅 1.99 美元

点击右上角的“创建 GPU Droplet”按钮以启动实例。GPU Droplet 的启动可能需要几分钟时间。

## 使用 Docker 设置 vLLM 运行环境

待 GPU Droplet 准备就绪后，使用本地终端通过 SSH 登录该机器。随后，导航至你希望工作的目录，即可开始使用 Docker 部署 vLLM。

## 在 vLLM 上部署 GPT-OSS

首先，我们将为部署设置一个快捷别名，用于下载并启动 Docker 容器。请将以下命令粘贴到终端中开始操作。该容器仅能在 MI300X GPU 上运行：

```
alias drun='sudo docker run -it --network=host --device=/dev/kfd --device=/dev/dri --group-add=video --ipc=host --cap-add=SYS_PTRACE --security-opt seccomp=unconfined --shm-size 32G -v /data:/data -v $HOME:/myhome -w /myhome'

drun rocm/vllm-dev:open-mi300-08052025
```

下载和启动过程可能需要一些时间。完成后，你将进入 Docker 容器内部。接下来，我们将在 AMD MI300X GPU Droplet 上部署 GPT-OSS 120b 模型。将以下命令粘贴至终端中启动服务：

```
export VLLM_ROCM_USE_AITER=1
export VLLM_USE_AITER_UNIFIED_ATTENTION=1
export VLLM_ROCM_USE_AITER_MHA=0

vllm serve openai/gpt-oss-120b --compilation-config '{"full_cuda_graph": true}'
```

该命令将启动 vLLM 服务，首先下载模型文件至容器中。若一切运行正常，你将看到与上方截图一致的提示信息。之后，你即可通过 OpenAI 的 Python 库访问部署在 `0.0.0.0:8000` 或 `localhost:8000` 的模型。

## 与已部署的 GPT-OSS 120b 模型交互

接下来，我们需要了解如何与已部署的模型进行交互以真正使用它。我们在此介绍两种主要方法：使用 cURL 和 OpenAI 的 Python 库。

首先，我们来看 cURL 方法。打开一个新的终端窗口，SSH 登录到远程机器，然后粘贴以下代码。我们将用此示例向模型请求一个简单任务：讲一个笑话。

```
curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-oss-120b",
    "messages": [
      { "role": "system", "content": "You are a helpful assistant." },
      { "role": "user", "content": "Tell me a joke." }
    ],
    "temperature": 0.7,
    "max_tokens": 100
  }'
```

预期返回结果类似如下：

```
{
  "id": "[anonymized]",
  "object": "chat.completion",
  "created": 1762542942,
  "model": "openai/gpt-oss-120b",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Sure, here's a classic one for you:\n\n**Why don’t scientists trust atoms?**\n\n*Because they make up everything!*",
        "refusal": null,
        "annotations": null,
        "audio": null,
        "function_call": null,
        "tool_calls": [],
        "reasoning_content": null
      },
      "logprobs": null,
      "finish_reason": "stop",
      "stop_reason": null
    }
  ],
  "service_tier": null,
  "system_fingerprint": null,
  "usage": {
    "prompt_tokens": 85,
    "total_tokens": 134,
    "completion_tokens": 49,
    "prompt_tokens_details": null
  },
  "prompt_logprobs": null,
  "kv_transfer_params": null
}
```

通过此方法，你可以执行多种任务，例如代码补全、工具调用和复杂函数调用。你可以尝试使用你自己的提示词，体验该模型的强大能力！

若你更倾向于使用 Python 编程，我们推荐使用 OpenAI 的 Python 库。在运行 vLLM 服务的终端窗口之外，启动一个 Jupyter Lab 实例。在终端中粘贴以下命令以安装所需依赖：

```
python3 -m venv venv
source venv/bin/activate
pip install openai jupyter
jupyter lab --allow-root
```

使用 Cursor 或 VS Code 的内置浏览器功能，在本地浏览器中访问 Jupyter Lab（详细指引请参阅卓普云官网上的中文[教程指南](https://blog.aidroplet.com/tutorials/do-gpu-jupyter-dl-setup/)）。启动后，新建一个 Jupyter Notebook，在第一个代码单元格中粘贴以下 Python 代码：

```
from openai import OpenAI

# 设置 OpenAI 的 API 密钥和 API 基地址以使用 vLLM 的 API 服务
openai_api_key = "EMPTY"
openai_api_base = "http://localhost:8000/v1"

client = OpenAI(
    api_key=openai_api_key,
    base_url=openai_api_base,
)

chat_response = client.chat.completions.create(
    model="openai/gpt-oss-120b",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Tell me a joke."},
    ]
)
print("Chat response:", chat_response)
```

若一切正常，你将看到类似以下的输出：

```
Chat response: ChatCompletion(id='chatcmpl-b600ce13dfd041a4a934ebe7826c8a44', choices=[Choice(finish_reason='stop', index=0, logprobs=None, message=ChatCompletionMessage(content='Why don’t scientists trust atoms?\n\nBecause they **make up** everything!', refusal=None, role='assistant', annotations=None, audio=None, function_call=None, tool_calls=[], reasoning_content=None), stop_reason=None)], created=1762543674, model='openai/gpt-oss-120b', object='chat.completion', service_tier=None, system_fingerprint=None, usage=CompletionUsage(completion_tokens=41, prompt_tokens=85, total_tokens=126, completion_tokens_details=None, prompt_tokens_details=None), prompt_logprobs=None, kv_transfer_params=None)
```

通过这种 Python 实现方式，你可以将 vLLM 集成到任意数量的应用程序和工作流中，包括自定义智能体。我们发现这种方法与 cURL 一样灵活实用，因为你可以充分利用 Python 生态系统中丰富的库和工具。

## 写在最后

得益于 vLLM 和 ROCm 社区的不懈努力，在 AMD MI300X GPU Droplet 上运行 GPT-OSS 非常简便。借助 GPU Droplet 的便捷性，用户只需数分钟即可在当前最先进的硬件上启动这一强大模型，真正实现开箱即用的高性能 AI 体验。

当然，你也可以尝试在 DigitalOcean 的 AMD MI325X GPU Droplet 服务器上跑 GPT OSS。如果你还需要了解 DigitalOcean 有哪些更优惠的 GPU 云服务器，可以直接咨询 DigitalOcean 中国区独家战略合作伙伴卓普云 aidroplet.com，卓普云负责为所有使用 DigitalOcean 云平的中国企业提供技术支持。

medium_wechat_2025-10-13_113235_855.png

small_wechat_2025-10-13_113235_855.png

thumbnail_wechat_2025-10-13_113235_855.png

xsmall_wechat_2025-10-13_113235_855.png

wechat_2025-10-13_113235_855.png

手把手教你用vLLM在AMD MI300X上部署GPT-OSS 120B，低成本高效运行SOTA开源大模型。

零门槛部署：在AMD MI300X上极速部署运行GPT-OSS 120B全流程实践

根据研究机构预测，全球人工智能市场规模在 2024 年的价值为 234.6 亿美元。预计该市场将从 2025 年的 2,941.6 亿美元增长到 2032 年的 1,7716.62 亿美元，在预测期间的复合年增长率为 29.2％。到 **2030 年全球 ​AI**​​**​ 推理市场规模将达到 2549.8 亿美元**​，而推理任务将占据 ​**数据中心整体计算需求的 70% 以上**​。

AI 模型的复杂度正以指数级增长，从数亿参数的语言模型到上千亿参数的多模态系统。支撑这些模型的，不只是算法，还有底层的​**算力架构**​。无论是训练、微调还是推理部署，GPU 服务器的选择都会直接影响性能、延迟与成本。

目前市场上按照 GPU 服务器的类型来划分包括裸金属 GPU 服务器与虚拟化的 GPU 服务器。

在这样的背景下，​**如何在性能、弹性和成本之间取得平衡**​，**如何在两种 ​GPU**​​**​ 服务器中进行选择**​，成为 AI 团队无法回避的核心决策。

## 两种 GPU 服务器架构的根本区别

当前主流的 GPU 服务器可分为两类：**裸金属（Bare Metal）** 和 ​**虚拟化（Virtualized）**​。它们的区别不仅在资源分配方式，更体现在性能可预测性、带宽利用率和成本模式上。

| 对比维度   | 裸金属 GPU 服务器                      | 虚拟化 GPU 服务器               |
| ------------ | ---------------------------------------- | --------------------------------- |
| 架构形态   | 独享整台物理服务器，直接访问 GPU 资源  | 通过 Hypervisor 层共享 GPU 资源 |
| 性能开销   | 几乎为零，无虚拟化层损耗               | 存在 4%–25% 的“虚拟化损耗”   |
| 隔离性     | 资源完全独立，避免干扰                 | 多租户共享，可能存在带宽争用    |
| 带宽访问   | 独享 GPU 显存与通信带宽                | 共享通道                        |
| 启动与伸缩 | 启动时间较长（分钟级），不支持弹性扩展 | 快速启动（秒级），弹性伸缩灵活  |
| 计费方式   | 多为包月或长期租用                     | 按小时/秒计费，灵活付费         |

可以简单地理解为：

* 裸金属服务器 = 独享整台硬件，追求极致性能；
* 虚拟化服务器 = 在共享硬件上分配算力，强调灵活与弹性。

前者是“性能主义”，后者是“资源优化派”。

## 虚拟化 GPU 服务器：灵活的弹性与高性价比

虚拟化 GPU 服务器的最大优势在于灵活性。

通过 Hypervisor 层，云服务商能把一台物理 GPU 拆分成多个虚拟 GPU（vGPU），供不同实例使用。这样，开发者无需关心底层硬件，即可在几秒内启动或释放资源。

**优点：**

* ​**快速弹性**​：可在秒级创建或销毁实例，应对突发计算需求；
* ​**成本友好**​：按小时或秒计费，适合预算有限的团队；
* ​**研发效率高**​：非常适合 PoC 测试、模型调参、小规模训练等任务；
* **​可选 GPU 型号多：​**大多数云平台很少提供裸金属服务器，[DigitalOcean](https://www.aidroplet.com/product/gpu/) 是个例外，但该平台上的虚拟化 GPU 服务器的型号比裸金属 GPU 服务器的型号更多，用户可选的灵活度更大。

**缺点：**

* ​**性能损耗明显**​：由于虚拟化层的 CPU/I/O 开销及带宽争用，实际性能可能下降 ​**15%～25%**​；
* ​**带宽不稳定**​：当多租户同时高负载时，内存带宽和 I/O 通道可能成为瓶颈；
* ​**延迟波动**​：对实时推理类任务（如金融风控、自动驾驶）不够友好。

因此，虚拟化 GPU 服务器非常适合**研发阶段、短期任务**或​**预算受限的团队**​。例如初创公司、科研机构或教育场景，都可以通过这种架构快速验证模型想法，而无需长期绑定硬件资源。

## 裸金属 GPU 服务器：为性能和确定性而生

裸金属 GPU 服务器则完全绕过了虚拟化层，让用户直接控制底层硬件。这种架构几乎没有性能开销，是**高性能 ​AI**​**​ 训练与推理**的首选。

**优势：**

* ​**无虚拟化损耗**​：CPU、内存、I/O 通道都直接连接 GPU，可用率接近 100%；
* ​**带宽独享**​：AI 模型训练尤其依赖显存带宽。裸金属环境下，GPU 能获得完整、独占的带宽资源；
* ​**性能可预测**​：没有“吵闹邻居”问题（Noisy Neighbor），吞吐与延迟稳定；
* **​数据安全性更高：​**裸金属 GPU 服务器的数据属于单一客户管理，所以数据安全性更高。

行业测试表明，在训练大型模型时，裸金属 GPU 服务器相比虚拟化架构，​**性能可提升 25%～30%**​，训练时间显著缩短。

**不足：**

* ​**启动与部署周期较长**​：相对于虚拟化服务器来讲，裸金属服务器需要完整配置与环境加载；
* ​**成本更高**​：多为长期租用或包月计费；
* ​**灵活性不足**​：裸金属服务器是不支持灵活扩展的，所以配置方案需提前规划。

这类架构最适合对性能极度敏感的应用场景：如大语言模型训练、高频推理服务、实时风控、自动驾驶、或需要高带宽吞吐的 AI 推理平台。

## 不同类型业务该怎么选？

没有一种架构能“通吃”所有任务。最优解往往取决于你的**业务阶段**与​**算力需求**​。

| 业务类型                       | 核心诉求     | 推荐架构     | 理由                                               |
| -------------------------------- | -------------- | -------------- | ---------------------------------------------------- |
| 大模型训练（长期高负载）       | 性能、稳定性 | 裸金属服务器 | 长周期训练对资源可预测性要求高，性能损耗会被放大。 |
| 模型微调、小样本学习           | 弹性与灵活性 | 虚拟化服务器 | 快速启动、短期计费，适合多实验切换。               |
| 实时推理（自动驾驶、金融交易） | 亚毫秒响应   | 裸金属服务器 | 去除虚拟化层，降低延迟波动。                       |
| 研发与测试                     | 成本控制     | 虚拟化服务器 | 成本低、启动快，满足灵活实验需求。                 |

一个常见的做法是：

在早期实验和开发阶段使用虚拟化的 GPU 服务器，可以节省成本；当模型进入稳定生产后迁移到裸金属环境，获得确定的高性能与更低延迟。

## 兼得之道：云平台的双架构支持

如今，主流云平台开始同时提供这两种类型的 GPU 基础设施。例如 **DigitalOcean** 就在其 GPU Droplet 产品中同时支持：

* **虚拟化 ​GPU**​​**​ 按需实例**​：方便快速迭代与按需部署；
* **裸金属 ​GPU**​​**​ 服务器**​：为生产级 AI 训练与推理提供独享算力。

这种“双架构”支持，让团队可以在同一平台上完成从模型原型到生产部署的全流程，既能保持灵活性，又能在关键时刻释放全部性能潜力。

目前，DigitalOcean 可提供的裸金属 GPU 服务器型号包括：NVIDIA HGX H100、NVIDIA HGX H200、AMD MI300X。DigitalOcean 裸金属 GPU 服务器是按照合约价格来计算的，详情可与 [DigitalOcean 中国区独家战略合作伙伴卓普云 aidroplet.com](https://www.aidroplet.com/product/gpu/) 直接咨询。

![image-29.png](https://blog.aidroplet.com/uploads/image_29_1c1ae0ee24.png)

DigitalOcean Gradient AI 平台可提供的 GPU Droplet 按需实例则支持更多 GPU 型号，包括：AMD Instinct™ MI325X、AMD Instinct™ MI300X，以及 NVIDIA 旗下的 H200、H100、RTX 6000 Ada、 RTX 4000 Ada、A100、L40S 等。

![image-28-2048x1320.png](https://blog.aidroplet.com/uploads/image_28_2048x1320_d63cdab90b.png)

同时，DigitalOcean 还通过[中国区独家战略合作伙伴卓普云 aidroplet.com 提供技术支持服务](https://www.aidroplet.com/product/gpu/)，如果你需要了解这些虚拟化的 GPU 服务器的详细配置，以及裸金属 GPU 服务器的价格，可与卓普云直接咨询。

## 结语

AI 基础设施的选择，本质上是“性能”与“弹性”的权衡。​**裸金属服务器代表确定性与极致算力**​**​，虚拟化服务器代表敏捷与成本效率。​**成熟的团队会根据任务阶段动态切换两种架构——在开发阶段快步试错，在生产阶段稳定提速。当 AI 成为业务的核心生产力，算力架构的每一个选择，都将成为你竞争力的放大器。

large_images-14.png

medium_images-14.png

small_images-14.png

thumbnail_images-14.png

images-14.png

裸金属GPU服务器与虚拟化的GPU服务器，不同团队、业务、预算，应该怎么选择，一篇文章帮你分析。

裸金属 vs. 虚拟化 GPU 服务器：AI 训练与推理应该怎么选

在当今 AI 推理部署场景中，选择合适的 GPU 已经不仅是“买最强”的问题，而是“任务-匹配 + 预算-优化”的问题。尤其对于高校课题组、研究机构、大模型服务提供商或出海企业而言，一张 GPU 卡既要支撑效率，也要兼顾成本、功耗、稳定性与服务质量。

本文将从硬件规格、实际推理/训练表现、场景推荐与成本评估四个维度，对三款典型 GPU ——​**NVIDIA A100**​、​**NVIDIA L40S**​、**NVIDIA RTX 4000 Ada Generation** 进行深入对比，帮助你做出更理性、匹配实际需求的选型决策。

## 三款 GPU 概览对比

A100 诞生于 Ampere 架构，是 NVIDIA 在数据中心领域的旗舰产品。它的 80GB HBM2e 高带宽显存和高达 1.9 TB/s 的内存带宽，使其在大规模训练和推理任务中都表现出色。A100 支持 FP64、TF32、INT8 等多种精度，并具备 MIG（Multi-Instance GPU）功能，可在单卡上分割出多个虚拟 GPU，这对于共享算力或运行多实例推理十分有用。

相比之下，L40S 属于更新的 Ada Lovelace 架构，更偏向生成式 AI 和高吞吐推理任务。它配备 48GB GDDR6 ECC 显存，并引入了第四代 Tensor Core 与 Transformer Engine，支持 FP8 精度推理。在许多官方与独立评测中，L40S 在相同能耗下的推理性能大约是前代卡的五倍，这使它在大型语言模型（LLM）推理中表现尤为突出。

而 RTX 4000 Ada 则是一款面向专业工作站与轻量边缘部署的产品。它只有 20GB 显存、功耗仅 130W，但在 FP8 混合精度推理与图形渲染上都保持了不错的平衡。对于预算有限、模型中等规模的团队，它的“小而美”特性反而成为优势。

具体参数，我们可以看这个表格：

| 指标                           | NVIDIA A100 (80GB)                                       | NVIDIA L40S                                                         | NVIDIA RTX 4000 Ada Generation              |
| -------------------------------- | ---------------------------------------------------------- | --------------------------------------------------------------------- | --------------------------------------------- |
| 架构定位                       | 数据中心训练/推理专用（Ampere）                          | 数据中心通用 AI / 图形加速（Ada Lovelace 衍生）                     | 工作站级（图形 + 轻量 AI 混合场景）         |
| 显存 / 带宽                    | 80 GB HBM2e；带宽 ≈ 1.935 TB/s （80 GB PCIe）           | 48 GB GDDR6 (ECC)；带宽 ≈ 864 GB/s                                 | 20 GB GDDR6；带宽 ≈ 360 GB/s               |
| 精度与优化特性                 | 支持 FP64 / FP32 / TF32 / INT8；具备 MIG 分区功能        | 支持 FP8 / Transformer Engine / 稀疏加速；推理性能最高可达前代 5 × | 支持 FP8 混合精度；兼具 渲染 与 AI 推理能力 |
| 多卡 / 扩展能力                | 支持 NVLink 与 MIG 多实例划分；适合集群训练 + 虚拟化部署 | 支持 OVX 系统 多 GPU 扩展；优化 生成式 AI 推理 吞吐                 | 不支持 NVLink；适合 单机 / 边缘 部署        |
| 典型市场售价（约值）           | ≈ US\$ 11,800                                           | ≈ US\$ 16,600                                                      | ≈ US\$ 2,200                               |
| 云端按需租用价（DigitalOcean） | 3.18 美元/ GPU / 小时                                    | 1.57 美元/ GPU / 小时                                               | 0.76 美元/ GPU / 小时                       |
| 推荐部署类型                   | 大规模训练 + 推理 混合                                   | 企业级 生成式 AI / 高吞吐 推理                                      | 边缘 / 桌面 轻量 推理 场景                  |

以上数据我们参考的是 NVIDIA 的官方参数信息。另外，在价格方面，我们参考的是 DigitalOcean 云平台的 GPU Droplet 按需实例的价格。DigitalOcean 在 2023 年已经将专门做 GPU 云服务的 Paperspace 收购，并在近两年持续推出了十余个型号的 GPU 服务器，比如 H200、MI325X、H100、MI300X 等，而且价格比一线云平台更便宜，服务稳定性又比 Runpod、Vast.ai 等新兴平台更可靠。而且 DigitalOcean 还通过中国独家战略合作伙伴卓普云为中国企业提供中文的技术支持与商务合作咨询服务。

我们可以从表格的数据中分析得到：

* ​**显存容量与带宽**​：显存决定了可加载模型的最大参数规模 + 中间激活占用；带宽则关联激活数据／权重在 GPU 内部迁移效率。以 A100 为例，其规格里带宽达到约 1.935 TB/s。 在模型参数或激活量极大（如数 百亿参数 LLM）场景中，显存与带宽成为关键瓶颈。
* ​**精度支持与推理优化能力**​：当部署的是在线 LLM 或 ChatBot 类系统，推理延迟和吞吐为核心，此时支持 FP8/INT8 、结构化稀疏、专用 Tensor Core 加速就显得尤为重要。L40S 在官网标注其“最高可达 5× 相比前代推理性能”这一点值得特别关注。
* ​**多卡扩展／连接能力**​：如果后续可能向多卡扩容（训练 ＋ 推理混合场景），需要关注 NVLink／PCIe 带宽、MIG 分区能力、散热与功耗指标。例如 A100 支持 MIG 分区，可将一张 卡切成多个实例。
* ​**总成本与功耗**​：功耗直接关联电费、制冷成本、运维负担。推理为主部署时，每瓦效率提升可直观降低长期运行成本。L40S 宣称在推理任务上实现“比前代更高效”这一点亦需纳入预算考量。

## 典型场景与选型建议

由于具体配置参数不同，不同的 GPU 适合的应用场景稍有差别。例如

### 场景 A：高校／课题组 LLM 推理服务

* 模型规模：假设是 10 亿-100 亿参数，在线响应、低延迟、预算中等。
* 那么推荐选择：L40S。
  * 理由：推理优化能力强、成本低于数据中心训练卡；
  * 若预算极低、模型规模在个位数亿、延迟要求不极端，可考虑 RTX 4000 Ada。

### 场景 B：研究所／企业 大规模训练 + 推理混合

* 模型规模：通常可能参数量级更大，既需训练又需服务。
* 推荐选择：A100 或多个 A100 组合。
  * 理由：训练能力强、显存大、带宽高，是稳妥之选。

### 场景 C：预算受限、仅用于轻量推理／边缘部署

* 模型规模：< 数十亿参数，延迟容忍度中等，功耗敏感。
* 推荐选择：RTX 4000 Ada Generation。
  * 理由：功耗低、成本低、适合非极限场景需求。

## 选型流程建议：三步走

1. ​**确认模型规模与部署容量**​：包括参数量、激活内存、Batch size 需求。
2. ​**明确任务属性**​：训练主导？推理主导？还是二者兼有？
3. ​**估算总成本**​：包括 GPU 购置或租用、电费、冷却空调、维护服务。结合上文规格与数据，选出 “性价比最高” 的方案，而不是“一张卡极速”直接上。

## 总结

* 如果你的部署以 ​**推理为核心**​，且预算敏感、在线服务需求强烈，选择 L40S 为高性价比路线。
* 如果你的需求兼顾 ​**训练 + 推理**​、模型规模极大、预算容许，A100 仍是稳妥之选。
* 如果你的预算极端受限、模型规模小、功耗敏感，则 RTX 4000 Ada Generation 可成为实际可用选项。 最终，正确的选型不是追求“最强”而是匹配你的任务需求、预算结构与部署背景。希望本文能为你的 GPU 选型决策提供清晰、理性的指导。

在 AI 模型日新月异的今天，选择合适的 GPU 云平台至关重要。本文对比的多种 GPU 型号，**[DigitalOcean 的 GPU Droplets 服务](https://www.aidroplet.com/product/gpu/)**均可提供按需实例。

如果你还确定自己的业务应该选择哪款 GPU ，那么可以直接咨询 DigitalOcean 中国区独家战略合作伙伴卓普云 aidroplet.com，由它们的技术团队提供专业的建议。如果有长期使用 GPU 服务器的计划，还可与卓普云咨询相关的优惠政策。

**DigitalOcean** 以其​**简便易用、透明的定价和高性能的基础设施**​，为开发者和团队提供了快速启动 AI 推理服务的理想环境。无论是初创公司在预算有限的情况下测试模型，还是成熟团队寻求快速扩展推理能力，DigitalOcean 的 GPU Droplets 都能提供稳定且经济高效的解决方案。你无需担忧复杂的实例配置，也无需面对高昂的前期投入，只需专注于你的 AI 应用本身，让 DigitalOcean 为你提供坚实的计算基石。而且，DigitalOcean 还通过[中国区独家战略合作伙伴卓普云](https://www.aidroplet.com/)提供商务合作与技术支持，帮助中国企业更快速、稳健地构建自己的 AI 业务。

large_images-2.png

medium_images-2.png

small_images-2.png

thumbnail_images-2.png

xsmall_images-2.png

images-2.png

A100、L40S、RTX 4000 Ada三款GPU推理选型指南：L40S以新架构和高能效实现最佳成本效益，RTX 4000 Ada适用于边缘，A100专为极致容量。

AI 推理 GPU 选型指南：从 A100 到 L40S 再看 RTX 4000 Ada

**你是否曾幻想将脑海中的创意或精美的 2D 图像，瞬间转化为能在虚拟世界中使用的 3D 模型？**

在人工智能逐渐成为创意“引擎”的今天，我们见证了图像和视频生成模型（如 Flux、Hi-Dream、Wan 等）带来的巨大飞跃，它们让“所思即所得”成为可能。然而，对于渴望将这些概念带入游戏、动画、元宇宙或其他三维项目的创作者而言， **“如何跨越 2D 到 3D 的鸿沟”** 仍是一个巨大的挑战。

长久以来，将 2D 概念转化为高质量 3D 模型，意味着耗时耗力的手工建模过程，这需要艺术家投入如苦行僧般的耐心和技艺。但现在，这一切都改变了。

图像到 3D 建模，作为计算机视觉领域的一个颠覆性分支，正在以惊人的速度进化。我们正在进入一个新时代——一个由强大的 AI 模型驱动，能够从**单张图像**直接生成具备纹理和色彩的 3D 网格的时代。

在本教程中，我们将带你深入探索这一前沿技术。我们将逐步指导你，如何在[ DigitalOcean GPU Droplet](https://www.aidroplet.com/product/gpu/) 上，利用开源的顶尖模型 **腾讯 Hunyuan3D 2.1**，将你精心制作的 2D 图像转化为可用于 3D 项目的高质量模型。你将全面掌握从图像生成、环境配置到 3D 模型导出的完整流程，亲身感受 AI 如何以前所未有的速度和效率，实现你的 3D 创意。

## **腾讯Hunyuan3D 2.1 模型是什么？**

按照惯例，还是先介绍一下我们教程里要用到的大语言模型。

在图像到 3D 建模领域，开源的基础模型长期以来一直是一个空白。腾讯的研究人员敏锐地捕捉到了这一市场空缺，并着手填补这一日益明显的人工智能领域缺失。他们为此推出了首个 Hunyuan3D 和 Hunyuan3D 2.0 模型，一经发布便在业界引起轰动，吸引了众多工程师和开发者的关注。

为了进一步提升成果，他们最近推出了 Hunyuan3D 2.1。Hunyuan3D 2.1 是“一个全面的 3D 模型创建系统，可从单张图像输入生成带纹理的网格”。它主要由两个完全公开的基础模型组成，即 Hunyuan3D-DiT ——“一种结合了基于流的扩散架构与高保真网格自编码器（Hunyuan3D-ShapeVAE）的形状生成模型”，以及 Hunyuan3D-Paint ——“一种基于网格条件的多视角扩散模型，用于生成 PBR 材质，产出高质量、多通道对齐且视角一致的纹理”。

简而言之，在形状生成方面，他们利用 Hunyuan3D-ShapeVAE 和 Hunyuan3D-DiT 实现高质量、高保真的形状生成。具体而言，Hunyuan3D-ShapeVAE 采用网格表面重要性采样以增强锐利边缘，并使用变分 token 长度来提升复杂几何细节的表现力。Hunyuan3D-DiT 则继承了最新的先进流匹配模型，构建了一个可扩展且灵活的扩散模型。

![Screenshot 2025-10-23 at 4.18.15 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_10_23_at_4_18_15_PM_8c4a56bb89.png)
上图展示了整个流程的结构。我们从一个二维对象的单张图像输入开始。首先，Hunyuan3D-DiT 接收输入并生成原始对象的高质量形状表示。接着，Hunyuan3D-ShapeVAE 利用网格表面采样来检测并增强边缘、优化几何细节，并输出 3D 形状对象。

![Screenshot 2025-10-23 at 4.20.42 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_10_23_at_4_20_42_PM_88a979e2f1.png)

在纹理合成方面，Hunyuan3D-Paint 引入了一种多视角 PBR 扩散机制，为网格生成反照率（albedo）、金属度（metallic）和粗糙度（roughness）贴图。值得注意的是，Hunyuan3D-Paint 采用了空间对齐的多注意力模块，以对齐反照率与金属度/粗糙度（MR）贴图；使用 3D 感知的 RoPE（旋转位置编码）来增强跨视角一致性；并采用光照不变的训练策略，以生成对不同光照条件鲁棒的无光照反照率贴图。Hunyuan3D 2.1 将形状生成与纹理生成分为两个独立阶段，这是一种经先前大型重建模型验证有效的更先进策略。这种模块化设计允许用户仅生成无纹理网格，或为自定义模型应用纹理，从而提升工业应用的灵活性。

## **使用 Hunyuan3D 2.1 从图像创建 3D 素材**

**设置** **GPU** **Droplet**

要实际运行该流程，我们需要一台配备足够显存（VRAM）的 GPU 服务器，以同时支持纹理绘制和 3D 建模阶段。因此，我们推荐使用 DigitalOcean Gradient 平台上的 NVIDIA GPU Droplet云服务器（按需实例），至少配备 40GB VRAM，例如 NVIDIA L40S、A6000、H100 或 H200 GPU。如需开始配置你的 GPU Droplet 及环境，建议[遵循DigitalOcean基础教程](https://blog.aidroplet.com/tutorials/do-gpu-jupyter-dl-setup/)中的设置说明。

如果你需要进一步了解 DigitalOcean 的 GPU 按需实例或裸金属服务器，可直接咨询[DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com。](https://www.aidroplet.com/)

**为 Hunyuan3D 2.1 创建** **GPU** **Droplet 环境**

安装运行 Hunyuan3D 2.1 所需的所有库只需几分钟。首先，我们将创建一个虚拟环境，然后克隆代码仓库、安装依赖包，并最终下载超分模型。要执行安装和下载，请将以下命令粘贴到远程机器的命令行中：

```
git clone https://github.com/Tencent-Hunyuan/Hunyuan3D-2.1  
cd Hunyuan3D-2.1
vim requirements.txt # 注释掉 numpy, pymeshlab, ninja, open3D, onnxruntime, 和 bpy 的安装行
pip install -r requirements.txt 
pip install pymeshlab open3D onnxruntime ninja numpy
pip install fake-bpy-module-2.80
cd hy3Dpaint/custom_rasterizer
Python -m setup.py install
cd ../..
cd hy3Dpaint/DifferentiableRenderer
bash compile_mesh_painter.sh
cd ../..

wget https://github.com/xinntao/Real-ESRGAN/releases/download/v0.1.0/RealESRGAN_x4plus.pth -P hy3Dpaint/ckpt
```

完成后，我们即可开始制作模型。

**在 DigitalOcean** **GPU** **Droplet 上运行 Hunyuan3D 2.1 创建 3D 模型**

要开始制作 3D 模型，我们首先需要启动作者提供的 Gradio 应用程序。由于环境已配置完毕，我们只需粘贴以下启动命令：

```
python3 gradio_app.py \
  --model_path tencent/Hunyuan3D-2.1 \
  --subfolder hunyuan3D-dit-v2-1 \
  --texgen_model_path tencent/Hunyuan3D-2.1 \
  --low_vram_mode
```

然后复制输出的链接，并通过 VS Code 或 Cursor 的简易浏览器功能在本地浏览器中访问该链接。

![Screenshot 2025-10-22 at 6.57.09 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_10_22_at_6_57_09_PM_833f817e25.png)

此时，我们将看到如上所示的 Web 图形界面。上传你选择的图像，或从右侧图库中挑选一张，并根据需要调整相关高级选项。我们建议取消勾选“随机种子”按钮以增强可控性，并增加推理步数以获得更清晰的输出。

![Screenshot 2025-10-22 at 6.54.56 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_10_22_at_6_54_56_PM_aaa8e379cf.png)

在图像选择方面，我们推荐使用无背景的清晰 3D 风格图像。在我们的实验中，纯黑背景效果最佳。我们的示例使用 Imagen 4 和 Flux.1 生成，并在提示词中加入“纯黑背景，3D 风格”等标签。如果你向流程提交高质量图像，将能生成准确的形状与纹理 3D 表示。随后，我们可以按需转换并下载这些模型，支持 glb、ply、stl 和 obj 等格式。

![Screenshot 2025-10-27 at 2.00.41 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_10_27_at_2_00_41_PM_8bd88e53ed.png)

该流程的局限性有两点：一是表示模型的准确性，二是无法建模 2D 对象。我们生成的模型在正面捕捉方面表现优异，但在原始输入未见的侧面常出现问题。例如，在上文示例中，我们可以看到被极度拉长的尾巴和地面平台。至于 2D 风格图像，我们发现模型需要圆润的特征和边缘才能准确将图像投影到 3D 空间，而这些特征在 2D 绘图或动画中天然缺失。因此，我们建议为 Hunyuan3D 2.1 使用“3D 风格”图像，如渲染图或照片。

**结语**

总体而言，Hunyuan3D 2.1 是我们目前所见 AI 领域中用于即时创建 3D 模型最强大的工具。借助它，我们可以在数小时内创建数百个 3D 模型，而过去这一过程需要数天时间。

不仅如此，像 HunyuanWorld Mirror 这样的项目甚至能仅凭图像就将你带入 3D 世界并自由漫游。我们期待看到这项技术在未来持续进步。

最后，如果你还希望进一步了解 DigitalOcean GPU Droplet 还有哪些型号的 GPU，可直接访问 DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com的官网，或与他们的技术支持、商务团队进行咨询。

本教程指导您如何在 DigitalOcean GPU Droplet 上部署 腾讯 Hunyuan3D 2.1，通过单张 2D 图像高效生成高质量、带纹理的 3D 模型。

利用腾讯开源 Hunyuan3D 2.1：在 DigitalOcean GPU Droplet 上快速搭建 3D 模型

在本教程中，我们将逐步介绍如何在 [DigitalOcean GPU Droplet ](https://www.aidroplet.com/product/gpu/)上搭建 Jupyter Lab 或 Jupyter Notebook 实例。此外，我们还会分享一些关键技巧，帮助你在 Jupyter Notebook 中顺利运行深度学习代码。

DigitalOcean 的 GPU Droplet 服务器提供多种型号的GPU 资源，例如 H200、H100、A100、MI325X、MI300X、RTX 6000 Ada、RTX 4000 Ada、L40S等，支持按需计费，流量带宽费用低于 AWS、GCP等云平台，且可以提供优于 Runpod、Vast ai等平台的数据库托管、K8S托管服务、存储服务等。而且DigitalOcean通过中国区独家战略合作伙伴卓普云aidroplet.com提供中文技术支持与商务合作。

本教程中的 Jupyter 是机器学习、深度学习、数据科学以及通用 Python 开发的首选工具之一。越来越多的 ML/DL/AI 初学者喜欢在 Jupyter Notebook 里完成工作，尤其是在数据探索阶段。Jupyter 独有的“顺序代码框”设计，使其成为练习核心 ML 技能的理想环境。


读完本文，你将完整掌握在 DigitalOcean 的 Jupyter Notebook 上运行深度学习代码的环境搭建方法。


## 准备工作

-   你需要有一个 DigitalOcean 云平台的账号：需注册才能跟做，可以在digitalocean.com注册。

-   Visual Studio Code：我们将用它把云端 Jupyter Notebook 映射到本地浏览器。

-   了解基础 Shell 操作：需在终端输入命令。


## 本地环境准备

在本地只需做两件事：

1.  若尚未生成 SSH 密钥，可根据DigitalOcean后台的提示配置SSH 密钥，并添加到你要用的 DigitalOcean 账户
2.  下载 VS Code：内置 SSH 管道功能，可轻松把远程 Jupyter 窗口拉到本地浏览器



## 启动 GPU Droplet

新建 GPU Droplet 很简单：

1.  选离自己最近的数据中心与默认 VPC
2.  操作系统务必选“AI/ML Ready”模板，这是 GPU 与 CPU 协同工作的关键
3.  选 1 张 H100 即可（教程只需单卡）
4.  创建或选择已有 SSH 密钥（若新建，参考此教程），必须在开机前完成
5.  给 Droplet 起个独一无二的名字

确认后点击右侧按钮创建。注意由此产生的费用。创建完成后，趁 Droplet 启动，我们接着配置本地。

  


## 配置 GPU Droplet 环境

复制 Droplet 首页顶部的 IPv4 地址，在本地终端执行：

  


```
ssh root@<your IPv4 address here>
```

  


首次登录后，先退出 root 并新建个人用户：

  


```
 useradd -m -g users <your username>
su <your username>
bash
```

可能需要重开 bash。

  


接着进入工作目录并安装 Python 与 Jupyter：

  


```
cd ../home
apt install python3-pip python3.10-venv
pip3 install jupyterlab
```

至此环境就绪。

  


## 启动 Jupyter

在远程终端执行：

  


```
jupyter lab
```

  


会返回 1 个文件路径和 2 个 URL，复制其中一个备用。

![Screenshot 2024-10-03 at 3.26.47 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2024_10_03_at_3_26_47_PM_d8a95e3f61.png)

## 用 VS Code 把 Jupyter 窗口映射到本地浏览器

在您的**本地计算机**上，打开一个空白的 **VS Code** 窗口。

在页面中央，应该有一个可点击的按钮，上面写着“**连接到**”（Connect to）。点击它，窗口顶部的搜索栏会弹出一个提示框。

点击“**连接到主机**”（Connect to Host），然后选择“ **+ 添加新的 SSH 主机…**”（+ Add New SSH Host…）。您将在这里粘贴 SSH 密钥，以便将 VS Code 连接到您的远程机器。粘贴与我们之前使用过的**完全相同的命令**，如下所示：

```
ssh root@<您的 IPv4 地址>
```

这将允许 VS Code 从您的本地机器远程监听并与您的 **GPU** **Droplet** 进行交互。

![Screenshot 2024-10-03 at 3.25.20 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2024_10_03_at_3_25_20_PM_a856bdf6d8.png)

连接成功后，在 VS Code 的欢迎页面，您需要执行最后一步：同时按下 **“Command” + “Shift” + “P”** （Windows/Linux 用户为 **“Ctrl” + “Shift” + “P”** ）。搜索并打开 **“Simple Browser”** （简单浏览器）窗口。

![Screenshot 2024-10-03 at 3.23.32 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2024_10_03_at_3_23_32_PM_7e06549bf0.png)

在此时出现的 URL 地址栏中，粘贴您的 **URL**。点击 URL 栏最右侧的打开按钮，即可在**本地浏览器**中打开 **Jupyter Notebook**。

![Screenshot 2024-10-03 at 3.28.03 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2024_10_03_at_3_28_03_PM_03e2448789.png)

这应该会在您的本地浏览器中打开 **Jupyter Labs** 环境！ 从这里开始，我们就可以自由地与 Jupyter 交互，进行 AI、ML（机器学习）和数据科学方面的编码工作了。

Jupyter 是数据科学、数据工程与 AI 研究的首选探索工具。希望本教程能帮你零障碍地利用云端强大 GPU，在本地轻松开展深度学习工作。


感谢阅读！如果需要了解DigitalOcean云平台的其他服务，可访问DigitalOcean英文官网或[DigitalOcean中国区独家战略合作伙伴卓普云的官网aidroplet.com](https://www.aidroplet.com/)，可直接与卓普云官方进行线上咨询。更多的教程或产品更新信息，可访问卓普云官网的博客页面与产品介绍页面。

本教程详细指导如何在 DigitalOcean GPU Droplet 上搭建 Jupyter Lab 环境，并利用 VS Code 远程连接，高效运行深度学习代码。

深度学习零基础教程：在 DigitalOcean GPU 云主机上一步搭建 Jupyter Lab

large_image(101).png

medium_image(101).png

small_image(101).png

thumbnail_image(101).png

xsmall_image(101).png

image(101).png

本文深度评测 Qwen 2509、Nano Banana 等顶尖 AI 图像编辑模型，对比其风格转换、细节修改能力，并推荐最全面强大的工具。

Qwen 2509、Gemini、Flux谁是王者？顶级文生图AI模型能力对比

图像编辑模型的能力不容低估。它们可以轻松地对现有图像进行各种修改，应用场景极其广泛：

例如为艺术家和设计师提升照片质量、生成营销素材、制作游戏资源等。更进一步的是，这些模型还可以结合 AI 能力，实现诸如“风格迁移（Style Transfer）”等高级效果。

在我们评测图像编辑模型的过程中，这些模型的高效与易用性给我们留下了深刻印象，因此我们希望构建一个实用示例，展示它们如何应用于真实世界场景。

本文将介绍如何基于 **Qwen Image Edit 2509** 模型开发一个「**虚拟试衣（Try On Clothes）应用**」。 该应用通过两条不同的处理路径（pipeline）来使用两种 Qwen Image Edit 2509 的 LoRA 模型：

*   第一步：从输入的人像中提取服装，生成一套置于白色背景上的衣物图像；
*   第二步：将这套衣物叠加到选定的目标人物上。

这两个步骤结合起来，构成了一种高效、简便的方式，用于快速预览不同人物穿上同一套衣服后的效果。

### 关键要点

*   利用 **Qwen Image Edit 2509 +** **LoRA** 模型，可以打造功能强大的虚拟试衣应用；
*   在 [**DigitalOcean GPU Droplet** ](https://www.aidroplet.com/product/gpu/)上部署运行非常简单；
*   该应用现已上线 **Hugging Face**，其中的模型可分别用于 **提取服装** 和 **试穿服装**。

### 虚拟试衣 Web 应用介绍

我们先来分解一下整个 Web 应用的结构。

在下面的应用代码中，我们添加了注释，帮助你理解其主要内容与逻辑。

    ## Load in the packages

    import spaces
    import torch
    from PIL import Image
    from diffusers import QwenImageEditPlusPipeline
    from diffusers.utils import load_image
    import gradio as gr

    ## Instantiate the model

    pipe = QwenImageEditPlusPipeline.from_pretrained(
        "Qwen/Qwen-Image-Edit-2509", torch_dtype=torch.bfloat16
        ).to("cuda")

    ## Extract clothes function: first load the lora weights into the pipeline, then load the image, and then run the pipeline. Then remove the weights from the pipeline, and return the image

    @spaces.GPU()
    def extract_clothes(img1):
        pipe.load_lora_weights("JamesDigitalOcean/Qwen_Image_Edit_Extract_Clothing", weight_names = "qwen_image_edit_remove_body.safetensors", adapter_names = "removebody")
        pil_image = Image.fromarray(img1, 'RGB')
        # image_1 = load_image(img1)
        # print(type(image_1))
        image = pipe(
            image=[pil_image],
            prompt="removebody remove the person from this image, but leave the outfit. the clothes should remain after deleting the person's body, skin, and hair. leave the clothes in front of a white background",
            num_inference_steps=50
        ).images[0]
        pipe.delete_adapters("removebody")
        return image
        
    ## tryon_clothes function: first load the lora weights into the pipeline, then load the two images, and then run the pipeline. Then remove the weights from the pipeline, and return the image.

    @spaces.GPU()
    def tryon_clothes(img2, img3):
        pipe.load_lora_weights("JamesDigitalOcean/Qwen_Image_Edit_Try_On_Clothes", weight_names = "qwen_image_edit_tryon.safetensors", adapter_names = "tryonclothes")
        pil_image2 = Image.fromarray(img2, 'RGB')
        pil_image3 = Image.fromarray(img3, 'RGB')
        image = pipe(
        image=[pil_image2, pil_image3],
        prompt="tryon_clothes dress the clothing onto the person",
        num_inference_steps=50
        ).images[0]
        pipe.delete_adapters("tryonclothes")
        return image

    ## Gradio application code

    with gr.Blocks() as demo:
        gr.Markdown("<div style='display:flex;justify-content:center;align-items:center;gap:.5rem;font-size:24px;'>👔 <strong>Qwen Image Edit Clothing Try On</strong> 👔</div>")
        with gr.Column():
            with gr.Row():
                img1 = gr.Image(label = 'Upload Clothing Image')
                img2 = gr.Image(label = 'Extracted Clothing')
                img3 = gr.Image(label = 'Upload Model Photo')
                img4 = gr.Image(label = 'Put The Clothing onto Model')

        with gr.Column():
            with gr.Row():
                remove_button = gr.Button('Extract Clothing')
                tryon_button = gr.Button('Put Clothing on Model')
        gr.on(
            triggers=[remove_button.click],
            fn=extract_clothes,
            inputs=[img1],
            outputs=[img2],
        )
        gr.on(
            triggers=[tryon_button.click],
            fn=tryon_clothes,
            inputs=[img2, img3],
            outputs=[img4],
        )
    if __name__ == "__main__":
        demo.launch(share=True)

正如我们所看到的，这个应用的代码相当简洁。它主要由两个函数组成： 一个用于通过 **Diffusers** 加载模型及其对应的 LoRA，另一个用于运行服装提取或虚拟试衣流程。前者在单张图像上进行服装提取，后者使用两张图像完成服装试穿。最终，程序会生成一张 `.webp` 格式的输出图像，可直接预览或下载。

在这个过程中，真正承担主要计算任务的是 **低秩适配模型（LoRA, Low Rank Adaptation）** 。 每个 LoRA 模型都在 **DigitalOcean** **GPU** **Droplet** 云服务器上使用 **NVIDIA H200** 进行训练，训练集包含 20 张图片，批大小为 4，总共训练 3,000 步。模型的训练采用了 **Ostris 的 AI-Toolkit** 工具包。

![Screenshot 2025-10-10 at 1.09.37 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_10_10_at_1_09_37_PM_9aa3c5a07c.png)

将这些步骤整合在一起，就形成了上图所示的 Web 应用。

上方示例展示了该应用从“服装提取”到“试穿展示”的完整流程：模型先从原图中提取出衣物并放置在白色背景上，然后将提取出的服装叠加到目标人物身上。

### 运行虚拟试衣应用

要开始使用 **Clothing Try On Application（虚拟试衣应用）** ，首先需要确保具备足够的算力。 我们推荐在 **DigitalOcean 的 Gradient 平台** 上使用 **NVIDIA H100** **GPU** **Droplet，** 其性能可靠，计费相对于其它云平台都要经济实惠，并且开启一台按需实例只需要鼠标点击下。

开始前，请登录你的 DigitalOcean 账户，并创建一个 GPU Droplet。关于如何逐步配置 GPU Droplet，你可以参考我们在卓普云官网aidroplet.com上发布的[往期文章](https://blog.aidroplet.com/tutorials/deepseek-1click-deploy/)。

当 GPU Droplet 启动完成后，就可以配置运行环境了：

1.  从 **Hugging Face** 克隆该项目的仓库到本地；
2.  创建一个虚拟环境用于安装依赖包，并激活它；
3.  安装所需的依赖包。

你可以使用以下命令片段来完成这些步骤。

    git clone https://huggingface.co/spaces/JamesDigitalOcean/Qwen_Image_Edit_Try_On_Clothes
    cd Qwen_Image_Edit_Try_On_Clothes/
    python3 -m venv venv
    source venv/bin/activate
    pip3 install -r requirements.txt

完成以上步骤后，就可以运行这个 Web 应用了。

只需将以下代码粘贴到终端中运行，然后点击生成的公开链接，就能在任意浏览器中打开并访问该应用。

  ```
  python app.py
  ```

![Screenshot 2025-10-10 at 1.12.05 PM.png](https://blog.aidroplet.com/uploads/Screenshot_2025_10_10_at_1_12_05_PM_7f8cd14a10.png)

这是另一个示例运行结果。可以看到，该模型在两个阶段——**服装提取**和**虚拟试穿**——的表现都十分出色。 我们也建议你尝试使用自己的照片，看看不同服装在你身上的效果！

### 总结

这款 Web 应用的诞生，灵感来自 **Hugging Face 上 Kolors 虚拟试衣应用** 的长期成功。 我们的目标是在此基础上，利用更先进的模型进行改进，并确保这类技术能够**开放、可访问、人人可用**。

**Qwen Image Edit 2509** 是一款极其强大的图像编辑模型，即便不搭配 LoRA，其表现也令人印象深刻。 不过，LoRA 模型依然是整个流程中不可或缺的关键部分，也是本项目的核心创新点。

相应的模型文件可在以下位置获取：

*   [服装提取模型 LoRA](https://huggingface.co/JamesDigitalOcean/Qwen_Image_Edit_Extract_Clothing)：<https://huggingface.co/JamesDigitalOcean/Qwen_Image_Edit_Extract_Clothing>
*   [虚拟试穿模型 LoRA](https://huggingface.co/JamesDigitalOcean/Qwen_Image_Edit_Try_On_Clothes)：<https://huggingface.co/JamesDigitalOcean/Qwen_Image_Edit_Try_On_Clothes>

DigitalOcean 除了H200、H100，还有包括AMD MI325x、MI300x，RTX 6000 Ada、 L40S等型号的 GPU云服务器，既有按需实例，也有裸金属服务器。如果需要了解详细配置，或需要预定大量库存、获取最新优惠政策，可直接联系 [DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。


medium_WX20250509-105128@2x-2.jpg

small_WX20250509-105128@2x-2.jpg

thumbnail_WX20250509-105128@2x-2.jpg

xsmall_WX20250509-105128@2x-2.jpg

WX20250509-105128@2x-2.jpg

Qwen Image Edit 2509 展示了 AI 图像编辑的强大潜力，从服装提取到虚拟试衣，实现高效可视化应用。

AI 图像编辑新玩法：用 Qwen 大模型一键实现虚拟试衣

你是否曾遭遇数据库“磁盘已满”的惊魂一刻？这种令人抓狂的突发状况不仅拖垮性能，还可能让应用直接宕机，逼得你半夜爬起来手动扩容。现在，开发者和 DBA 们终于可以松一口气——我们为全球托管数据库（Managed Databases）全线产品推出存储自动扩缩（Storage Autoscaling）。

这项新能力会在你的数据库存储告急时自动扩容，完全无需你动手，为快速成长的应用提供一张全天候、自动生效的安全网。

## 免费启用，让你的数据库更智能

核心思路是“防患于未然”。系统持续监控磁盘使用率，一旦达到你设定的阈值，便在后台静默完成扩容。整个过程无缝、自动，数据库持续在线，无需任何人工干预。[MySQL](https://www.aidroplet.com/product/mysql/)、[PostgreSQL](https://www.aidroplet.com/product/postgresql/)、[MongoDB](https://www.aidroplet.com/product/mongodb/)、[Kafka](https://www.aidroplet.com/product/kafka/)、[OpenSearch](https://www.aidroplet.com/product/opensearch/) 等所有托管数据库用户**均可免费启用**。

四大立竿见影的价值

1、性能与可靠性双提升

自动加盘，彻底杜绝“磁盘写满”导致的性能雪崩或停机。无论流量突增还是数据暴涨，应用都能保持响应，真正做到“数据涨、业务稳”。

2、运维负担归零

再也不用定时巡检磁盘、半夜被告警叫醒。平台代你完成存储扩容，开发团队得以把精力投入到功能迭代与创新，而非数据库杂务。

3、成本更优

按需小步快跑式扩容，用多少付多少，避免一次性预购大量闲置空间。既省去紧急升级高价套餐的“惊吓账单”，也让存储成本始终贴合真实需求。

4、容量永远“刚刚好”

告别“为了保险多买三倍磁盘”的 guessing game。系统实时匹配资源与业务量，自动在临界点精准扩容，让工作负载始终处于最优配置。

该功能的真实使用场景包括但不限于：

-   电商大促：黑五、闪购或病毒营销瞬间涌入海量订单，数据库自动扩容，与大促流量同步“飙车”。
-   日志/事件数据暴涨：故障排查、安全审计期间日志体积激增，自动扩容保你“有多少存多少”。
-   SaaS 多租户突增：单个 VIP 客户或新用户批量入驻导致存储飙升，运维侧毫无感知。
-   CI/CD 测试流水线：自动化测试生成的临时数据集再庞大，也不会因磁盘满而中断构建。

存储自动扩缩用极简方案解决常见痛点。现在，你可以确信托管数据库会默默消化一切数据增长，而你只需专注打造卓越应用。如需了解DigitalOcean 更多产品详情，可咨询 [DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。

我们为全球托管数据库推出存储自动扩缩功能。它能实时监控并在存储告急时自动扩容，彻底消除“磁盘已满”宕机风险，降低运维负担与成本，确保应用高性能与高可靠性。

DigitalOcean 托管数据库自动扩容正式上线

开发者构建 AI 的方式正在快速演变——[DigitalOcean Gradient™ AI Platform ](https://www.aidroplet.com/product/gpu/)也在同步进化。调试数据、从零重写智能体、手动把 AI 接入工作流……这些都会拖慢你的速度。Gradient AI Platform 正在升级，帮你更智能、更快、更安心地完成开发。

本月，我们发布四项更新，让 AI 开发更透明、更高效、更安全：

-   知识库活动日志：追踪与调试索引任务
-   智能体模板：极速启动项目
-   n8n 集成：自动化工作流
-   增强护栏：让 AI 更安全

## 用活动日志打造更强大的知识库

当你向知识库添加数据时，后台的具体进程往往并不透明：索引任务完成了吗？有没有文件索引失败？为什么数据迟迟没有显示在知识库中？过去要排查这些问题，只能靠猜测。活动日志为每次运行提供清晰的可见性，让你随时掌握哪些成功、哪些失败，以及失败原因。

-   **实时提示**：正在执行的任务会显示横幅提醒
-   **历史视图**：随时回顾过去的执行记录
-   **CSV** **下载**：可导出每个数据源的错误详情

有了这一更新，你可以快速定位并修复问题，不再需要反复试错，就能对知识库的状态充满信心。

![79358b59-a75d-4de3-9309-59fd43ff0a25.png](https://blog.aidroplet.com/uploads/79358b59_a75d_4de3_9309_59fd43ff0a25_a208d057d1.png)

## 用 Agent 模板更快构建

为什么要从零开始？直接使用现成的 Agent 模板即可。Agent 模板是托管在 GitHub 上的代码项目，你可以克隆、定制并在几分钟内部署。

-   **llm-Auditor Agent**：结合 Tavily 进行事实核查，可选接入知识库，确保回答准确
-   **Product Documentation Agent**：将产品文档转化为对象存储，构建并索引知识库，部署带引用回答的 Agent，并针对高性能 RAG 支持进行优化
-   **SQL** **Agent**：将自然语言转换为安全的只读 SQL 查询
-   **Twilio** **API** **Agent**：通过 Twilio 发送营销短信，逻辑开箱即用

每个 Gradient AI Platform 模板都包含依赖项、配置和示例，让你专注于功能开发，而不是环境搭建。

👉 **在** **GitHub** **浏览 Agent 模板 →** **https://github.com/digitalocean/gradient-agent-templates**

## 用 n8n 集成实现自动化工作流

借助全新的 n8n 社区节点，你可以将 DigitalOcean 的无服务器推理（Serverless Inference）直接接入 n8n 工作流，无需写代码。

-   **多角色对话**：支持 system、user 和 assistant 角色，构建更复杂、具备上下文的交互
-   **多模型选择**：可自由选择最适合工作流的 Gradient AI Platform 模型
-   **可调参数**：灵活设置 temperature、max tokens 等参数，微调生成结果
-   **简便的凭证管理**：使用 Gradient AI 平台的模型访问密钥快速完成认证

对于已经使用 n8n 的开发者来说，这意味着可以通过简单的拖拽，将聊天机器人、内容生成或自动回复等 AI 功能直接嵌入工作流中。安装 DigitalOcean n8n 节点，连接无服务器推理环境，即可在几分钟内打造智能自动化流程。

![22beee45-8968-4c35-a022-8c28a098a3dc.png](https://blog.aidroplet.com/uploads/22beee45_8968_4c35_a022_8c28a098a3dc_ae950c34c6.png)

# 增强 Guardrails，给 AI 加把锁

智能体很强，也怕恶意输入和越狱攻击。升级版 Guardrails 帮你把风险挡在门外：

-   **更强越狱检测**：集成 Meta 最新 [Llama Guard 4](https://ai.meta.com/resources/models-and-libraries/llama-guard-4/)，提前拦截恶意 prompt

-   **输入自动防护**：实时屏蔽有害请求

-   **覆盖更广**：欺诈、非法活动、恶意软件、暴力、仇恨言论全识别

-   **低延迟** **、生产级**：实时运行，不影响响应速度

  

控制台一键开启，聊天机器人、内容生成、客服 AI 统统加锁。

![a9ce38f5-e705-4c36-a5c5-226309e39c24.png](https://blog.aidroplet.com/uploads/a9ce38f5_e705_4c36_a5c5_226309e39c24_47f0b4c7fe.png)
# 持续进化，只为开发者

从索引数据、构建智能体，到部署应用、自动化工作流，Gradient AI Platform 陪你一路升级。今天这些更新，只是让 AI 开发更简单、更快速、更安全的新起点。如需了解更多详情，可访问DigitalOcean英文官网文档中心，或咨询[DigialOcean 中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。

large_images (1).png

DigitalOcean Gradient AI 推出多项新功能，加速开发、简化调试并强化安全防护。

更快、更智能地构建AI项目：Gradient AI 平台全新升级

在 DigitalOcean Kubernetes 集群中管理流量，一直以来主要依赖 **Ingress**。虽然能满足基本需求，但在灵活性、角色分离和高级路由方面仍存在局限。今天，我们很高兴迎来新的改变。

我们正式宣布，**Kubernetes** **Gateway** ******API** **托管服务**现已预装在所有 DigitalOcean Kubernetes（DOKS）集群中，无需额外费用，即开即用。

这一新一代流量管理方案，比 Ingress 更具表现力、更易扩展、也更加强大。更重要的是，它基于 **Cilium 的高性能** **eBPF** **实现**，在无需传统代理开销的情况下，提供卓越的性能和先进的路由能力。

### 主要优势

-   **零配置即可使用**：Gateway API 已通过 Cilium 预装在所有 DOKS 集群中
-   **高级流量管理**：支持基于请求头的路由、流量分流和金丝雀发布
-   **卓越性能**：Cilium 的 eBPF 在内核态运行，彻底消除代理开销
-   **原生** **负载均衡** **集成**：与 DigitalOcean 网络负载均衡器无缝结合
-   **多租户支持**：内置跨命名空间的资源共享，并通过 RBAC 实现安全管控
-   **面向未来的** **API**：由 Kubernetes 社区持续开发和标准化

### 为什么要超越 Ingress？—— Gateway API 的优势

Gateway API 由 Kubernetes 社区设计，旨在解决 Ingress API 的根本局限。它采用 **角色导向的资源模型**，将基础设施管理与应用路由清晰分离。

-   **集群运维人员** 管理 Gateway 资源，决定流量如何进入集群（例如配置 DigitalOcean 负载均衡器）。
-   **应用开发者** 管理 Route 资源（如 HTTPRoute），决定流量如何路由到各自的应用。

这种分工让职责更加明确，避免团队之间的相互干扰。

| **特性** | **Ingress**    | **Gateway** **API**    |
| ------- | -------------- | -------------------------- |
| 资源模型    | 单一整体式资源        | 分离的 Gateway + Route 资源     |
| 团队协作流程  | 所有团队编辑同一资源     | 明确的基础设施/应用分离               |
| 路由功能    | 基础路径/主机匹配      | 支持头部、方法、权重、重定向             |
| 路由协议支持  | 仅支持 HTTP/HTTPS | 支持 HTTP、HTTPS、TCP、UDP、gRPC |
| 扩展性     | 基于注解           | 原生 API 字段 + 自定义策略          |

### DigitalOcean 的差异化优势：Cilium + eBPF 带来的性能

我们的 Gateway API 实现不仅仅是架构更合理，更重要的是 **性能的飞跃**。 借助 Cilium，我们在 Linux 内核中直接利用 eBPF 处理流量，完全绕过 NGINX、HAProxy 等传统代理带来的开销。

这对应用意味着：

-   **更** **低延迟**：无需经过用户态代理转发
-   **更高吞吐**：零拷贝的数据包处理
-   **更少** **CPU** **占用**：内核级原生操作
-   **更小** **内存** **开销**：无需额外的代理 Pod 或 sidecar

你可以在不牺牲性能的前提下，获得高级的路由功能。

### 价格

DOKS 已默认包含 Gateway API 支持，无需额外付费。你只需支付：

-   由 Gateway 资源创建的 DigitalOcean 负载均衡器费用
-   标准 DOKS 集群使用费用

### 在 DOKS 上体验 Gateway API

你可以查阅我们的[产品文档与版本说明](https://docs.digitalocean.com/products/kubernetes/#9-september-2025%5Bwww.digitalocean.com%5D(%5Bwww.digitalocean.com%5D(https://www.digitalocean.com)))，快速上手 **Kubernetes 托管 Gateway API**。我们也将后续推出相关教程，请关注[DigitalOcean 中国区独家战略合作伙伴卓普云官网博客aidroplet.com](https://blog.aidroplet.com/?_gl=1*rzcpvv*_gcl_au*MTI5NjMzOTk3NS4xNzU0NDUwMzU2)。

large_images-3.png

medium_images-3.png

small_images-3.png

thumbnail_images-3.png

xsmall_images-3.png

images-3.png

DigitalOcean 在 DOKS 集群中预装 Kubernetes Gateway API，零配置即可使用，性能优于 Ingress。

DigitalOcean Kubernetes 现已支持 Gateway API 托管服务

过去几年里，AI 从一个科研话题，迅速成为产业和资本追逐的核心。无论是大模型的训练与推理，还是高性能计算、科学模拟，**GPU** **都是不可或缺的** **算力** **底座**。在所有 GPU 芯片中，NVIDIA 的 H100 已经成为最受关注的一款。

这块基于 Hopper 架构的旗舰 GPU，提供了前所未有的算力优势：在 Transformer 类模型的训练中性能大幅领先上一代 A100，并且通过 NVLink、InfiniBand 等互联技术，在大规模分布式训练中展现出惊人的效率。也正因如此，全球范围内对 H100 的需求出现了爆炸式增长，很多企业发现“GPU 资源短缺”成了 AI 项目推进的最大瓶颈。

解决短缺最直接的方式是上云。但问题是：**不同云平台的 H100** **GPU** **定价差异极大**。在预算有限的情况下，如何选择性价比最高的平台，就成了研发团队和企业必须要回答的问题。

本文将对比AWS、AZure、GCP、Lambda、DigitalOcean、Oracle、CoreWave，这几个目前主要云平台的 H100 GPU 定价与特点。

## 一、H100 GPU 定价总览

在正式展开对比之前，我们先用简洁的项目列表，逐一列出各大云平台的按需定价。为了统一比较，这里包含了 AWS、Azure、Google Cloud、Oracle Cloud、Lambda Labs、CoreWeave 和 DigitalOcean 的 H100 GPU 实例对比，所有价格都换算为 **单张 H100 80** **GB** **GPU 的每小时价格**。

| 云服务商         | 实例配置                       | 单卡价格（美元/小时） | 主要特点                           |
| ------------ | -------------------------- | ----------- | ------------------------------ |
| DigitalOcean | H100 80GB 按需实例GPU Droplet。 | $3.39       | 价格透明，面向开发者，界面简洁，多 GPU 有折扣。     |
| Lambda Labs  | 8 × H100 SXM 80GB          | $3.29       | 低价平台，只做GPU服务。                  |
| CoreWeave    | 8 × H100 HGX, InfiniBand   | $6.16       | 高性能互联，适合高性能计算（HPC）工作负载。        |
| Azure        | NC H100 v5 VM              | $6.98       | 支持单卡实例，灵活性较高。                  |
| AWS          | p5.48xlarge                | $7.57       | 必须以 8 卡整机起租，适合大规模训练任务。         |
| Oracle Cloud | BM.GPU.H100.8              | $10.00      | 性能可靠，但价格高昂。                    |
| Google Cloud | a3-highgpu-1g              | $11.06      | 按需价格最贵，适合已依赖 Google AI 工具链的用户。 |

从这个价格列表可以看出：传统大厂（AWS、Azure、Google、Oracle）的价格普遍在 $7–11/小时的区间，而新兴算力平台（Lambda、RunPod、DigitalOcean）的价格则在 $3 左右。**[DigitalOcean GPU Droplet ](https://www.aidroplet.com/product/gpu)的价格比大厂便宜一半以上，同时又比 RunPod、Lambda 更可靠、更易用**。

## 二、性能与成本：谁是 GPU 算力 的“平衡点”？

为了让对比更直观，我们将聚焦于 NVIDIA H100 GPU，这是当前 AI 训练的主流选择。

1.  **DigitalOcean vs 云计算巨头 (** **AWS** **,** **Azure** **,** **GCP** **, Oracle)**

在 H100 实例价格上，DigitalOcean 展现出压倒性的优势。

-   **价格优势显著：** [ DigitalOcean GPU Droplet](https://www.aidroplet.com/product/gpu) 的 单卡 H100 价格为 **$3.39/小时**。这比 AWS（$7.57）、Azure（$6.98）、Google Cloud（$11.06）和 Oracle Cloud（$10.00）的单卡价格低了 **51%到69%** 。对于需要大规模训练或长期运行任务的企业来说，这意味着巨大的成本节约。
-   **实例灵活性更高：** AWS 和 Oracle Cloud 的一些 H100 实例只能以 **8 卡整机**起租，这对于需要进行小规模测试、模型推理或轻量级训练的初创企业而言，是极大的资源浪费。相比之下，DigitalOcean **支持单卡起步**，同时提供多卡及**裸金属机型**，满足从实验到生产的完整需求。

**总结：** 除非你的业务已经深度锁定在某家大厂生态中，否则在通用 GPU 算力需求上，DigitalOcean 的性价比和灵活性远超云计算巨头。

2.  **DigitalOcean vs 新兴低价平台 (Lambda Labs, CoreWeave)**

一些新兴平台以极致低价吸引用户，但与 DigitalOcean 相比，它们在综合服务能力上有所欠缺。

-   **价格：** DigitalOcean 与 **Lambda Labs**（$3.29）等平台的单卡价格非常接近，差距微乎其微。CoreWeave 等平台则因其特定的网络互联技术，价格高于 DigitalOcean。
-   **品牌与生态：** DigitalOcean 不仅是 GPU 服务商，更是一个拥有近十年经验的**通用云服务商**。这意味着它可以提供更全面的云基础设施，如稳定的数据存储、托管数据库和 Kubernetes 集群等。而许多低价平台的核心业务仅限于 GPU 服务，其生态和可靠性相对欠缺。
-   **用户体验与支持：** DigitalOcean 以其**简洁的界面和易用性**著称，大幅简化了部署和运维流程。在中国，通过**卓普云**提供的本地化支持，更是弥补了这些低价平台普遍存在的服务短板。

**总结：** DigitalOcean 的 H100 服务，在价格上不输低价平台，但在品牌可靠性、生态支持和用户体验上更胜一筹，是追求性价比与稳定性的团队的理想选择。

## 三、为什么 DigitalOcean 是 AI 算力的最佳平衡点？

云平台选择的本质，是在**成本、灵活性和可靠性**之间寻找平衡。DigitalOcean 正好位于这个独特的位置。

-   **成本优势：** 相比大厂，DigitalOcean 平均可节省 **51%–69%** 的成本。
-   **灵活部署：** 提供从单卡、多卡到裸金属的多种实例选择，满足从试验到生产的完整路径。
-   **企业级可靠性：** 作为一家拥有自营数据中心的成熟云服务商，其提供的 GPU 资源具有更高的可预测性和稳定性。严格的 SLA 和 24/7 技术支持为业务保驾护航。
-   **卓越的用户体验：** 界面直观，配置简单，能大幅缩短 AI 项目从开发到部署的时间。
-   **全面的生态支持：** 除了高性能 GPU，DigitalOcean 还提供可独立扩展的块存储、对象存储和托管数据库等服务，满足 AI 场景所需的全方位基础设施。
-   **定制化的本地支持：** 通过与卓普云的合作，DigitalOcean 为中国出海企业提供了定制化的本地支持，包括中文工程师、人民币结算和境内开票，极大地简化了财务和运维流程。

此外，DigitalOcean 还提供 H200、MI325X、RTX 6000 等多种旗舰及高性价比 GPU 型号，以及按需、预留和裸金属等多种机型选择，让用户能够更灵活地选择最适合的算力。

如果你正在为出海部署 AI 系统而苦恼，不妨试试配置一台 DigitalOcean 的 GPU Droplet 服务器。如需获取 DigitalOcean 中国区 GPU 免费试用资格或出海部署建议，可联系[卓普云（aidroplet.com）](https://www.aidroplet.com/product/gpu)技术顾问获取专属资源支持。

本文深度对比了AWS、Azure等主流云服务与DigitalOcean的H100 GPU服务器。文章指出，DigitalOcean凭借高性价比、灵活部署和本土化支持，成为中国出海企业AI算力需求的理想平衡点。

H100 云算力哪家强？AWS、Azure、DigitalOcean等8大平台对比

GPU计算已彻底改变了各个行业，推动了自动驾驶、机器人和分子生物学等领域的深度学习应用进步。这些机器提供的高速并行处理能力，能加速训练和推断深度学习模型所需的**矩阵乘法**计算。这些模型由多层相互连接的节点（**神经网络**）组成，需要处理和转换海量数据。

在AI研发中，更快、更便宜地训练神经网络和执行推断是首要任务。对于**GPU** **计算**而言，这意味着需要更好地理解如何优化GPU性能。

### **核心要点**

-   **GPU** **优化**对于更快的深度学习训练和高效的资源利用至关重要。
-   **批量大小**、**混合精度**和**数据管道**直接影响性能。
-   **CUDA**、**cuDNN**和优化的框架有助于最大限度地发挥GPU潜力。
-   像**NVIDIA Nsight Systems**和**PyTorch** **Profiler**这样的**分析工具**可以帮助识别性能瓶颈。
-   **内存** **管理技术**（如**梯度检查点**和**模型** **剪枝**）能减轻GPU的负担。
-   **使用多** **GPU** **和** **分布式** **训练进行扩展**可以提高大型模型的效率。

熟悉以下内容将有助于理解本文所介绍的主题：

-   机器学习（ML）和深度学习基础知识（矩阵乘法、神经网络、Python、PyTorch）
-   数据类型（INT、FP等）
-   最新的NVIDIA GPU架构：Blackwell（已宣布，但尚未上市）、Hopper（2022）、Ampere（2020）
-   CUDA和GPU内存层次结构

### **GPU** **优化简介**

本文旨在为读者提供改进其计算体验所需的见解。建议那些热衷于优化GPU性能的人士，学习最新**GPU架构**的特性，了解GPU编程语言的现状，并熟悉**NVIDIA Nsight**和**SMI**等性能监控工具。通过反复试验、基准测试和迭代GPU优化，对于更好地利用硬件至关重要。

### **利用NVIDIA** **GPU** **的硬件特性**

了解GPU架构的复杂性可以提升您对**大规模** **并行** **处理器编程**的直觉。NVIDIA在 successive GPU iterations中引入了许多专用硬件特性，以加速其并行处理能力。

#### **Tensor** **Cores**

默认情况下，许多深度学习库（如PyTorch）使用单精度（FP32）进行训练。然而，单精度并非总是达到最佳精度的必要条件。较低的精度需要较少的内存，从而提高数据访问速度（**内存带宽**）。

**Tensor** **Cores**支持**混合精度计算**，即仅在必要时使用FP32，并使用在不影响精度的情况下最低精度的数据类型。目前，Tensor Cores有五代，第四代在Hopper架构中，第五代在Blackwell架构中。

| Tensor Core    | 引入的数据类型                           |
| -------------- | --------------------------------- |
| Volta（第一代）     | FP16, FP32                        |
| Ampere（第三代）    | 稀疏性, INT8, INT4, FP64, BF16, TF32 |
| Hopper（第四代）    | FP8                               |
| Blackwell（第五代） | FP4                               |

#### **Transformer Engine**

**Transformer Engine**是一个库，支持Hopper GPU上的8位浮点（FP8）精度。Hopper GPU中引入FP8精度在不影响精度的情况下提高了性能。第二代Transformer Engine将出现在Blackwell架构中，支持FP4精度。

#### **Tensor** **Memory** **Accelerator**

**Tensor** **Memory** **Accelerator**（TMA）支持GPU全局内存和共享内存之间的异步内存传输。在TMA之前，需要多个线程和warp协同工作来复制数据。相比之下，有了TMA，线程块中的单个线程就可以发出TMA指令，从而异步处理复制操作。

### **GPU** **是可编程的**

思考一下：硬件设计会影响CUDA语言吗？还是CUDA语言推动了硬件设计？两者都对。硬件和软件之间的这种关系在2022年GTC演讲《**How CUDA Programming Works**》中得到了很好的阐述，Stephen Jones在其中解释道，CUDA语言的演变是为了让硬件的物理特性更具可编程性。

#### **CUDA**

**CUDA**（Compute Unified Device Architecture）是一个为配置GPU而设计的并行计算平台。CUDA支持C、C++、Fortran和Python等编程语言。

#### **CUDA** **库**

CUDA之上构建了许多库，以扩展其功能。其中一些著名的包括：

-   **cuBLAS**：一个GPU加速的基础线性代数（BLAS）库，能够加速低精度和混合精度的矩阵乘法。
-   **cuDNN**（CUDA Deep Neural Network）：一个提供DNN应用中常见操作实现的库，如卷积、注意力、矩阵乘法、池化、张量转换函数等。
-   **CUTLASS**（CUDA Templates for Linear Algebra Subroutines）：一个支持混合精度计算的库，为各种数据类型提供优化的操作，包括浮点（FP16到FP64）、整数（4/8位）和二进制（1位）。它利用NVIDIA的Tensor Cores进行高吞吐量的矩阵乘法。
-   **CuTe**（CUDA Templates）：一个仅包含头文件的C++库，提供**Layout**和**Tensor**模板。这些抽象封装了关于数据的基本信息，如类型、形状、内存位置和组织方式，同时还能实现复杂的索引操作。

#### **Triton**

**Triton**是一种基于Python的并行编程语言和编译器。Triton的创建者Phil Tillet在**此视频**中解释道，该语言旨在解决CUDA和现有特定领域语言（DSLs）在GPU编程方面的局限性。

虽然CUDA非常有效，但对于没有专业GPU编程经验的研究人员和从业者来说，它通常过于复杂。这种复杂性不仅阻碍了GPU专家和ML研究人员之间的沟通，也阻碍了在计算密集型领域中加速开发所需的快速迭代。

此外，现有的DSL具有限制性。它们缺乏对自定义数据结构的支持以及对并行化策略和资源分配的控制。

Triton通过允许其用户在SRAM中定义和操作张量，并使用类似torch的运算符进行修改，同时仍然提供实现自定义并行化和资源管理策略的灵活性，从而达到了平衡。Triton通过让没有丰富的CUDA经验的人也能够编写高效的GPU代码，从而帮助**民主化**了GPU编程。

### **利用** **内存** **层次结构**

GPU拥有多种内存类型，其大小和速度各不相同。内存大小和速度之间的反比关系是**GPU内存层次结构**的基础。将变量策略性地分配到不同的CUDA内存类型，可以使开发人员更好地控制其程序的性能。指定的内存类型会影响变量的作用域（仅限于单个线程、在线程块内共享等）和访问速度。存储在高速内存（如寄存器或共享内存）中的变量可以比存储在全局内存等较慢内存类型中的变量更快地检索。

![flashattention.png](https://blog.aidroplet.com/uploads/flashattention_afeb629a4e.png)

**FlashAttention**就是利用内存层次结构的一个硬件感知算法示例。

### **GPU** **性能到底意味着什么？**

GPU计算中的性能评估取决于预期的用例。尽管如此，用于评估整体效率的关键指标包括**延迟**和**吞吐量**。

**延迟**是指请求和响应之间的时间延迟。在我们最喜欢的并行处理器（GPU）的上下文中，请求是GPU收到处理命令时，响应是处理完成并返回结果时。

**吞吐量**是GPU每秒处理的单元数。此指标反映了GPU处理多个任务的并行能力。GPU架构师和开发人员努力**最小化延迟并最大化吞吐量**。

在对GPU进行基准测试时，通常会关注这些指标。例如，《**Benchmarking and Dissecting the Nvidia Hopper GPU Architecture**》研究报告，针对Hopper GPU的不同内存单元、Tensor Cores以及Hopper引入的新CUDA编程特性（DPX、异步数据移动和分布式共享内存）进行了延迟和吞吐量测试。

![stephjonesflops.png](https://blog.aidroplet.com/uploads/stephjonesflops_6fc9a6fada.png)

正如Stephen Jones在2022年GTC演讲《How CUDA Programming Works》中所说：每秒浮点运算次数（FLOPS）通常被引用为性能衡量标准，但它很少是限制性因素。GPU通常具有充足的浮点计算能力，因此，**内存** **带宽**等其他方面被证明是更重要的瓶颈。

* * *

### **性能监控工具**

GPU性能监控使开发人员和系统管理员能够识别瓶颈（是受内存限制、延迟限制还是计算限制？）、有效分配GPU资源、防止过热、管理功耗，并就硬件升级做出明智决策。NVIDIA提供了两个强大的GPU监控工具：**Nsight**和**SMI**。

#### **NVIDIA Nsight**

**NVIDIA Nsight Systems**是一个系统级性能分析工具，可以可视化应用程序的算法并识别可优化的区域。有关NVIDIA Nsight Compute的更多信息，请参阅**内核分析指南**。

#### **NVIDIA System Management Interface**

NVIDIA**System Management Interface**（nvidia-smi）是基于NVIDIA **Management Library**构建的命令行工具，用于管理和监控GPU设备。更多信息可以在**nvidia-smi文档**中找到。

![smioutput.png](https://blog.aidroplet.com/uploads/smioutput_0ccaa2f98c.png)

### **常见问题解答（FAQs）**

#### **1. 为什么** **GPU** **优化对** **深度学习** **很重要？**

深度学习模型通常需要数十亿个参数和海量数据集。如果不进行优化，训练可能需要数天甚至数周，导致成本高昂和实验速度变慢。**优化GPU使用**有助于缩短训练时间、提高准确性并更好地利用可用资源。这对于希望更快创新的研究人员、初创公司和企业尤其有用。

#### **2. 有哪些常见的** **GPU** **性能优化技术？**

深度学习的关键优化技术包括：**调整批量大小**以最大化GPU利用率（同时平衡内存限制）；使用FP16进行**混合精度训练**以加速计算和减少内存使用；以及构建高效的**数据管道**，预先处理和加载数据。此外，**缓存和预取策略**有助于确保GPU始终有数据可供处理。总之，这些方法能使GPU完全投入计算，而不是在数据加载等较慢任务中闲置，最终提高速度和效率。

#### **3.** **CUDA** **和cuDNN在** **GPU** **优化中扮演什么角色？**

**CUDA**是NVIDIA的**并行计算** **平台**，允许像TensorFlow和PyTorch这样的深度学习框架利用GPU。**cuDNN**是一个专门用于深度学习操作（如卷积、池化和归一化）的GPU加速库。通过使用CUDA和cuDNN，模型运行速度比在CPU或未经优化的GPU代码上运行快得多。

#### **4. 如何识别** **深度学习** **工作流** **中的性能瓶颈？**

瓶颈可能发生在多个层面——数据加载、内存使用或计算。像**NVIDIA Nsight Systems**、**NVIDIA Nsight Compute**、**TensorBoard**或**PyTorch** **Profiler**这样的工具可以帮助可视化训练工作负载。它们可以突出显示GPU是否利用不足（由于数据管道缓慢）或者内存是否因低效操作而浪费。

#### **5. 有哪些** **GPU** **内存** **优化技术？**

管理有限GPU内存的成熟技术包括**梯度检查点**，它通过重新计算中间值而不是存储它们来节省内存；以及**模型** **剪枝**或**量化**，它们在对准确性影响最小的情况下缩小模型大小。此外，从FP32切换到FP16等更高效的数据类型可以减少总内存占用。总之，这些策略使得将更大的模型适配到受限的GPU资源中成为可能，同时最大限度地减少内存不足错误的风险。

#### **6. 多** **GPU** **和** **分布式** **训练如何提高性能？**

在训练超大数据集或模型时，单个GPU可能不足以胜任。**多GPU训练**将数据分割到多个GPU上，允许并行计算。**分布式** **训练**更进一步，将工作负载扩展到具有GPU的多台服务器上。这种方法可以加快训练速度，处理更大的模型，并缩短获得结果的时间。

#### **7. 不拥有昂贵硬件可以优化** **GPU** **性能吗？**

是的！像**[DigitalOcean Gradient™ AI GPU Droplets](https://www.aidroplet.com/product/gpu)**这样的云提供商提供了对高性能GPU（如NVIDIA A100或H100）的灵活访问。这意味着您只需为您使用的GPU时间付费，这对于不愿投资昂贵本地GPU的初创公司、研究人员或个人来说具有成本效益。这是一种可扩展的解决方案，使每个人都能进行优化。

### **结论**

本文并非对GPU优化的所有内容都进行了总结，而只是对该主题的一个介绍。

为深度学习优化GPU性能不仅仅是为了更快的训练——更是为了**充分利用可用硬件，以提高效率、可扩展性和成本效益**。从微调批量大小和内存使用，到利用混合精度和高效的数据管道，这些技术可以显著影响模型的训练和部署的顺畅度和有效性。

对于开发人员和研究人员来说，正确的基础设施在实现这些优化方面起着至关重要的作用。**[DigitalOcean Gradient™ AI GPU Droplets](https://www.aidroplet.com/product/gpu)**提供了专为AI和机器学习工作负载设计的按需、高性能GPU。无论您是在进行小型项目实验还是运行大规模训练，GPU Droplets都为您提供了应用性能优化技术的灵活性，而无需受基础设施限制的束缚。

通过将GPU优化的最佳实践与DigitalOcean云平台的简单性和可扩展性相结合，您可以**加速**您的深度学习项目，**降低**成本，并更多地**专注于创新**。如需了解DigitalOcean上 H200、H100、MI325X、MI300X和A100等GPU的最新价格与优惠政策，可直接联系DigitalOcean中国区独家战略合作伙伴卓普云aidroplet.com。

large_images.png

medium_images.png

small_images.png

thumbnail_images.png

xsmall_images.png

images.png

详解GPU优化核心技术，涵盖架构特性、内存管理、多卡训练与工具使用，助你高效加速深度学习模型训练与推理。

深度学习中的 GPU 性能怎么优化？

所有 DigitalOcean 客户现在都可以通过 Okta OpenID Connect（OIDC）使用单点登录（SSO）功能了。这项功能的推出能帮助组织简化用户访问、减少 IT 运维开销，并为团队提供一种更快捷、安全的登录和开始工作的方式。单点登录的实现，是 DigitalOcean 在加强安全、简化用户管理和提高团队生产力方面迈出的重要一步。

## 为什么单点登录很重要

  


对于不断发展的团队来说，管理多个平台上的用户账户很快就会成为一个难题。密码重置、手动入职和离职流程都会增加额外的工作量，这不仅会影响 IT 团队，也会让开发者感到生产力下降。

单点登录通过允许用户使用其现有的企业凭证，通过 Okta 等可信的身份提供商登录来解决这个问题。这意味着：

-   不再需要管理多个用户名和密码。
-   集中化的访问管理，可随团队规模扩展。
-   不再因账户被锁定而浪费时间。
-   在整个工具链中实现更强大、一致的安全性。

  


## 单点登录能为您的企业带来什么好处

  


随着组织的发展，管理多个工具和平台上的用户访问可能会变得复杂、耗时且成本高昂。单点登录通过允许员工使用一套凭证安全地访问所有应用程序来解决这个问题。

通过集中认证，SSO 不仅能加强安全性，还能简化新员工入职流程、减轻 IT 负担，并为团队提供无缝的登录体验，帮助他们专注于开发和创新。以下是单点登录能为您的公司带来的好处：

-   **简化的用户访问**：集中化身份管理，并使用企业凭证提供无缝访问，无需单独的密码。
-   **更高的便捷性**：减少用户阻力，让访问变得直接和直观。
-   **团队可扩展性**：随着团队的发展，轻松管理访问权限，确保所有用户遵循一致的策略。
-   **减轻 IT 负担**：自动化入职和离职流程，让 IT 人员以更少的手动工作获得更大的控制权。
-   **增强的安全性**：通过 Okta OIDC 强制执行强认证（如 MFA、自适应访问），以保护敏感数据。
-   **更快、更安全的登录**：提供一致的登录体验，让团队能够快速访问项目并开始工作。

  


## DigitalOcean 上的 SSO 如何运作

  


对于管理员而言，通过 Okta 在 DigitalOcean 上设置单点登录（SSO）非常快捷，并且使用了标准的 OIDC 协议。

-   **在 Okta 中配置**：在 Okta 管理控制台中，将 DigitalOcean 创建为一个 OIDC Web 应用程序。使用[SSO 设置指南](https://docs.digitalocean.com/platform/teams/how-to/configure-sso/)来映射用户组和角色。
-   **在 DigitalOcean 中启用**：在 DigitalOcean 控制面板中，添加您的身份提供商（IdP）凭证（客户端 ID、客户端密钥和域名）。启用后，您将获得一个组织独有的登录 URL。
-   **在 Okta 中连接**：将生成的 URL 粘贴到 Okta 中您的 DigitalOcean 应用程序设置中，以最终完成连接。

设置完成后，管理员可以选择强制执行仅 SSO 登录。新团队成员将在首次登录时自动在 DigitalOcean 中创建账户，从而省去了手动管理用户的麻烦。

对于用户来说，整个体验是无缝且安全的。他们只需通过 Okta 控制面板登录并点击 DigitalOcean 的图标，或使用直接登录 URL 即可。

DigitalOcean 现已通过 Okta OpenID Connect (OIDC) 向所有客户提供单点登录（SSO）服务。这项功能旨在帮助企业简化用户访问、减轻 IT 负担，并提供更快捷、安全的登录方式。

DigitalOcean 现已支持 Okta SSO 单点登录

Gpt-oss-120b 和 gpt-oss-20b 是 OpenAI 发布的两个开源推理模型。现在 DigitalOcean 的用户在 Gradient AI 平台创建 GPU Droplet 服务器时，可以直接[调用 gpt-oss-20b 与 gpt-oss-120b](https://blog.aidroplet.com/product-updates/openai-gpt-oss-launches-on-gradient/)。在本教程中，我们将演示如何在 DigitalOcean 的 Gradient™ AI 平台上使用 gpt-oss-120B 构建一个客户支持 AI Agent。

**核心要点**

*   本教程展示了如何在 DigitalOcean 的 Gradient AI 平台上，使用 GPT-OSS 构建 AI 客户支持 AI Agent。
*   该过程包括准备相关数据、创建用于支撑 AI Agent回答的知识库，并通过 DigitalOcean API 或无代码用户界面（UI）部署 AI Agent。
*   最终生成的 AI Agent 能够提供准确且相关的客户支持，从而提升客户体验。


假设，我们将为一家虚构的、成立于 2027 年的生物技术公司 Mitofoundria 构建这个客户支持 AI Agent。Mitofoundria 是一家预防医学公司，生产个性化营养补充剂，帮助个体预防可能因遗传或环境因素而面临风险的健康问题。

这家虚构初创公司的网站迫切需要一个客户支持 AI Agent。

### 在 DigitalOcean 上使用知识库

不出所料，我们的客户支持的 AI Agent 需要基于真实信息来生成回答。知识库（Knowledge Bases）正是我们存储这些上下文信息的地方。请参考我们的[知识库文档](https://docs.digitalocean.com/products/gradient-ai-platform/how-to/create-manage-agent-knowledge-bases/)了解支持的文件格式。

<https://docs.digitalocean.com/products/gradient-ai-platform/how-to/create-manage-agent-knowledge-bases>

### 数据方面的准备

请仔细考虑如何为你的客户支持 AI Agent 准备数据。以下是 Mitofoundria 所需数据的示例表格，你可以参考类似的格式或所需收集的内容等：

| 数据来源                                               | 需收集内容                                               | 重要预处理步骤                                                                            |
| -------------------------------------------------- | --------------------------------------------------- | ---------------------------------------------------------------------------------- |
| 工单日志（Ticket Logs）                                  | 完整对话记录、标签（如“账单”、“物流”、“产品效果”、“副作用”、“基因数据问题”）、客户报告的症状 | 删除个人身份信息（PII），匿名化姓名和邮箱，屏蔽订单号，以及任何与基因或健康相关的个人信息                                     |
| 常见问题页面（FAQ pages）                                  | 现有的问答对或长篇文本，涵盖产品使用方法、科学依据、常见副作用、订阅管理等               | 确保每个问答对长度适中；若从长文本生成问答对，应将长文章拆分为简短片段（<150 个 token），每段独立成文并提供清晰回答；特别注意涉及健康声明和免责声明的内容 |
| 在线聊天记录（Live chat transcripts）                      | 聚焦于产品咨询、补充剂定制、个人健康问题的客服与客户对话                        | 隐去所有具体用户健康数据或基因标记；按主题分类（如“产品有效性”、“剂量问题”、“数据隐私”）                                    |
| 产品文档（Product Documentation）                        | 补充剂的规格、成分、推荐剂量、禁忌症、科学白皮书等                           | 按产品提取关键信息，包括每种补充剂所针对的特定基因标记或环境因素；创建结构化数据格式以便查询                                     |
| 科学文献与研究论文（Scientific Literature & Research Papers） | 公开可用的科学论文、临床研究、学术文章，涉及补充剂成分及其对人体生物学和遗传学的影响          | 总结关键发现和结论；创建简洁、易于代理理解的摘要，用通俗语言解释复杂的科学概念；并与内部产品文档交叉引用                               |

由于 Mitofoundria 是一家我们虚构出来的公司，上述数据将通过大语言模型（LLM）合成生成。我们使用了 Gemini 模型。以下是我们的提示词：

> **你的任务是为以下五个类别生成逼真的数据，确保每个条目都符合指定要求和预处理步骤。**
>
> **1. 工单日志：**
>
> 生成 10 条完整的客户支持对话记录。每条记录应包含完整对话、相关标签（如“账单”、“物流”、“产品效果”、“副作用”、“基因数据问题”）以及客户报告的症状。
>
> **预处理要求：** 删除所有个人身份信息（PII），匿名化姓名和电子邮件，屏蔽订单号及任何基因或健康相关个人信息。
>
> **2. 常见问题页面：**
>
> 创建 20 个问答对或长篇文本，内容涵盖产品使用方法、科学依据、常见副作用、订阅管理等。
>
> **预处理要求：** 确保每个问答对长度合理；若从长文本生成，请将其拆分为“简短片段”（少于 150 个 token），每段独立且回答明确。
>
> **3. 在线聊天记录：**
>
> 生成 10 段不同的客服与客户对话，聚焦于产品咨询、补充剂定制、个人健康担忧等。
>
> **预处理要求：** 隐去任何具体的用户健康数据或基因标记；按主题分类（如“产品有效性”、“剂量问题”、“数据隐私”）。
>
> **4. 产品文档：**
>
> 为三种不同的虚构 Mitofoundria 补充剂生成关键信息，包括成分、推荐剂量、禁忌症，并说明每种补充剂所针对的基因标记或环境因素。
>
> **预处理要求：** 以结构化、易于查询的格式呈现信息。
>
> **5. 科学文献与研究论文：**
>
> 为五篇不同的公开科学论文或临床研究创建简明摘要，内容涉及补充剂成分及其对人体生物学和遗传学的影响。
>
> **预处理要求：** 总结关键发现和结论；创建“代理友好型”摘要，用简单语言解释复杂科学概念；并与之前生成的内部产品文档进行交叉引用。

### 实现客户支持 AI Agent 的两种方式

有两种方式可以实现我们的客户支持 AI Agent：

1.  **使用 DigitalOcean** **API**
2.  **使用控制面板（Control Panel）**

API 允许你以编程方式实现 AI Agent，而控制面板则提供无代码操作界面。

### 使用 DigitalOcean API 创建 AI Agent

首先创建一个**个人访问令牌（Personal Access Token）**。获取令牌后，将其粘贴到以下 curl 命令中，并根据你的客户支持 AI Agent 需求配置其他参数。注意：如果你还没有知识库，可能需要先创建一个。

    curl -X POST \
        -H "Content-Type: application/json"  \
        -H "Authorization: Bearer $DIGITALOCEAN_TOKEN" \
        "https://api.digitalocean.com/v2/gen-ai/agents" \
        -d '{
          "name": "Mitofoundria Customer Support Agent",
          "model_uuid": "95ea6652-75ed-11ef-bf8f-4e013e2ddde4",
          "instruction": "你是 Mitofoundria 的友好且专业的客户支持代理，这是一家预防医学公司。你的目标是帮助客户解答有关个性化补充剂、订阅管理以及科学基础的问题。请使用提供的知识库准确、简洁地回答问题，保持专业且富有同理心的语气。",
          "description": "Mitofoundria 的客户支持代理，该公司专注于个性化预防性营养补充剂。",
          "project_id": "YOUR_PROJECT_ID",
          "tags": [
            "mitofoundria",
            "customer-support",
            "preventative-medicine"
          ],
          "region": "tor1",
          "knowledge_base_uuid": [
            "YOUR_KNOWLEDGE_BASE_UUID"
          ]
        }'

***

### 使用 UI 部署 GPT-OSS

**步骤 0：登录 DigitalOcean 账户**

还没有 DigitalOcean 账户？别担心，点击[这里注册](https://cloud.digitalocean.com/registrations/new)即可！

**步骤 1：创建项目**

登录后，创建一个新项目。

![createNewProject.png](https://blog.aidroplet.com/uploads/create_New_Project_8f9b1230ab.png)

**步骤 2：进入代理平台**

通过点击[此链接](https://cloud.digitalocean.com/gradient)或点击 DigitalOcean 控制面板中下方圈出的图标进入代理平台。

![createAnAgent.png](https://blog.aidroplet.com/uploads/create_An_Agent_064e4cbd43.png)

**步骤 3：选择知识库**

选择一个已有知识库；如果没有，可以创建一个新的。

创建知识库时需要提供数据源。你可以添加多个数据源，支持的格式包括：

*   文件上传
*   URL（用于网页抓取）
*   Spaces 存储桶或 Amazon S3 存储桶中的数据

上传文件时，单个文件不得超过 2GB，每次上传不超过 100 个文件。你还需选择一个嵌入模型（embedding model）。请注意，知识库需要一定时间进行索引——通常需要约五分钟或更长时间，系统会在此期间处理、嵌入并存储你的数据。

**步骤 4：指定工作区（Workspace）**

工作区将相关的代理归入同一空间，便于管理、团队共享和结构化性能评估。所有代理必须属于某个工作区。创建代理时可指定其所属工作区，之后也可自由移动。

![workspace.png](https://blog.aidroplet.com/uploads/workspace_11f78409f6.png)

**步骤 5：在 Playground 中测试代理**

代理部署完成后，使用 Playground 进行测试。提出问题并评估其回答，确保其按预期运行。

![playground.png](https://blog.aidroplet.com/uploads/playground_1b471586b1.png)

![playground2.png](https://blog.aidroplet.com/uploads/playground2_015b488e3c.png)
**步骤 6：使用** **测试用例** **评估代理性能**

在 Gradient 平台上，你可以创建“评估测试用例”。通过创建包含一组提示词的数据集，并在代理上运行评估，即可测试其表现。运行完成后，你可以查看结果，包括各项指标得分以及代理对每个提示的回答详情。

**步骤 7：管理代理端点（Endpoint）**

代理创建后会自动生成[端点（Endpoint）](https://docs.digitalocean.com/products/gradient-ai-platform/how-to/use-agents/)，即你可以集成到应用中的 URL。你可以通过该端点发送文本请求，并接收 JSON 格式的响应。此外，还可以通过端点自定义请求设置，例如最大生成 token 数、检索信息的处理方式等。

### 结论

在本教程中，借助 DigitalOcean 的 Gradient AI 平台，你不仅仅是在构建一个聊天机器人——而是在打造一个真正理解客户的**客户支持 AI Agent**。通过将回答建立在你自己的数据基础上，你可以获得更准确、更相关的结果。无论你选择使用 API 还是无代码 UI，最终都能实现：**更快、更智能的客户支持，并随业务增长而灵活扩展**。

如果你希望了解如何选择适合搭建 AI Agent 的 GPU Droplet服务器，欢迎咨询[ DigitalOcean中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。目前DigitalOcean可提供包括H200、H100、AMD MI325X、AMD MI300X、RTX 6000 Ada、 RTX 4000 Ada、L40S、A100等型号的GPU服务器按需实例或裸金属服务器。

### 常见问题解答（FAQ）

**Q：为什么知识库对** **AI** **Agent 很重要？**

A：知识库存储了 AI Agent 用于支撑其回答的上下文和信息，确保回答的准确性和相关性。

**Q：为准备客户支持** **AI** **Agent，推荐使用哪些类型的数据？**

A：推荐的数据类型包括工单日志、常见问题页面、在线聊天记录、产品文档以及科学文献/研究论文。

**Q：虚构公司 Mitofoundria 的数据是如何生成的？**

A：数据是通过大语言模型（LLM，具体为 Gemini）根据详细提示词合成生成的，提示词明确了所需类别和预处理步骤。

**Q：在 DigitalOcean 上实现客户支持** **AI** **Agent 的两种方式是什么？**

A：可以通过 DigitalOcean API 实现程序化控制，或通过控制面板（无代码界面）进行操作。

**Q：使用 DigitalOcean** **API** **创建代理时，个人** **访问令牌** **的作用是什么？**

A：个人访问令牌用于在调用 API 创建或管理代理时进行身份验证。

**Q：通过** **UI** **部署代理时，项目（Project）的作用是什么？**

A：项目用于组织和管理资源，所有代理都必须归属于某个项目。

**Q：如何在 DigitalOcean 平台上创建知识库？**

A：通过添加数据源（文件上传、URL 或 Spaces/S3 桶数据）并选择嵌入模型来创建知识库。

**Q：Gradient 平台上的“工作区”（Workspaces）是什么？**

A：工作区将相关代理归入同一空间，便于管理、团队协作和结构化性能评估。

**Q：如何测试已部署的代理？**

A：可以使用 Playground 提出问题并评估其回答。

**Q：如何更正式地评估代理的性能？**

A：在 Gradient 平台上，可以创建包含提示词数据集的“评估测试用例”，运行评估后查看指标得分和每个提示的回答分析。


medium_WX20250721-151435@2x.jpg

small_WX20250721-151435@2x.jpg

thumbnail_WX20250721-151435@2x.jpg

xsmall_WX20250721-151435@2x.jpg

WX20250721-151435@2x.jpg

利用 GPT-OSS 与知识库，在 DigitalOcean Gradient 平台构建具备行业理解力的客户支持AI Agent，实现精准、可扩展的智能服务。

从零搭建AI客服！基于GPT-OSS和知识库的客户支持系统实战

**“我们应该选择哪家云服务商？”** 这是一个在技术团队内部被反复提及、又常常没有标准答案的问题。

对于一家寻求全球化发展的中国企业，这个问题的答案远比听起来要复杂。它不只是计算资源的采购，更是业务未来走向、成本控制乃至团队效率的战略性决策。面对 **DigitalOcean、AWS** 和 **Linode** 这三大主流海外云服务商，许多技术负责人陷入了“烦恼”：AWS 功能齐全且强大，但过于复杂且价格不菲；DigitalOcean 和 Linode 简单易用且定价实惠，但它们之间也有很多区别。那么中国企业出海应该怎么选择海外云服务？

本文将深度剖析这三家云服务商的核心优势与劣势，从定位、成本、易用性、GPU性能，以及最重要的本地化支持等多个维度进行对比。我们的目标不止于此，更在于帮助你找到一个能够真正加速业务发展、降低运营成本、且在海外市场能安心使用的云伙伴。

## **一、三大云服务商的核心定位与生态差异**

每家云服务商都有其独特的DNA，这决定了它们的客户群体和发展路径。理解这一点，是做出正确选择的第一步。

### **DigitalOcean：开发者友好与极简主义的代表**

DigitalOcean （简称：DO）的诞生源于一个简单的想法：为开发者提供一个**简单、可靠、高性价比**的云平台。它的设计哲学是“去繁就简”，这在它的产品命名上可见一斑：虚拟主机叫 **[Droplets](https://www.aidroplet.com/product/cloudcpu)**，对象存储叫[ **Spaces**](https://www.aidroplet.com/product/spaces) **，GPU云服务产品叫 [GPU Droplet](https://www.aidroplet.com/product/gpu)**。

这是一种截然不同的思路。AWS 仿佛一个**功能齐全但复杂无比的巨型乐高王国**，需要你仔细研读说明书，才能从几百块积木中找到你需要的，并正确组装。而 DigitalOcean 更像是一个**为特定任务精心设计的工具箱**。它只提供你最常用的工具——服务器、存储、数据库、Kubernetes集群——并且把它们做得简单、好用、开箱即用。

对于初创企业和中小团队来说，时间就是生命。他们需要的是一个能快速部署、快速迭代的平台，而不是一个需要投入大量人力去学习和管理的复杂系统。这正是 DigitalOcean 的核心竞争力：它让你把精力集中在业务创新上，而不是被云基础设施的复杂性所困扰。

### **AWS** **：全能巨头与企业级标准的象征**

如果说 DigitalOcean 是一个工具箱，那么 **AWS** **就是一个庞大而完整的** **云生态** **系统**。它拥有最广泛、最深入的服务集合，从计算、存储到人工智能、物联网，几乎无所不包。无论你是一家需要大规模数据分析的金融公司，还是一家需要构建复杂全球网络的跨国企业，AWS 都能提供相应的解决方案。

这种**广度和深度是** **AWS** **无可比拟的优势。它为企业级**应用提供了从身份验证（IAM）到虚拟网络（VPC）、再到无服务器计算（Lambda）的全面支持。因此，AWS 的主要客户通常是预算充足、对系统复杂性和可扩展性有极高要求的大型企业和传统行业巨头。

然而，这种强大背后是陡峭的学习曲线和高昂的运维成本。对于小团队而言，深入学习 AWS 的各项服务，并进行精细化管理，无疑是一个沉重的负担。

### **Linode：性能至上与极客社区的拥护者**

Linode 在被 Akamai 收购之前，在技术极客和系统管理员群体中享有盛誉。它的核心卖点一直是**高性能的** **虚拟主机**和对 Linux 生态的深度支持。它的用户画像往往是那些对底层基础设施有深入了解，喜欢自己动手配置一切的资深技术人员。

Linode 的定位属于 DigitalOcean 的跟随者，Linode 也是专注于提供基础的 IaaS 服务，但在用户体验和产品生态上有所区别。虽然近年来 Linode 也推出了对象存储、数据库等新服务，但其**生态系统的丰富度仍不及 DigitalOcean**，并且在开发者社区的影响力上， DigitalOcean 凭借其简洁的文档和丰富的社区内容，也逐渐占据了上风。

## **二、深度对比：从价格到价值的全面考量**

云服务的选择，价格固然重要，但更深层的价值考量——易用性、性能以及本地化支持——才是决定成败的关键。

### **2.1 谁是真正的“性价比之王”？**

许多人误以为价格是云服务商的唯一比较点，但实际上，总拥有成本（TCO）远比账单上的数字更复杂。首先我们对比的是一些基础的服务，然后我们会对比 GPU 相关服务。

| 功能/服务        | DigitalOcean                        | AWS (EC2)                          | Linode                                          |
| ------------ | ----------------------------------- | ---------------------------------- | ----------------------------------------------- |
| 基础服务器（共享CPU） | 2GB RAM, 1 vCPU, 50GB SSD           | 2GB RAM, 1 vCPU, 50GB SSD          | 2GB RAM, 1 vCPU, 50GB SSD                       |
| 按需实例月费       | $12                                 | $16+（稳定使用量，最便宜机型，且不包含区域内传输流量）      | $12                                             |
| 每月流量         | 实例自带 2TB，如超额，跨区域出站流量统一计费，0.01美元/GB。 | 如果附加1TB区域内流量+1TB出站流量，需额外支付30.72每月。 | 2TB，如超额，按不同数据中心，跨区域出站流量费用为0.005 至 0.015美元/GB不等。 |
| 备份费用（可选）     | 每周备份，收取实例月费的20%。约2.4美元/月。           | 按用量计费，较为复杂                         | 实例月费的25%。约2.5美元/月。                              |
| 托管数据库（可选）    | $15/月，MySQL、PostgreSQL、MongoDB统一价格。 | 按用量计费，计费规则复杂                       | 最便宜的是16美元/月，仅支持MySQL、PowstgreSQL。               |
| 对象存储         | Spaces对象存储，$5/月，含250GB存储，1TB出站流量。   | S3 Standard，$15+/月，按用量计费，流量费昂贵     | Object Storage，$5/月，含250GB存储，1TB出站流量。           |
| 本地化服务        | 卓普云（人民币支付、技术支持）                     | 光环新网/西云数据（复杂，面向大型企业）               | 暂无深度本地化支持                                       |

根据三大云平台官网文档（2025年8月官网信息），我们统计了部分主要服务的价格，包括 VPS、数据库、对象存储等。对比三个云平台的 VPS 时，我们选择了固定的配置，包括 1 vCPU、2GB RAM、50GB 存储。由于 AWS 的计费规则比较复杂，我们需要先讲一讲它。

#### **AWS** **的成本鸿沟**

AWS 的定价模式是出了名的复杂。它的账单可能由数百个细分项组成，如实例类型、数据传输、API调用次数、存储I/O等。这就像是你在一家大型超市购物，每件商品都按克计费，最终的账单令人头疼。对于预算有限的**企业**来说，这不仅难以控制成本，更可能出现无法预知的“账单爆炸”。

特别是**数据出站流量费**。DigitalOcean 和 Linode 通常提供慷慨的流量配额，而 AWS 的出站流量费则相对高昂。这对于需要频繁进行数据传输的业务来说，是一个巨大的成本黑洞。

在配置 DigitalOcean Droplet 的时候，如果选择共享CPU的基础服务器（1 vCPU + 2GB RAM），那么 VPS 套餐默认会带有 2TB 的出站流量，这是免费的。但是当你在 AWS 选择相同配置的服务器的时候，如果配置出2TB 的出站流量，会在账单中多出至少30美元的费用，而且这还是在选择较为便宜的美国区域的定价。如果你的出站流量是跨不同区域，那么流量费用是不同的，这只能在最后的账单中才能体现出来，你在配置的时候是无法预估的，这就是为什么说使用 AWS 很难评估预算。

![Unknown.png](https://blog.aidroplet.com/uploads/Unknown_de626342f1.png)

另一方面，DigitalOcean Droplet 在启用的时候，你可以直接配置上一个对象存储，每月仅 5 美元，包含了 250GB 存储和 1TB 的出站流量。如果出站流量超额，同样是按照 0.01 美元/GB 来计费（不分区域）。但是在 AWS，如果你选择 250GB 的 S3 Standard 对象存储，并且在仅配置了 1TB 出站流量（美国弗吉尼亚区域）的情况下，要 15 美元/月。

在托管数据库方面，支持的数据库类型按照从多到少排序依次是：AWS>DigitalOcean>Linode。AWS 托管数据库的价格比较复杂，建议通过官网文档查询。

#### DigitalOcean vs. Linode

乍一看，DigitalOcean 和 Linode 的基础云服务器价格非常接近，甚至在某些配置上，Linode 略有优势。例如，在相同配置（2GB RAM，1 vCPU，50GB SSD）下，两者的月费都在 12 美元左右。

但仔细观察你会发现，许多云服务商的备份、负载均衡等服务会成为隐形开销。DigitalOcean 的备份费用通常为实例月费的 20%，而 Linode 则为 25%。别小看这 5%的差距，当你的云服务器数量达到一定规模时，这将是一笔可观的开支。

另一方面，Linode 在对外宣传的时候，都会说自己的出站流量费用是 0.005 美元/GB，但 Linode 并没有告诉你的是，如果你选择个别节点，比如印尼，那么它的价格会更高，最高时 0.015 美元/GB。尽管 Linode 在很多层面上都追赶对标 DigitalOcean ，但 Linode 的出站流量费并没有像 DigitalOcean 那样采用了统一的定价计费。

在托管数据库方面，DigitalOcean 支持包括 MongoDB、Kafka、MySQL、PostgreSQL、Valkey、OpenSearch。而 Linode 仅支持 MySQL 和 PostgreSQL，而且价格比 DigitalOcean 贵。

### **2.2 易用性与开发者体验：效率的隐形成本**

技术决策者应该考虑的不仅仅是价格，还有团队的**时间成本和效率**。一个难以上手的平台会极大地拖慢开发进度，这笔隐性开销远超你的想象。

#### **DigitalOcean：为开发者量身打造的“工具箱”**

在易用性方面，DigitalOcean 遥遥领先。它的后台界面设计简洁，功能分区清晰，即使是刚接触云服务的新手也能迅速上手。不止一位 DigitalOcean 的企业的技术合伙人表达过：“我们选择 DigitalOcean 是因为，我的团队只需要10分钟就能创建一个服务器，而不用花半天时间去研究各种复杂概念”。而且，在创建 Droplet 的配置过程中，用户还可以同时为其添加自动备份、托管数据库和块存储，而不需要额外去创建并将他们关联起来，这是 AWS 和 Linode 都无法做到的。

![image-8-2048x1005.png](https://blog.aidroplet.com/uploads/image_8_2048x1005_e7afd8b0c8.png)

图：创建Droplet时，可添加托管数据库

其 **Marketplace** 上的“一键部署”功能更是效率利器。无论是 WordPress 博客、Docker 环境还是 开源大语言模型（LLM），只需点击几下，一个完整的应用环境便能自动配置完成。这让**敏捷开发**和产品快速迭代成为可能。

![image-7.png](https://blog.aidroplet.com/uploads/image_7_90153122f0.png)

图：创建GPU Droplet 时，可一键部署大模型

#### **AWS** **与Linode：复杂与简洁的权衡**

AWS 的复杂性是其最大的劣势。它强大的功能需要付出学习成本，你可能需要专门的云运维团队来管理复杂的 IAM 策略、VPC 网络和各种服务。对于许多技术人员来说，这更像是在**管理一个复杂的** **操作系统**，而不是一个开箱即用的工具。

Linode 的易用性介于两者之间。它的界面比 AWS 简单，但缺乏 DigitalOcean 那种“小白友好”的设计。对于需要快速启动新项目的团队来说，它在用户体验上仍稍逊一筹。

### **2.3** **GPU** **服务器：性能、选择与性价比的平衡点**

大语言模型与AIGC的兴起，让 GPU 云服务器成为了很多云平台开始发力的方向。甚至你还会看到有些初创的云平台直接以 GPU 服务器租赁为主要或唯一的业务。

目前三家云厂商，可提供的GPU型号分别如下（数据基于2025年8月AWS、DigitalOcean、Linode 三个云平台官网文档）：

-   DigitalOcean 可提供：H200（单卡/8卡）、H100（单卡/8卡）、AMD MI325X（单卡/8卡）、AMD MI300X、RTX 6000 Ada、 RTX 4000 Ada、 A100、L40S、V100、A6000、A5000、A4000等 17 款 GPU，包含了主流的旗舰款 GPU 到高性价比的 GPU，而且旗舰款 GPU 可提供单卡或 8 卡或裸金属机型。
-   AWS 可提供：H200（8卡）、B200（8卡）、H100（8卡）、A100、V100、L4、T4、T4g、A10G、L40S，以及一些不太适合用于AI场景的高性能机型，比如搭载了 AMD Radeon Pro V520 的 EC2。而且旗舰款GPU（如H200、H100）仅提供8卡机型，不利于用户更灵活地控制成本。
-   Linode 可提供：RTX 6000、RTX 4000 Ada。

**DigitalOcean** 的 [GPU Droplet ](https://www.aidroplet.com/product/gpu)的 GPU 型号最为全面，提供了多达 17 种 GPU，涵盖了从最新的 **H200** 和 **AMD MI325X**等旗舰型号，到 **RTX** 和 **A 系列** 等高性价比型号。它还提供了单卡、8 卡甚至裸金属机型，这使得用户在配置和成本控制上拥有极大的灵活性，无论是进行大规模 AI 训练还是小规模的开发测试，都能找到合适的方案。

**AWS** 作为市场领导者，其旗舰 GPU 机型主要面向企业级和大规模 AI 训练场景，提供了 **H200** 和 **B200** 等顶尖的 8 卡配置。然而，这种策略限制了中小规模用户的选择，因为其旗舰 GPU 仅提供 8 卡方案，对于需要单卡或少量卡来控制成本的用户来说并不友好。AWS 也提供了一些如 **L4**、**T4** 等用于推理的 GPU，但其整体产品线不如 DigitalOcean 灵活。

**Linode** 的 GPU 选项相对有限，仅提供了几款 **RTX** 型号。这可能适合预算有限、且需求简单的个人开发者或小型项目，但对于需要多样化 GPU 选择或大规模计算任务的用户来说，其可用性不足。

总的来说，DigitalOcean 在 GPU 产品的多样性和灵活性上表现突出，能够满足更广泛的用户群体，从个人开发者到企业用户；而 AWS 则更聚焦于高端企业市场，主要服务于大规模计算集群；Linode 则是提供最基础的 GPU 服务。更重要的是，DigitalOcean 的 GPU 服务器比 AWS 和 Linode 更加实惠，详细定价可通过[ DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)获取。

## **三、本地化支持：中国企业的“出海”与“上云”新标准**

对于任何一家**中国企业出海**来说，技术问题只是挑战的一部分。更关键的是，如何应对合规、支付、以及文化和语言差异带来的运营难题。这正是 DigitalOcean 在中国市场独一无二的竞争优势所在。

### **DigitalOcean的本地化杀手锏：独家战略合作伙伴**

DigitalOcean 与其在中国的独家战略合作伙伴 **[卓普云（aidroplet.com](https://www.aidroplet.com/)）** 建立的深度合作关系，是其区别于其他海外云服务商的核心优势。这套本地化解决方案，为中国企业提供了“一站式”服务，解决了困扰许多出海企业的痛点。

想象一下，你可以在不离开中国、不办理任何海外业务的情况下，通过**卓普云**直接使用 DigitalOcean 的全球云基础设施。这包括：

-   **ICP** **备案支持：** 这是在中国大陆部署网站的硬性要求。卓普云为企业提供专业的ICP备案咨询与支持，确保你的业务合法合规。
-   **人民币支付与发票：** 简化了跨境支付的繁琐流程，支持人民币直接结算，并提供中国企业所需的增值税发票。
-   **本地技术支持：** DigitalOcean 的海外客服可能存在时差和语言障碍。而卓普云则提供7x24小时的**中文技术支持**，无论是紧急故障排查还是日常咨询，都能得到快速响应。

这种深度本地化服务，让中国企业能够**安心使用**海外云服务，将精力完全放在业务拓展上。

### **AWS** **：本土化但复杂，适用于大型企业**

AWS 在中国大陆有独立的运营实体，由光环新网和西云数据运营，提供符合中国法律法规的云服务。然而，其服务和价格体系相对复杂，更倾向于服务**大型企业**。对于中小企业而言，其本土化服务在易用性、价格透明度以及响应速度上，可能不如DigitalOcean通过**卓普云**提供的技术支持服务。

同时，网络上有不少人都评价 AWS 的付费技术支持服务（如商业、企业级支持）价格高昂，这对于预算有限的中小企业来说是不合适的。AWS 免费支持的响应时间相对较长，通常难以满足紧急故障排查的需求。这与 DigitalOcean 通过卓普云提供的**中文本地化技术支持**形成了鲜明对比，后者更贴近中国企业对“有事能找到人”的朴素需求。

### **Linode：被收购后的不确定性与中国市场支持的短板**

尽管 Linode 在2022年被全球领先的 CDN 巨头 Akamai 收购，但这一举措对于中国企业来说，却带来了一系列新的不确定性。Akamai 的核心业务是 CDN 和网络安全，而其在中国的 CDN 业务已转让给了本地合作伙伴，这在一定程度上被市场解读为一种**“轻资产”策略**，甚至有人担忧其对中国市场可能不再像过去那样具有战略雄心。

这种战略上的调整，自然会引发一个重要疑问：**Akamai 会否将同样的模式复制到Linode的** **云服务** **上？**

与 DigitalOcean 通过卓普云这家独家战略合作伙伴**深度捆绑、共同运营**的模式不同，Linode 在中国市场**缺乏类似的本地化团队和销售渠道**。这意味着，当中国用户在面临支付、合规（如 ICP 备案）、或技术问题时，通常需要通过全球统一的英文支持系统来解决，这对于许多中国技术团队而言，是一个显著的语言和效率障碍。

这种服务上的脱节，再加上母公司在华业务模式的变动，都让 Linode 无法像 DigitalOcean 那样，给中国企业提供一个**长期、稳定、可信赖**的本地化支持承诺。对于需要一个可靠伙伴以应对出海挑战的企业来说，这一点尤为关键。

## **不仅仅是云，更是商业成功的** **加速器**

对于正在探索全球化道路的**中国企业**来说，DigitalOcean 联合卓普云提供的 **“高性价比 + 简单易用 + 深度本地化支持”的综合解决方案。它不仅仅是一个云平台，** 更是一个能够让你专注于业务创新，而无需担忧复杂运维、高昂成本和本地化合规问题的理想合作伙伴。

最终的抉择，应基于你的核心需求。如果你想以最快的速度、最低的成本、最少的人力，打造一个面向全球的业务，那么 DigitalOcean 无疑是你的最佳选择。

深度对比DigitalOcean、AWS和Linode三大云服务，为中国企业出海提供决策指南。

DigitalOcean、AWS和Linode对比，该选谁？不止于价格

过去三年，AI的应用场景从科研实验室迅速走向产业落地。大语言模型（LLM）、图像生成、推荐算法、语音识别等技术几乎在所有行业都有探索。对中国企业而言，“出海”已经不再只是一个战略选项，而是业务生存与增长的必然选择。

  


然而，出海过程中的一大技术难题是——算力成本。训练与推理都需要GPU，但顶级GPU（如H100、MI300X）的租用价格高昂，动辄数十美元/小时，并非所有企业都能承受。尤其是对于希望快速试错、迭代产品的中型企业，过度投入不仅会拖慢节奏，还可能让预算失衡。

  


这就引出了一个关键问题：**在海外云** **GPU** **租用场景中，哪些中端GPU能在性能与价格之间找到最佳平衡？**

  


目前，在海外云GPU市场中，被用户对比最多的就是[DigitalOcean的GPU Droplet服务器](https://www.aidroplet.com/product/gpu)。因为其GPU型号丰富，且价格普遍低于其他云平台。

  


本文将聚焦 **RTX 4000** **Ada** **、A4000 和 A5000** 三款NVIDIA中端GPU，并结合 **DigitalOcean GPU** **云服务器** 的实际租用方案，为中国企业技术决策者提供一份深入评测和选型指南。如需了解“[高性能AI推理与工作站GPU](https://blog.aidroplet.com/tutorialsdo-h200-h100-mi300x-mi325x)”与“[AI 训练最佳GPU选型](https://blog.aidroplet.com/tutorialsdo-l40s-rtx4000-rtx6000)”可阅读我们前两篇相关文章。

  


## 结论先行：谁是中端性价比之王？

  


在技术文章中，很多人喜欢把结论放到最后。但对于 CTO 和技术负责人而言，最关心的往往是：**到底选哪一款？**

所以我们先把结论摆出来：

-   如果你的业务以**大模型** **推理**为主，对能效比敏感，**RTX 4000** **Ada** 会是最优选择。
-   如果你的企业正在进行中等规模的训练任务，同时又要兼顾推理，**A4000** 的均衡性价比很适合。
-   如果你的团队已经走到规模化部署阶段，需要更大显存和更稳健的算力池，**A5000** 是一个保险的选择。

换句话说，**RTX 4000** **Ada** **是性价比最佳的入门选项**，A4000 则是探索期企业的“平衡点”，A5000 适合已经跑通商业模式、需要稳定扩张的团队。当然，如果你追求更高的性能，可以考虑 DigitalOcean 的其他 GPU ，比如 RTX 6000 Ada、H100、H200、MI300X或 MI325X等。

  


  


## 产品定位与应用场景

  


### DigitalOcean GPU产品线定位

  


相比AWS、GCP、Azure等传统巨头，DigitalOcean的定位更轻量化，强调“中小企业友好”，提供透明定价和简单易用的控制台。对于正在出海的中国AI企业，这意味着**更低的学习成本与更可预测的开支**。

  


在DigitalOcean GPU产品线中，RTX 4000 Ada、A4000 和 A5000处于“中端核心区间”：

  


-   既不像H100那样高不可攀

-   也不像T4那样性能不足

    -     


这三款显卡，正好覆盖了“推理优化—中型训练—企业级稳定算力”三类典型需求。

  


### 三款GPU典型应用场景

  


**RTX 4000** **Ada**：更适合推理型任务，例如部署 LLM 推理服务、语音识别、实时对话机器人。它的优势在于高能效和较低成本。

**A4000**：定位中间层，既能跑一些中等规模的训练任务，也能承担推理或图像生成任务，适合科研和产品迭代期。

**A5000**：显存更大，训练空间更宽裕，尤其适合已经有稳定业务量的团队去支撑规模化服务。

### AI企业出海GPU选择的考量维度

  


很多CTO在算力选型时会先画一张“风险矩阵”。横轴是**预算**，纵轴是**未来扩展性**。GPU放在哪个位置，直接影响了企业未来半年到一年的技术路径。

-   成本能否承受？——算力账单会不会压垮现金流？
-   是否可扩展？——GPU能不能支撑接下来几轮迭代？
-   稳定性如何？——平台能否保证出海部署的服务质量？

  


## 参数对比与架构分析

  


### 三款GPU核心参数对比

  


| GPU型号        | 架构           | CUDA核心数 | 显存容量 | 显存类型  | 显存带宽     | FP32算力      | 功耗 (TDP) |
| ------------ | ------------ | ------- | ---- | ----- | -------- | ----------- | -------- |
| RTX 4000 Ada | Ada Lovelace | 6,144   | 20GB | GDDR6 | 360 GB/s | 26.7 TFLOPS | 160W     |
| A4000        | Ampere       | 6,144   | 16GB | GDDR6 | 448 GB/s | 19.2 TFLOPS | 140W     |
| A5000        | Ampere       | 8,192   | 24GB | GDDR6 | 768 GB/s | 27.8 TFLOPS | 230W     |

  


（数据来源：NVIDIA官网）

由于三款GPU发布的时间不同，它们采用了两种不同的架构与工艺。

-   **Ada Lovelace (RTX 4000 Ada)** ：更先进的工艺，能效比大幅提升。在推理任务中，单位功耗下的算力表现更优。

-   **Ampere (A4000/A5000)** ：显存更大、更宽，适合训练复杂模型。尤其是A5000，其24GB显存几乎是4000 Ada的“推理专用”定位所无法替代的。

    -     


可以这样理解：

-   如果你是要部署一个7B或13B参数规模的LLM推理服务，RTX 4000 Ada足够了。
-   如果你需要做模型训练实验，A4000是一个中庸之选。
-   如果你要跑20B级别以上的模型或者需要更大batch size，A5000更靠谱。

  


* * *

  


## 性能分析与实测参考

  


### 推理任务表现

在推理场景下，功耗与能效比往往比单纯算力更重要。第三方测试显示（来源：MLPerf社区），**RTX 4000** **Ada** **在Llama-2 7B的推理上，表现接近 A5000，但功耗却只有后者的70%左右**。

对一个准备在海外跑多实例服务的企业来说，这意味着什么？意味着你可以在同样的电力预算下，部署更多节点，从而获得更大的吞吐量。

### 训练任务表现

如果场景转向训练，差异就很明显了：

-   **A4000**：16GB显存，跑中等规模CV任务或小型Transformer时够用。
-   **A5000**：24GB显存，能支撑更大的batch size和更复杂的模型，训练效率比A4000高出20%左右（来源：NVIDIA开发者论坛）。
-   **RTX 4000** **Ada**：带宽受限，在训练场景下表现一般，更适合推理集群。

### 混合负载

如果企业既要训练又要推理，那A4000是折中的方案。而A5000则更适合已经形成稳定负载的团队。RTX 4000 Ada的最佳角色，则是作为推理集群的“前端算力单元”。

  


  


## 六、预算与性价比分析

  


## 海外云GPU租用价格走势

算力选择的核心，不只是跑得快，还要看“算得过”。很多企业在出海时最大的担忧是：GPU账单会不会失控？

根据2025年8月DigitalOcean官网定价：

-   **RTX 4000** **Ada** **：$0.76/小时**
-   **A4000：$0.76/小时**
-   **A5000：$1.38/小时**

  


相比AWS、GCP的同类GPU租用价格（通常比 DigitalOcean 高出30–50%），DigitalOcean在中端GPU上的确具有明显的性价比优势（来源：DigitalOcean官网，AWS EC2定价页面）。而相比Linode来讲，DigitalOcean又能提供更多GPU型号可供选择，因为Linode在同类型GPU中仅能提供RTX 4000 Ada。

  


在 DigitalOcean 的 GPU 云服务中，几款中端 GPU 型号的租用配置如下：

-   **RTX 4000** **Ada**

    -   按需价格：$0.76/小时
    -   vCPUs：8 核
    -   CPU 内存：32GB
    -   存储：500GB（自动扩展）

-   **NVIDIA A4000**

    -   按需价格：$0.76/小时
    -   vCPUs：8 核
    -   CPU 内存：45GB
    -   存储：50GB–2TB 可选

-   **NVIDIA A5000**

    -   按需价格：$1.38/小时
    -   vCPUs：8 核
    -   CPU 内存：45GB
    -   存储：50GB–2TB 可选

  


AWS、GCP、Azure虽然生态丰富，但价格偏高、架构复杂。对于希望快速上线、节省成本的中国AI企业，DigitalOcean GPU对比之下显得更灵活轻量。

DigitalOcean GPU的差异化优势：

-   **简单易用**：控制面板友好，学习成本低。
-   **透明定价**：避免AWS、GCP复杂的“隐藏费用”。
-   **全球网络**：覆盖欧美及东南亚，适合中国企业出海业务落地。

  


对于中国企业来说，最大的难题往往不是GPU本身，而是如何解决跨境支付、合规与本地化支持。[卓普云作为DigitalOcean中国区独家战略合作伙伴](https://www.aidroplet.com/product/gpu)，为出海企业提供中文技术支持和合规咨询，减少了技术团队在非核心问题上的消耗。而且，DigitalOcean 不仅支持信用卡，还支持支付宝、Paypal等支付方式，方便中国出海企业使用。

 


## 选型建议

回顾全文，我们可以给出一个简单但清晰的决策建议：

-   如果你是初创企业，业务重心在推理，选择 **RTX 4000** **Ada**。
-   如果你需要平衡训练与推理，选择 **A4000**。
-   如果你已经有稳定客户和规模化部署需求，选择 **A5000**。

对AI企业出海而言，GPU不仅是一个技术选择，更是一种商业决策。它关系到企业的试错节奏、现金流安全，以及未来半年到一年的技术迭代路径。

而在海外云GPU租用市场中，**DigitalOcean提供了一个兼具透明、简洁与性价比的选项**，这对于中国企业出海来说，意义非凡。

small_images-1.jpeg

thumbnail_images-1.jpeg

xsmall_images-1.jpeg

images-1.jpeg

DigitalOcean 上 RTX 4000 Ada、A4000 与 A5000 的性能与价格差异，结合海外云GPU租用场景，为中国AI企业出海提供性价比最佳的GPU选型指南。

DigitalOcean GPU 选型指南（三）：中端AI GPU性价比之王 RTX 4000 Ada、A4000、A5000

随着人工智能技术的飞速发展，无论是**AI** **推理**、大规模生成式AI应用，还是复杂的三维渲染、专业视频处理与虚拟桌面场景，都对GPU的性能提出了前所未有的要求。过去，大家热衷于追逐H100或H200等专为极致训练设计的超级卡皇，但对于绝大多数企业和开发者而言，更具性价比、能效比和显存容量的平衡型GPU才是理想之选。

在上一篇文章中，我们从AI训练需求的视角，对比了[DigitalOcean 平台上H100、H200与AMD MI300X/MI325X的服务器配置、GPU性能与价格](https://blog.aidroplet.com/tutorialsdo-h200-h100-mi300x-mi325x) 。

本文将深入探讨三款在 [DigitalOcean 云平台上备受关注的高性能 GPU](https://www.aidroplet.com/product/gpu)：**DigitalOcean L40s**、NVIDIA **RTX 6000** **Ada**与上一代旗舰**A6000**。我们将全面剖析它们的性能、定位与成本效益，尤其是在**GPU** **云服务**领域的表现。值得一提的是，这三款GPU均可在**DigitalOcean**上按小时租用，这无疑为我们提供了巨大的灵活性，无需一次性投入数万美元购买昂贵硬件。

## 定位与应用场景概述

要做出明智的硬件选择，首先需要明确每款GPU的核心定位与最适合的应用场景。

-   **NVIDIA L40s：** 作为为数据中心优化而生的GPU，**L40s**主攻AI推理、大规模生成式AI模型的快速响应与多路视频处理。其架构专为提升推理吞吐量而设计，是追求极致性价比与效率的AI工作负载首选。
-   **NVIDIA RTX 6000 Ada：** 这是一款真正的全能型工作站旗舰卡，它在AI推理与专业渲染之间实现了完美的平衡。无论是训练AI模型、进行复杂的3D渲染，还是运行CAD/CAE软件，**RTX 6000 Ada**都能提供顶级的性能与驱动优化支持。
-   **NVIDIA A6000：** 作为上一代Ampere架构的旗舰，**A6000**凭借其高达48GB的巨大显存容量，在今天依然具备强大价值。它特别适合处理超大场景加载、高分辨率渲染以及对显存有严苛要求的兼容性工作。

## 核心参数深度对比

为了更直观地展示这三款GPU的差异，我们整理了以下对比。这里的价格来自 **DigitalOcean** 云平台，该平台的价格相对其它一线云平台更加便宜，且无隐形费用。而且，在你的出站流量超出免费额度之后，DigitalOcean 的所有区域的出站流量费用均为0.01美元/GB，比绝大多数云平台的价格都要便宜。这对于 AI 推理业务来讲，可以节省大量成本。所以它提供了一个极具参考价值的**GPU** **云服务**成本视角。

-   **NVIDIA L40s**

    -   **架构:** Ada Lovelace
    -   **显存** **容量:** 48 GB GDDR6
    -   **CUDA** **核心数:** 18,176
    -   **Tensor** **Core (代):** 第4代（568）
    -   **单精度 / FP32 性能:** 91.6 TFLOPS
    -   **Tensor** **性能 (FP8):** 1,466 TFLOPS
    -   **功耗 (最大** **TDP** **):** 350 W
    -   **DigitalOcean 价格 ($/小时):** $1.57

-   **NVIDIA RTX 6000 Ada**

    -   **架构:** Ada Lovelace
    -   **显存** **容量:** 48 GB GDDR6
    -   **CUDA** **核心数:** 18,176
    -   **Tensor** **Core (代):** 第4代（568）
    -   **单精度 / FP32 性能:** 91.1 TFLOPS
    -   **Tensor** **性能 (FP8):** 1,457 TFLOPS
    -   **功耗 (最大** **TDP** **):** 300 W
    -   **DigitalOcean 价格 ($/小时):** $1.57

-   **NVIDIA A6000**

    -   **架构:** Ampere
    -   **显存** **容量:** 48 GB GDDR6
    -   **CUDA** **核心数:** 10,752
    -   **Tensor** **Core (代):** 第3代（336）
    -   **单精度 / FP32 性能:** 38.7 TFLOPS
    -   **Tensor** **性能 (** **FP16** **):** 309.7 TFLOPS
    -   **功耗 (最大** **TDP** **):** 300 W
    -   **DigitalOcean 价格 ($/小时):** $1.89

## 应用场景性能分析

单纯的参数对比并不能完全反映实际性能。现在我们将结合DigitalOcean的定价，分析它们在不同场景下的真实表现。

**AI** **推理与** **生成式AI**

-   **L40s**：L40s的优势在AI推理场景下被放大。借助第四代Tensor Core，其FP8吞吐量高达1466 TFLOPS。需要说明的是，Ampere架构的A6000并不支持原生FP8，只能使用FP16进行推理运算，因此在相同任务下效率明显偏低。即便如此，L40s在FP8推理任务上的算力仍接近A6000的5倍。考虑到DigitalOcean上L40s的价格仅为1.57美元/小时，它在高吞吐量推理业务上的成本效益几乎无人能敌。
-   **RTX 6000** **Ada**：性能与L40s非常接近，但其专为工作站场景优化的驱动和功能，使其在兼顾AI与专业图形工作流时更具优势。
-   **A6000**：尽管拥有48GB显存，但由于架构较旧，其仅支持FP16推理，Tensor性能为309.7 TFLOPS，在效率和能效比上都不及新的Ada Lovelace架构。

**3D渲染与实时可视化**

-   **RTX 6000** **Ada**：在大多数专业渲染应用（如Blender、V-Ray、OctaneRender等）中，RTX 6000 Ada凭借Ada Lovelace架构和专为工作站优化的驱动支持，往往能展现出最佳的渲染性能。
-   **L40s**：L40s的渲染性能与RTX 6000 Ada十分接近，在大规模云渲染任务中甚至更具性价比。但在部分特定的专业渲染软件中，由于驱动适配的差异，可能略逊于RTX 6000 Ada。
-   **A6000**：48GB显存让A6000仍能轻松处理超大、超复杂的三维场景，这在高精度建模或影视后期制作中有价值。然而在纯粹的渲染速度上，它已明显落后于新一代Ada架构GPU。

**视频处理与虚拟桌面（** **VDI** **）**

-   **L40s**：凭借新一代NVENC/NVDEC硬件编码器以及强大的Tensor Core，L40s在多路视频处理、AI驱动的视频生成和超分辨率任务中具备明显优势。对云端视频推理服务来说，它是高性能且高性价比的选择。
-   **RTX 6000** **Ada**：在VDI场景中，其稳定的性能和全面的驱动优化为多用户并发提供了更好的一致性和流畅性，尤其适合需要高质量图形渲染与远程交互并重的企业级应用。
-   **A6000**：依然适合需要加载大量纹理和数据的VDI应用，凭借大显存能维持一定优势。但在能效比与综合性能方面，已经不及新一代的Ada系列产品。

## 选型建议

在DigitalOcean的GPU云服务平台上，这三款GPU各具特色，为不同需求的用户提供了灵活的选择。

-   **AI** **推理核心开发者**：在DigitalOcean目前提供的GPU选项中，L40s凭借强大的FP8算力与合理的定价，成为大规模推理任务的高性价比首选。
-   **专业渲染与图形设计者**：RTX 6000 Ada在兼顾AI计算与图形工作流方面展现出最佳平衡，其顶级的渲染性能与成熟的驱动生态，使其特别适合对图形精度和稳定性有严格要求的用户。
-   **显存** **敏感型工作者**：虽然在架构与效率上落后于新一代产品，但A6000凭借48GB显存，在需要加载超大模型或复杂场景时依然有其应用价值，尤其适合预算有限但显存需求突出的任务。

如果您正在寻找一种灵活、可扩展且无需硬件维护的方式来驱动您的AI或图形工作流，强烈建议您在**DigitalOcean**上探索这三款GPU Droplets。按小时计费的模式让您能够以极低的门槛启动项目，并根据需求轻松扩容。现在就访问**DigitalOcean**，开始您的GPU云之旅吧！如果需要更进一步关于部署、配置等建议，可咨询[DigitalOcean 中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。

large_haiwaiyunfuwuqi-tuijian.jpg

medium_haiwaiyunfuwuqi-tuijian.jpg

small_haiwaiyunfuwuqi-tuijian.jpg

thumbnail_haiwaiyunfuwuqi-tuijian.jpg

xsmall_haiwaiyunfuwuqi-tuijian.jpg

haiwaiyunfuwuqi-tuijian.jpg

DigitalOcean上适合AI推理与工作站的GPU服务器，以及价格

DigitalOcean GPU 选型指南（二）：AI 推理最佳之选，L40s、RTX 6000 Ada与A6000全解析

过去几年间，以大型语言模型（LLM）和生成式 AI 为代表的新浪潮席卷全球，对算力基础设施提出了前所未有的严苛挑战。从 GPT-4 到 Llama 3，参数量级的飞跃不仅意味着计算复杂度的几何级数增长，更直接推动了对高性能 GPU 的需求井喷。然而，对于大多数创新型企业和科研团队而言，自建 GPU 服务器集群不仅面临高昂的初始投资、漫长的采购周期，还要承担复杂的运维和折旧成本。

正因如此，像 DigitalOcean 这类按需、按小时付费的 GPU 云服务，正成为解决算力瓶颈的关键。它为开发者提供了一个无需承担重资产风险、灵活且高性能的计算平台。

目前，[DigitalOcean提供了超过18种GPU型号的Droplet云服务器](https://www.aidroplet.com/product/gpu)。有适合大语言模型训练、高性能AI推理的GPU，也有中端 GPU 性价比之王，也有一些更加便宜的GPU型号。我们将分为几篇文章，给大家介绍这些GPU的规格、价格以及适合的业务场景和预算。

本文将聚焦于 DigitalOcean 平台提供的顶级 AI 训练 GPU——NVIDIA H100、H200 以及 AMD MI300X/MI325X，深入对比它们的性能、价格与适用场景，帮助你做出最明智的选型决策。

> 注：文章中的数据基于2025年8月DigitalOcean官网信息，最终价格与优惠信息请最终咨询[Digitalocean中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。

### AI 训练旗舰 GPU 概览

#### NVIDIA H100

NVIDIA H100 是当前 AI 训练市场的现役旗舰，基于 Hopper 架构打造。它不仅仅是性能上的简单提升，更是为大模型时代量身定制的 GPU。 **核心优势**：H100 引入了**第四代** **Tensor** **Core** 和 **Transformer Engine**。其中，Transformer Engine 能利用 FP8 精度动态加速训练，在保证模型精度不降低的前提下，显著提升训练速度。在当前的大模型训练竞赛中，显存并非唯一的性能指标，但它往往决定了你能否在一台机器上完成端到端的训练流程。H100 的 80GB HBM3 显存使其足以胜任绝大多数中大型 LLM 的训练与微调任务。

#### NVIDIA H200

H200 可视为 H100 的全面升级版，其核心目标是进一步提升显存容量与带宽。 **核心优势**：H200 最核心的亮点在于其搭载了 **141** **GB** **的 HBM3e 显存**，并提供了高达 4.8 TB/s 的显存带宽。相比 H100，H200 在带宽与显存容量上的提升，使其在处理 1T 级别参数模型时的吞吐量提升可达 15% 至 20% [NVIDIA, 2024]。对于需要处理超大上下文窗口、或者进行大规模参数预训练任务的团队来说，H200 毫无疑问是性能的巅峰之选。

#### AMD Instinct MI300X

作为 AMD 在 AI 领域的重磅产品，MI300X 的策略是通过强大的显存容量来抢占市场。 **核心优势**：MI300X 最大的卖点是其高达 **192** **GB** **的 HBM3 显存**，这在单卡上几乎是前所未有的容量。对于预算有限但追求显存极限的项目，AMD MI300X（8x）在性价比上几乎无可匹敌。其庞大的显存容量使其特别适用于需要处理超大数据集、单卡部署大规模模型推理，或进行显存密集型训练任务的场景。

#### AMD Instinct MI325X

MI325X 是 MI300X 的新一代产品，是当前显存容量的巅峰代表。 **核心优势**：MI325X 将单卡显存容量推至了惊人的 **256GB HBM3e**，这打破了当前所有硬件的显存上限。对于寻求极致显存、进行突破性前沿科研，或者尝试训练超大规模、参数量极高的模型而言，MI325X 提供了几乎无限的可能。

### 核心参数与价格深度对比

为了让大家更直观地理解 DigitalOcean 提供的顶级 GPU Droplet 配置间的差异，我们基于官方数据，对每款产品的核心参数进行了详细梳理。以下列表重点展示了硬件配置，而价格信息可能随市场变动，请以 DigitalOcean 官网实时数据为准，或者直接咨询[DigitalOcean中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。

#### NVIDIA H100 单卡机型配置

-   **核心架构**：Hopper

-   **GPU** **显存**：80 GB

-   **Droplet** **内存**：240 GiB

-   **Droplet** **vCPU**：20 核

-   **本地存储**：720 GiB NVMe 启动盘，5 TiB NVMe 临时盘

-   **价格**：

    -   **单卡**：按需 $3.39/小时
    -   **8卡集群**：按需 $23.92/小时

-   **典型适用场景**：中大型 LLM 训练与微调，尤其适合需要稳定、成熟生态的项目。8卡集群方案是进行超大规模 LLM 预训练和高性能计算 (HPC) 的理想选择。

#### NVIDIA H200 单卡机型配置

-   **核心架构**：Hopper

-   **GPU** **显存**：141 GB

-   **Droplet** **内存**：240 GiB

-   **Droplet** **vCPU**：24 核

-   **本地存储**：720 GiB NVMe 启动盘，5 TiB NVMe 临时盘

-   **价格**：

    -   **单卡**：按需 $3.44/小时
    -   **8卡集群**：按需 $27.52/小时

-   **典型适用场景**：对显存和带宽要求极高的中大型 LLM 训练，突破性 LLM 预训练，以及前沿科研项目。H200 在显存和带宽上的显著提升，使其在处理大规模模型时能大幅缩短训练时间，从而在**AI 训练成本**上带来潜在优势。

#### AMD Instinct MI300X 单卡机型配置

-   **核心架构**：CDNA 3™

-   **GPU** **显存**：192 GB

-   **Droplet** **内存**：240 GiB

-   **Droplet** **vCPU**：20 核

-   **本地存储**：720 GiB NVMe 启动盘，5 TiB NVMe 临时盘

-   **价格**：

    -   **单卡**：按需 $1.99/小时
    -   **8卡集群**：按需 $15.92/小时

-   **典型适用场景**：超大模型单卡推理与训练，显存密集型大规模计算任务。AMD MI300X 的最大优势在于其极具竞争力的价格和巨大的显存容量，对于预算有限但追求显存极限的项目，其**性价比**几乎无可匹敌。

#### AMD Instinct MI325X 单卡机型配置

-   **核心架构**：CDNA 3™

-   **GPU** **显存**：256 GB

-   **Droplet** **内存**：164 GiB

-   **Droplet** **vCPU**：20 核

-   **本地存储**：720 GiB NVMe 启动盘，5 TiB NVMe 临时盘

-   **价格**：

    -   **8卡集群**：需联系[卓普云](https://www.aidroplet.com/)获取具体报价

-   **典型适用场景**：需要打破显存上限、进行前沿研究和超大规模模型训练的客户。MI325X 将单卡显存容量推至了惊人的 256GB，是当前显存容量的巅峰代表。

#### 价格与性能分析

-   **H100 vs H200**：H200 的价格略高于 H100，但其显存和带宽的提升能带来更显著的性能优势，特别是在处理大型模型时，可显著缩短训练周期，降低总体训练成本。
-   **NVIDIA vs** **AMD**：AMD MI300X 在价格上展现出强大的竞争力，尤其是在显存密集型任务上，其高显存容量与低成本的结合，使其成为追求高性价比的理想选择。
-   **单卡 vs 8卡集群**：对于绝大多数需要进行大规模训练的场景，**多卡集群**是更高效的选择。从价格上看，DigitalOcean 的 8 卡集群方案提供了更高的性价比，例如 H100x8 的单卡小时成本低于 H100 单卡，这是因为多卡集群在硬件和网络连接上经过了优化，能够提供更高的整体吞吐量。

### 如何根据项目需求进行精准选型？

在为 AI 训练项目选择 GPU 云服务时，单纯看型号和显存往往不足以做出最佳决策。在做GPU选型中遇到难题，也可以咨询[DigitalOcean中国区独家战略合作伙伴卓普云](https://www.aidroplet.com/)的技术专家。

### 1. 明确模型规模与任务类型

-   **小于 70B 参数的模型**：多用于企业内部定制化微调、行业垂直领域应用，显存需求相对较低，H100 单卡或双卡即可胜任，且生态工具链成熟。
-   **70B–200B 参数的模型**：进入大模型预训练或全量微调阶段，显存与带宽成为瓶颈，H200 或 MI300X 的高显存配置可减少梯度累积轮数，提高吞吐效率。
-   **200B+ 参数的模型**：需使用多卡甚至多节点集群，显存利用率和 NVLink/Infinity Fabric 带宽将直接影响训练时间，推荐 H200×8 或 MI325X×8。

> 在当前的大模型训练竞赛中，显存并非唯一的性能指标，但它往往决定了你能否在一台机器上完成端到端的训练流程。

### 2. 预算与时间窗口的权衡

-   **高预算 & 紧迫时间表**：选择 H200 (8×) 或 H100 (8×)，单轮训练可显著缩短迭代时间，减少项目整体周期。
-   **预算有限但需高** **显存**：MI300X (8×) 以较低的每小时成本提供 1.5TB 显存，尤其适合长周期训练任务，在总成本控制上优势明显。
-   **探索性研发或概念验证（** **PoC** **）** ：可先在单卡 H100/H200 上完成小规模训练验证，待算法与数据集确定后再迁移至多卡集群。

### 3. 决策矩阵示例

-   **极致性能优先**：H200 (8×) → 适合时间敏感的超大规模训练
-   **显存** **容量优先**：MI325X (8×) → 满足 2TB 显存极限需求
-   **性价比优先**：MI300X (8×) → 长周期训练或显存密集型任务
-   **生态与稳定性优先**：H100 系列 → 工具链与社区支持成熟

### 你的 AI 训练旗舰GPU，就在 DigitalOcean

总而言之，DigitalOcean 提供了从 NVIDIA 的 H100、H200，到 AMD 的 MI300X、MI325X 的全方位顶级 GPU 选项，满足了从追求极致性能到追求高性价比的不同需求。无论你的项目规模如何，总能在这里找到最适合你的 AI 训练解决方案。

现在，是时候根据你的项目需求，在 DigitalOcean 平台上选择最适合你的 GPU Droplet，开启你的 AI 训练之旅了。**如果希望抢定GPU资源，或者在选型中遇到困难，可联系[DigitalOcean中国区独家战略合作伙伴卓普云aidroplet.com](https://www.aidroplet.com/)。**

large_images-8-2.png

medium_images-8-2.png

small_images-8-2.png

thumbnail_images-8-2.png

images-8-2.png

解析DigitalOcean上的H100、H200与MI300X/MI325X GPU服务器

AI 训练与游戏出海的新选择：比 AWS EFS 更便宜、更透明的企业级云存储来了

产品更新

简化工作流：DigitalOcean App Platform 正式支持环境管理

DigitalOcean GPU 与 K8S 新增可观测性指标，实时掌控 AI 性能

DigitalOcean Gradient™ 平台上线 fal 四款多模态 AI 模型：快速生成图像与音频

NVIDIA HGX H100 GPU 服务器现已在 DigitalOcean 欧洲数据中心上线

教程

AI 训练与游戏出海的新选择：比 AWS EFS 更便宜、更透明的企业级云存储来了

教程：利用智源悟界Emu3.5，生成可视化任务指南

基于AI Agent模板：快速生成 SQL 测试数据

零门槛部署：在AMD MI300X上极速部署运行GPT-OSS 120B全流程实践

新闻

DigitalOcean 开发者沙龙上海站落幕：五大硬核议题拆解 AIGC 落地的真实挑战

DigitalOcean 开发者沙龙上海站报名啦！与AI 技术专家面对面聊实践

每年9万人参加的开源盛会来了！DigitalOcean Hacktoberfest 报名开启！

卓普云携手DigitalOcean亮相香港Consensus大会：以技术赋能全球Web3生态