卓普云
#AI

#AI

汇总 AI 推理、大模型 API、RAG、模型部署和生成式 AI 应用文章,覆盖云端开发、性能优化与基础设施选型。

62 篇文章
最近更新:2026/1/16

全部文章

技术解码:Character.ai 如何实现大模型实时推理性能 2 倍提升
精选
教程

技术解码:Character.ai 如何实现大模型实时推理性能 2 倍提升

Character.ai与DigitalOcean、AMD深度协同,通过从DP1/TP8/EP8到DP2/TP4/EP4的配置演进及FP8等优化,实现推理吞吐量翻倍,达成千万美元级合作。

2026年1月16日
DigitalOcean 赋能 Character.ai:推理吞吐量翻倍,成本直降 50%
精选
新闻

DigitalOcean 赋能 Character.ai:推理吞吐量翻倍,成本直降 50%

DigitalOcean与AMD合作,通过优化推理云平台使Character.ai的推理吞吐量翻倍,延迟不变的同时令牌成本降低50%。

2026年1月15日

相关标签