#serverless inference

DeepSeek-V4.1-Flash 已上线 DigitalOcean AI 推理平台，支持 100 万 Token 上下文、原生多模态和可调推理强度，并通过更小 KV Cache 降低 Agent 长上下文成本。

GLM-5.3-Flash 上线 DigitalOcean 推理引擎：3200 亿参数，每 Token 仅激活 180 亿，输入价格低至每百万 0.15 美元，比上代降约 90%，适合 Agent 与多模态任务。

DigitalOcean批量推理实战：25万条记录处理成本仅7.04美元，较无服务器推理节省50%，零失败完成。对比OpenAI、Anthropic、AWS Bedrock四家方案，含完整实测数据与8条避坑经验，附开源代码，帮你选对大规模LLM推理平台。

在AI支出暴涨背景下，DigitalOcean推理路由器新增缓存感知能力，通过模型亲和性与切换预算保留热缓存价值，避免因模型切换增加成本与延迟，助力企业平衡成本、质量与延迟。

Qwen3.8-2.4T-A95B 已上线 DigitalOcean 推理引擎。本文从模型架构、性能实测、上下文窗口、工具调用、批量推理到价格进行解析，并介绍其在无服务器推理与多模型路由中的使用方式。

Qwen3.8-2.4T-A95B 已上线 DigitalOcean 推理云，支持 100 万 Token 上下文，并可通过统一 API 接入多款模型，结合推理路由器按任务灵活分配模型，兼顾复杂任务能力与整体推理成本。

DigitalOcean Serverless Inference 下调 7 款主流模型价格，覆盖 DeepSeek、Qwen、GLM、Llama、Nemotron 和 MiMo，最高降幅达到 50%。

Moonshot AI 最强模型 Kimi K3 已上线 DigitalOcean 无服务器推理服务。作为首个开源的 3T 级模型，Kimi K3 拥有 100 万 Token 上下文窗口、原生多模态能力和长时自主 Agent 工作负载

Claude Opus 5登陆DigitalOcean无服务器推理，专为Agent场景，性能媲美Fable 5，支持按量计费与多模型统一调用。

一半成本击败 Fable 5：DigitalOcean 推理引擎上线模型合成工具，让开源模型组合在深度研究任务上质量更高、成本更低。

GPT-5.6 系列模型 Sol（旗舰版）、Terra（均衡版）、Luna（轻量版）已上线 DigitalOcean 无服务器推理服务。三款模型覆盖顶尖性能、均衡性价比与极速响应，配合 DigitalOcean 的按量计费、内网部署、多模型生态与智能推理路由器，大幅降低 AI 应用落地成本。了解 Sol vs Terra vs Luna 的详细对比、价格与适用场景。

GLM-5.2 已上线 DigitalOcean 推理平台，744B MoE 架构 + 1M 上下文，编码评测领先 Sonnet 4.6，价格仅约一半。配合推理路由器，进一步优化多模型调用成本。

本文介绍DigitalOcean推出的原生LLM自动化评测功能，支持基于自有数据跑分，助技术团队上线前精准避坑。

Anthropic地表最强Fable 5登陆DigitalOcean！性能封神，1天搞定2个月代码迁移！

DigitalOcean 模型评估功能，帮你为AI 应用评估模型成本、延迟与质量。

VS Code + Claude Code 官方插件 + DO 国内直连，免翻墙不封号，直接使用Claude Opus 4.7。