在笔记本里跑通只是开始。上线要补的是模型之外的一整套:托管、身份、状态、重试、成本、评估和审批。
先记住这几点
- 模型大概只占生产级 Agent 的两成,剩下八成是运维骨架。
- 三种部署:自己进程里运行、托管服务、用工作流编排多个 Agent。
- 生命周期:创建、版本、部署、评估、观测、下线。
- 扩展要考虑:模型路由、缓存、并发、无状态设计。
- 成本靠选对模型、路由和评估关卡控制。
展开说说
原型 vs 生产。
| 关注点 | 原型 | 生产 |
|---|---|---|
| 运行 | 笔记本里 | 托管服务,有版本和发布 |
| 身份 | 你自己的登录 | 受限权限的托管身份 |
| 状态 | 在内存里,重启就没 | 存到外部 |
| 失败 | 你看报错 | 重试、备选、告警 |
| 成本 | '几分钱' | 逐请求统计、缓存、预算 |
| 质量 | 眼看 | 每次发布前自动评估 |
| 信任 | 每步你点头 | 策略加人工审批风险动作 |
三种部署。 自己进程里:完全可控,但扩展和稳定要自己管。托管服务:Agent 作为资源注册到平台,平台管会话、内容安全和权限。工作流:把多个 Agent 编排成带分支、审批、断点续跑的图。
省钱的办法。 简单任务用小模型,复杂的才用大模型;重复内容加缓存;发布前用评估关卡挡掉变差的版本。
![]()
图片来自课程仓库。
动手试试
对照上面的表,给你正在做的一个 Agent 打钩:哪几行现在还停留在'原型'那一列?
让 Agent 带你学
把下面这段交给你的 Agent(Claude Code、ChatGPT、Gemini 都行),它会像导师一样一步步带你。
参考
- 内容改写自 microsoft/ai-agents-for-beginners 的第 16 课(
16-deploying-scalable-agents),原项目为 MIT 许可证。 - 想看原版和完整代码:16-deploying-scalable-agents
- 全部课程见 Agent 课程路线图


评论(0)
还没有评论,来说第一句。