第 30 章：pods — 为什么这个仓库还要管 GPU

来源：《pi 的设计艺术》第 29 章：pods — 为什么这个仓库还要管 GPU

阅读日期：2026-09-14。书中版本基线：章首限定 v0.66.1 历史快照 c779c14e；称包于 2026-04-30 移出且无官方继任仓库。 本条为原创阅读笔记，未独立核验 pi 源码。

编号说明：本条按在线目录第 30 章编号；原文标题仍为第 29 章，文件名沿用旧编号。

设计问题与机制

历史 pods 封装 GPU 机器配置、权重及 vLLM 启停，为 Agent 提供模型端点。它复用 SSH/SCP，检查远程环境并保存配置；模型实例保持独立运行，参数可用预设或覆盖。

连接 Agent 的边界是兼容 API 地址与模型配置，不是 pods 注册新 Provider。供给和消费通过端点契约连接，循环无需了解 GPU 配置过程。

取舍与版本边界

减少部署步骤，也增加权重、显存、进程及远程连接维护。该工具没有提供多机调度、自动扩缩容和完整健康管理。章首移出说明与章尾“近期变化”并存，按历史案例保存。原文费用比较没有本次价格或负载核验，不保留为成本结论。

工程应用检查（独立推导）

端点启动不等于能够替换现有模型；应验证流式响应、工具调用、上下文限制、错误和负载表现。上线判断需要连接验证、模型能力测试及实际任务通过。个人博客先确认真实吞吐和费用需求，再考虑自行管理 GPU。