自托管大模型 + Agent 的完整方案
一、完整方案要解决什么 「自托管大模型 + Agent」不是单点安装,而是一条可运维链路:模型推理 → 统一 API → Agent 运行时 → 工具与知识库 → 观测与权限。目标是:数据尽量不出域,成本可控,能力可扩展。 二、参考架构 用户 / 内部系统 │ ▼ OpenWebUI(可选,人工对话与评测) │ ▼ A...
张剑的个人博客 | PaiShouBa
我是张剑,AI 工程师 / 开源开发者。专注 AI Agent 工程化落地:从框架选型到生产部署,记录真实项目中的踩坑与方案。
AI Agent & 智能体 · 工程实践 & 部署 · 开源项目 & 工具
自研项目、工具箱与开源贡献,品牌展示区