方案怎么定、怎么上线
智能体的价值不在模型多强，而在它能不能拿到您的业务数据、能不能真的办成事。
能做什么
- 接待咨询：7×24 回答产品、价格、政策类问题
- 查业务数据：对接订单、库存、排班、会员系统
- 办业务：预约、下单、开票、改地址、查进度
- 转人工：识别到高意向或情绪问题自动交给人
- 留资跟进：自动记录客户需求并写入 CRM
上线五步
- 场景筛选：挑 1–2 个高频、标准化、有数据支撑的场景先做
- 知识库搭建：整理产品资料、制度文件、历史问答
- 接口对接：把智能体接到您的订单、会员、工单系统
- 灰度测试：内部先用两周，人工兜底并持续纠正
- 正式上线：接入网站、公众号、小程序、企微或钉钉
标准问答型智能体 2–4 周；带业务系统对接 4–10 周
按场景与接口数量核算，通常 1.5 万起，复杂对接另计
人工咨询量下降 40%–70%，夜间与节假日不漏单
上线后要盯的三件事
智能体不是一次交付就完事，前两个月要持续调。
- 命中率：答不上的问题要补进知识库，每周复盘一次
- 转人工率：过高说明知识库不全，过低要警惕答错
- 转化率：看有多少对话最终留下联系方式或下单
数据不出内网，才敢把核心资料交给 AI
下面是我们做私有化部署时的实际选型与成本参考，按中小企业常见规模给出，不是厂商宣传页上的理想值。
什么情况该做私有化
- 客户资料、病历、合同、财务数据不能外传
- 行业有数据留存与合规要求（金融、医疗、政务）
- 调用量很大，公有云按 token 计费已经不划算
- 需要模型懂内部术语，愿意自己持续调优
如果只是普通客服问答、调用量不大，用公有云 API 更省钱。这一点我们会如实告诉您。
四种部署形态
- 单机 GPU：一台带显卡的服务器，适合 10–50 人使用
- 一体机：厂商预装好的设备，开箱即用，维护简单
- 内网集群：多卡多机，支撑全公司并发
- 混合模式：敏感数据本地跑，通用问答走公有云
成本参考（中小企业口径）
| 规模 | 典型硬件 | 模型选择 | 适用人数 | 一次性投入 | 年运维 |
|---|---|---|---|---|---|
| 入门级 | 单卡 24G 显存工作站 如 RTX 4090 / L4 |
7B–14B 量化模型 Qwen、DeepSeek 蒸馏版 |
10–30 人 | 3–6 万 | 0.5–1 万 |
| 标准级 | 双卡 48G 服务器 如 2×L20 / 2×4090 |
32B 级模型 效果明显好于 7B |
30–100 人 | 8–15 万 | 1.5–3 万 |
| 进阶级 | 4 卡 80G 服务器 如 4×A100/H20 |
70B 级模型 | 100–300 人 | 30–60 万 | 5–10 万 |
| 轻量替代 | 不买硬件，公有云 API | 按需调用 | 不限 | 0 | 按用量，几百到几千/月 |
以上为硬件 + 部署实施 + 知识库搭建的合计参考，不含后续定制开发。价格随显卡行情波动，以实际报价为准。
同样的钱能买到什么效果
3 万元级：能跑 7B–14B 模型，日常问答、文档摘要、写材料够用，复杂推理和代码能力弱于公有云旗舰模型。
10 万元级
32B 级模型，接近很多公有云中档模型的水平，适合全公司办公助手、合同审阅、客服质检。
30 万元以上
70B 级模型，接近旗舰级开源模型表现，适合对准确率要求高的专业场景，但硬件与运维成本显著上升。
部署交付包含什么
- 环境评估：现有服务器、网络、安全策略是否满足
- 模型选型与本地化：按您的场景选模型并做量化压缩
- 推理服务部署：提供 OpenAI 兼容接口，方便业务系统接入
- 知识库接入：把制度、产品资料、历史文档灌进去
- 权限与审计：谁能用、用了什么、留痕可查
- 培训与交接：给 IT 一份运维手册，给员工一次使用培训
让每个员工都有一个 AI 助理
智能化全员办公不是给每个人发个账号，而是把 AI 嵌进他们每天要做的事里。
全员办公场景
- 写材料：周报、方案、通知、投标文件初稿
- 查制度：问一句就能找到公司制度原文与出处
- 做表格：上传 Excel 让它算、让它做图、让它写公式
- 审合同：标出风险条款，对比标准模板差异
- 会议纪要：录音转写、提炼待办、自动分派
- 翻译润色：外贸邮件、双语资料
智能化 AI 客服
- 多渠道统一：网站、公众号、小程序、企微同一个大脑
- 懂业务：接订单系统，能查物流、改地址、约时间
- 会留资：识别意向后主动要联系方式，直接进 CRM
- 能接管：复杂问题无缝转人工，带上下文
- 可复盘：每个对话都可回看，问题自动聚类
- 不胡答：回答只基于您的资料，答不上就转人工
推行节奏：先试点，再铺开
选 10 个愿意试的员工，从写材料、查制度两个场景切入，收集真实问题
补齐知识库，接入 OA/企微/钉钉，把常用流程做成固定指令
全员开放，按部门配不同知识库与权限，开始统计节省的工时
常见踩坑（我们帮您绕过去）
- 一上来就全员开放，结果没人用 —— 要先有"非用它不可"的场景
- 把 AI 当搜索引擎，答错了就失去信任 —— 必须限定知识范围并标注出处
- 没有权限隔离，员工能看到不该看的资料 —— 知识库要按部门分区
- 只看调用量不看效果 —— 要用"节省工时"和"错误率"两个指标衡量
客户最常问的几件事
本地部署大模型要多少钱？
中小企业常见规模下，入门级（10–30 人，7B–14B 模型）一次性投入约 3–6 万元，标准级（30–100 人，32B 模型）约 8–15 万元，均含硬件、部署实施与知识库搭建。不含后续定制开发。
私有化部署和直接用公有云 API，哪个划算？
调用量小、数据不敏感时，公有云 API 更划算，几百到几千元每月即可。只有数据不能外传、或调用量很大时，私有化才在经济上成立。我们会按您的实际情况给建议，不会硬推贵的方案。
AI 客服会不会答错话得罪客户？
我们限定它只依据您的资料回答，答不上就转人工，并且设置敏感词与兜底话术。上线前会做两周灰度测试，人工兜底并持续纠正。
AI 智能体多久能上线？
标准问答型 2–4 周；需要对接订单、会员、工单等业务系统的，4–10 周。
模型需要多久更新一次？
开源模型迭代很快，建议每 6–12 个月评估一次是否需要换模型。知识库则应该持续更新，我们提供运维支持。
我们的数据会被拿去训练吗？
不会。私有化部署的模型完全在您自己的服务器上运行，数据不出内网。即使是公有云 API 方案，主流服务商也默认不使用企业数据训练模型，可在合同中约定。
用 AI 生成一版属于您的方案
描述您的场景，30 秒拿到功能模块、实施阶段、周期与预算区间。