# 聊天机器人还是 AI 智能体？

位于匈牙利布达佩斯的软件开发公司 Mesterséges Intelligencia Központ Kft. 认为，如果任务是回答问题，就需要聊天机器人；如果系统还必须执行查询、录入、预订等操作步骤，就需要 AI 智能体。

> **要点：**聊天机器人只负责说，智能体还会做。最好从能完成任务的最简单方案入手，只在步骤顺序无法事先写清的地方才改用智能体；而智能体应当以狭窄的权限工作，记录日志，并在重要步骤之前经过人工审批。

## 这些术语是什么意思？

市场上对“聊天机器人”和“AI 智能体”这两个词有各种各样的用法。为了在做决策时谈论的是同一件事，我们区分五种方案，从最简单的到最自主的。

### 基于规则的聊天机器人

它遵循预先编写好的脚本：由按钮、关键词和决策树构成。它完全可预测，不调用语言模型，所说的正是写进去的内容。但它只能理解事先为它准备好的内容：换一种说法提出的问题就会落在脚本之外，每个新话题都必须手工加进去。

### 基于语言模型的聊天机器人

大语言模型（large language model，LLM）能理解自由文本形式的问题，并用自然语言作答，也能应对错别字和日常说法。但如果它只依赖模型的通用知识，就可能对公司给出自信却错误的回答，因此在企业应用中，我们几乎总是把它与企业自己的资料绑定。

### 依据文档作答的聊天机器人

系统先针对问题在企业的文档（常见问题、规章制度、手册）中找到相关段落，模型再据此作答，并注明出处。这种方法叫作 RAG（retrieval-augmented generation，检索增强生成）；关于它的工作原理、匈牙利语以及数据的存储，请见[基于企业自有文档的 AI（RAG）](https://www.mestersegesintelligenciakozpont.hu/zh/knowledge-base/ai-on-company-documents-rag)一文。

### AI 工作流

Anthropic 的[关于智能体的指南](https://www.anthropic.com/engineering/building-effective-agents)把工作流（workflow）定义为这样一种系统：语言模型和工具由预先编写的代码路径来编排。示例：收到的邮件 → 分类 → 提取数据 → 在 CRM 中生成回复草稿。步骤的顺序是固定的，模型在每一步完成一项界定清楚的语言任务。许多企业需求实际上就是这样的工作流，而不是智能体。

### AI 智能体

同一份指南把智能体描述为这样一种系统：由语言模型自己主导自身的流程和对工具的使用。根据 [OpenAI 的文档](https://developers.openai.com/api/docs/guides/agents)，智能体借助工具规划并完成任务，并在各个步骤之间保持上下文。智能体接收一个目标，例如“请登记这条投诉，并给客户发送确认信息”，然后自己决定通过哪些步骤来实现：查询订单、核查保修、登记该事项、撰写邮件。工具并不是由模型来运行的：根据 [Google Gemini 的文档](https://ai.google.dev/gemini-api/docs/function-calling)，模型本身并不执行函数；根据 [Anthropic](https://platform.claude.com/docs/en/agents-and-tools/tool-use/overview) 的说明，自有工具由应用程序来执行。模型只是请求执行某项操作，由我们的代码来执行，而允许做什么，正是在那里决定的。

Anthropic 的建议很简单：寻找尽可能简单的方案，只在必要时才增加复杂性。按照该指南的说法，智能体适合开放式问题，即难以甚至无法预先判断需要多少步骤的问题；而智能体系统往往以延迟和成本为代价，换取更好的任务完成效果。

## 对比一览表

表中，基于语言模型的聊天机器人以其依据文档作答的形式出现，因为在企业应用中它几乎总是这样构建的。

| 要素 | 基于规则的聊天机器人 | 依据文档作答的聊天机器人 | AI 工作流 | AI 智能体 |
|---|---|---|---|---|
| 做什么 | 遵循预先编写的脚本 | 依据企业的资料作答 | 执行固定的步骤序列，其中包含语言任务 | 接收目标，并自己选择步骤 |
| 能理解什么 | 事先准备好的关键词和按钮 | 自由文本 | 进入流程的文本 | 自由文本和工具返回的结果 |
| 能访问什么 | 脚本 | 知识库 | 为各个步骤指定的系统 | 提供给它的工具 |
| 可预测性 | 完全可预测 | 高（如果注明出处） | 高 | 较低，需要严格的限制 |
| 主要风险 | 僵化，许多问题落在脚本之外 | 错误或过时的回答 | 某一步骤中提取出错 | 操作错误或过多，错误不断累积 |
| 管控 | 维护脚本 | 注明出处、“我不知道”、转交给工作人员 | 逐步检查、审批 | 权限、审批、日志、限制 |
| 适合的情况 | 问题少且界定清楚 | 问题多、文档也多 | 流程的步骤可以事先写清 | 步骤的数量和顺序无法预见 |

界限并不分明：一个用单个只读工具查询订单状态的聊天机器人，已经朝智能体迈出了一步，但风险仍然很低。决定性的问题始终是系统被允许做什么，而不是我们怎么称呼它。

## 哪种方案适合哪里？

### 客户服务

对于配送、付款、保修、营业时间这类常见问题，依据文档作答的聊天机器人是好的起点，一天中的任何时段都能工作，遇到解决不了的问题时转交给工作人员。对于订单状态，一次只读查询就够了。如果机器人还要写入（登记投诉、发起退款），就需要智能体能力，并且在涉及资金的步骤之前要经过审批。

### 销售

机器人根据商品目录推荐商品，整理询价请求，预约时间，并把潜在客户登记到 CRM 中。预约和登记属于工具使用，因此是智能体要素；但价格、折扣和期限最好排除在机器人的职权范围之外，交由工作人员负责。

### 内部服务台

对于人力资源和 IT 方面的问题、规章制度和工作指引，依据文档作答的聊天机器人是自然的选择，它还能帮助新同事熟悉工作。这里的主要问题是权限：机器人只能依据提问的同事本人也能打开的文档作答。开一张工单或申请访问权限，就已经可以交给一个工具集很窄的智能体了。

### 后台业务

处理发票、订单和邮件通常属于 AI 工作流，因为步骤是事先已知的：提取、比对、录入、例外情况交给工作人员。在案例差异很大的地方才适合使用智能体，例如调查一项需要从多个系统收集数据的投诉。关于跨越多个系统的自动化，我们在[流程自动化](https://www.mestersegesintelligenciakozpont.hu/zh/services/process-automation)页面中有介绍；关于集成模式（API、Webhook、函数调用、MCP），请见[如何用人工智能连接企业系统？](https://www.mestersegesintelligenciakozpont.hu/zh/knowledge-base/connecting-business-systems-with-ai)一文。

## 智能体的风险与管控措施

智能体之所以有用，是因为它会行动，而这也正是它的风险所在。Anthropic 的指南把更高的成本和错误不断累积的可能性列为智能体自主性的代价，并建议在隔离的（sandbox，沙箱）环境中进行充分测试，同时设置适当的防护措施。OWASP GenAI Security Project 的风险清单为[过度代理](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/)（Excessive Agency）列出了三个原因：多余的功能、过宽的权限和过度的自主性。因此，我们会内置以下管控措施：

- **工具集要窄：**智能体只获得完成其任务所需的工具；客服智能体不需要删除任何东西。
- **最小权限：**尽可能只给只读权限；操作应以用户本人的权限运行，而不是使用一个能访问一切的服务账户。
- **在目标系统中检查：**每个请求还要经过目标系统规则的检查，因此允许做什么并不取决于模型的判断。
- **人工审批：**凡涉及资金、合同、发给客户的消息或不可逆更改的步骤，都先由人来决定。例如，[OpenAI](https://developers.openai.com/api/docs/guides/tools-connectors-mcp) 默认会在与远程 MCP 服务器共享数据之前请求批准。
- **日志：**每一次工具调用、参数和结果都可追溯，以便查明错误操作的原因。
- **限制：**对步骤数、频率和金额设定上限，使一个错误不会成倍放大。
- **外部内容视为数据：**收到的邮件或上传的文档中的文本不是指令。针对[提示词注入](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)（prompt injection），OWASP 建议把外部内容单独处理，并标记为不可信。
- **在隔离环境中测试：**正式上线前，在测试系统中用真实案例和故意误导的输入进行测试。

这些管控措施并不会不必要地拖慢工作：一次审批可以只是点击一下，而且可以根据度量结果，逐步收窄到真正需要审批的地方。

## 透明度：必须让人知道是 AI 在回答

根据 AI Act（《人工智能法》），即条例 (EU) 2024/1689 [第 50 条第 1 款](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689)的规定，旨在与自然人直接交互的 AI 系统必须设计成让相关人员获知自己正在与 AI 系统交互，除非这一点从具体情境中显而易见。这一规定从何时起适用、具体适用于谁，以及 GDPR 对聊天机器人有哪些要求，我们在[AI Act 与 GDPR：企业聊天机器人需要注意什么？](https://www.mestersegesintelligenciakozpont.hu/zh/knowledge-base/ai-act-and-gdpr-for-business-chatbots)一文中有详细说明；以上内容仅供参考，不构成法律意见。

## 实际运行的示例：我们首页上的 AI 助手

在我们[首页](https://www.mestersegesintelligenciakozpont.hu/zh/)上运行的游戏旁边，AI 助手与访客交谈：这是我们自己的、正在实际运行的 AI 聊天机器人，它很好地展示了聊天机器人与智能体之间的界线在哪里。

- 它基于 Claude 语言模型运行，并接收关于游戏事件（失去一条命、创纪录、升级）的机器可读报告，对此实时作出反应。
- 它用游戏的 14 种语言作答，并且始终使用敬语称呼访客，即使访客对它不使用敬语也是如此。
- 它根据所提供的事实介绍公司：按照它的指令，它不会编造参考案例、价格、期限或保证。
- 它能说话，但不能行动：它不能干预游戏进程，也不能给予分数或生命。

最后一点是关键：权限的边界不是由模型的良好意愿划定的，而是由系统的构建方式划定的。关于我们自己开发的项目，请见[我们的作品](https://www.mestersegesintelligenciakozpont.hu/zh/our-work)页面。

## 如何从小处着手？

1. **一个领域，一份问题清单：**收集最常被问到的问题，例如在客户服务中。
2. **基于自有资料的聊天机器人：**注明出处，能回答“我不知道”，并可转交给工作人员。
3. **用真实问题进行度量：**上线前在评估集上进行，上线后依据对话日志进行。
4. **第一个工具，只读：**例如查询订单状态。
5. **第一个写入操作，需经审批：**例如登记投诉，由工作人员批准。
6. **依据日志扩展：**只有在度量结果证明合理的地方，才增加新工具或缩小审批范围。

## 典型错误

- **在聊天机器人就足够的地方使用智能体：**活动部件更多、风险更大，却没有带来好处。
- **一次给出所有工具：**智能体也能做那些它永远不需要做的事。
- **没有“我不知道”：**机器人宁可编造内容，也不把问题转交出去。
- **无法转交给人：**遇到困难的客户联系不到工作人员。
- **没有日志：**事后查不出错误操作为何发生。
- **把外部文本当作指令：**藏在一封邮件里的一句话就可能操纵智能体。

## 常见问题

### 聊天机器人和 AI 智能体有什么区别？

聊天机器人回答问题，理想情况下依据企业自己的资料，并注明出处。AI 智能体除此之外还会使用查询、录入、预订、撰写邮件等工具，并为了一个目标自己选择步骤。两者都可以基于同一个语言模型；区别在于它们被允许做什么。

### 什么情况下聊天机器人就已足够？

当任务是提供信息时：常见问题、规章制度、产品信息、内部知识。如果回答之后由人来完成工作，聊天机器人也就足够了。如果系统需要修改数据或在其他系统中执行操作，就要考虑工作流或智能体了。

### AI 智能体可以自主完成哪些工作？

凡是它获得了工具和权限、并且根据其风险我们敢于不经审批就交给它去做的事：通常是查询、内部录入、准备草稿和预约时间。在涉及资金、合同或发给客户的消息的步骤，以及不可撤销的步骤之前，最好请求人工审批。

### 如何防止智能体出错？

错误无法完全排除，但可以限制损害：工具集要窄，权限要最小，请求还要在目标系统中接受检查，高影响步骤之前要经审批，设置步骤和金额上限，保留完整日志，并在上线前于隔离环境中进行测试。收到的文本被当作数据，而不是指令。

### 我们必须说明是 AI 在回答吗？

通常需要：根据 AI Act 第 50 条第 1 款，相关人员必须知道自己正在与 AI 系统交互，除非这一点显而易见。我们开发的聊天机器人在第一条消息中就会说明这一点。详情请见[AI Act 与 GDPR：企业聊天机器人需要注意什么？](https://www.mestersegesintelligenciakozpont.hu/zh/knowledge-base/ai-act-and-gdpr-for-business-chatbots)一文；以上内容仅供参考，不构成法律意见。

## 我们如何提供帮助？

Mesterséges Intelligencia Központ Kft. 既开发 AI 聊天机器人，也开发 AI 智能体：依据企业自有文档作答的机器人，以及与企业系统相连、能执行操作步骤的智能体，均基于 OpenAI（ChatGPT）、Anthropic（Claude）和 Google（Gemini）的语言模型构建。首次咨询免费；我们以 COSMIC 功能点度量开发工作的规模，并据此编制报价和进度安排。可应要求签署保密协议（NDA），交付后我们还承担运行与维护工作。源代码和使用权由合同约定。

详情请见 [AI 聊天机器人与 AI 智能体](https://www.mestersegesintelligenciakozpont.hu/zh/services/ai-chatbots-and-agents)服务页面；关于语言模型的接入，请见 [AI 集成](https://www.mestersegesintelligenciakozpont.hu/zh/services/ai-integration)页面。如果您正在规划聊天机器人或智能体，请通过[联系我们](https://www.mestersegesintelligenciakozpont.hu/zh/contact)页面上的联系方式给我们写信。

## 参考来源

- [Anthropic: Building effective agents](https://www.anthropic.com/engineering/building-effective-agents)
- [OpenAI: Agents](https://developers.openai.com/api/docs/guides/agents)
- [Anthropic: Tool use with Claude](https://platform.claude.com/docs/en/agents-and-tools/tool-use/overview)
- [Google Gemini API: Function calling](https://ai.google.dev/gemini-api/docs/function-calling)
- [OpenAI: MCP servers](https://developers.openai.com/api/docs/guides/tools-connectors-mcp)
- [OWASP GenAI Security Project: LLM06:2025 Excessive Agency](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/)
- [OWASP GenAI Security Project: LLM01:2025 Prompt Injection](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)
- [EUR-Lex：关于人工智能的条例 (EU) 2024/1689（《人工智能法》，AI Act）](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689)