AI 集成:企业系统中的 ChatGPT、Claude 和 Gemini
Mesterséges Intelligencia Központ Kft. 是一家位于匈牙利布达佩斯的软件开发公司:我们把 OpenAI(ChatGPT)、Anthropic(Claude)和 Google(Gemini)的语言模型接入企业的系统。我们用人工智能把现有的一切连接起来。
要点:语言模型通过 API 成为现有系统的一部分,结果会送到实际使用它的地方:CRM、ERP、网店或邮件客户端。我们把模型放在单独的一层,因此服务商可以更换,而且只有完成任务所需的数据才会传给模型。
什么是 AI 集成?
它并不是又多出一个窗口,让员工把文字复制进去再复制出来。语言模型通过编程接口(API)成为现有系统的一部分:它获得完成任务所需的数据,完成它擅长的工作(提取、总结、分类、翻译、撰写),然后把结果送到实际使用它的地方:CRM、ERP、网店或邮件客户端。这一切如何一步步搭建起来,我们在如何用人工智能连接企业系统?一文中做了介绍。
如果模型不仅要回答问题,还要执行操作(录入、发送、预订),那就是 AI 智能体了;相关内容见 AI 聊天机器人与 AI 智能体页面。
可以用在哪些方面?
| 领域 | 示例 |
|---|---|
| 文档 | 从发票、合同、送货单中提取数据并进行比对 |
| 电子邮件 | 对收到的邮件进行分类、转发,为员工起草回复 |
| CRM 和 ERP | 总结客户历史、撰写报价文本、用日常语言向数据提问 |
| 网店 | 商品描述、翻译、更精准的搜索、客服回复 |
| 内部知识 | 由规章制度、手册和以往项目构建、可供员工查询的知识库 |
关于嵌入企业系统的 AI,请见企业软件页面;关于跨越多个系统的自动化流程,请见流程自动化页面。
模型可以替换
语言模型发展很快:今天合适的选择,日后未必依然合适。因此,我们把模型放在单独的一层。提示词、数据访问和质量评测都保存在企业自己的系统中,而服务商(OpenAI、Anthropic 或 Google)无需重写系统即可更换。每一次切换在正式上线之前,我们都会用企业自己的示例进行评测。
数据保护:什么数据流向哪里?
AI 集成同时也是数据处理,因此设计时的第一个问题是:哪些数据可以离开企业的系统。我们关注以下几点:
- 数据最小化:只有完成任务所需的数据才会传给模型;个人数据尽可能进行遮蔽或假名化处理。
- 服务商的条款:我们会核实模型服务商把通过商用 API 传入的数据存储在哪里、存储多久,以及是否将其用于模型训练。
- 合同:模型服务商通常是数据处理者,因此需要与其签订数据处理协议(GDPR 第 28 条);对于高风险的数据处理,还需要进行数据保护影响评估(GDPR 第 35 条)。
- 权限与日志:模型只能看到提问用户本人有权看到的内容,并且可以追溯谁问了什么。
以上内容仅供参考,不构成法律意见:关于最终的合规性,建议同时咨询数据保护官或律师。条例文本:EUR-Lex 上的《通用数据保护条例》(GDPR)。如果 AI 以聊天机器人的身份与客户对话,相关的透明度和数据保护规则汇总在AI Act 与 GDPR:企业聊天机器人需要注意什么?一文中,并附有检查清单。
AI 集成项目如何进行?
- 免费的首次咨询:哪些工作希望交给机器来做,数据存放在哪些系统中。
- 基于真实样本的需求调研:我们用企业自己的文档和邮件(必要时进行匿名化处理)来检验模型能做什么、会在哪里出错。
- 规模度量与报价:我们以 COSMIC 功能点度量开发工作的规模,据此编制报价和进度安排。
- 分阶段开发:系统接入、权限、日志记录和质量评测,并定期演示。
- 交付与运行:源代码和使用权由合同约定;交付后我们还承担运行与维护工作,包括监测模型的运行表现。
我们自己的示例
我们自己也是这样工作的。在我们的首页上,有一位基于 Claude 语言模型运行的 AI 助手注视着游戏。它会在大约 1–2 秒内对重要时刻作出反应,并用游戏的 14 种语言与访客交谈。游戏中的景物和障碍物由我们自己的生产线制作:语言模型负责规划,生成式图像模型负责绘制,程序检查结果,最后由人决定是否采用。
常见问题
AI 集成能否符合 GDPR?
可以,只要在设计时就这样考虑:遵循数据最小化原则,签订数据处理协议,选择条款合适的服务商,并做好权限管理和日志记录。某项具体的数据处理是否合规,取决于其目的和所涉及的数据;以上内容仅供参考,不构成法律意见。
会选择哪个模型?
这取决于任务。我们考虑的因素包括:匈牙利语文本的质量、任务的性质(文本、文档、图像)、速度、使用费用、数据处理条款以及可用性。我们会用企业自己的示例试用候选模型,并根据测得的结果提出建议。由于模型可以替换,这一决定日后也可以调整。
AI 能根据我们自己的文档作答吗?
可以。这种方法叫作 RAG(retrieval-augmented generation,检索增强生成):系统先在企业的文档中找到与问题相关的段落,模型再据此作答,并注明出处。它同样适用于匈牙利语文档和匈牙利语提问。详见:AI 聊天机器人与 AI 智能体。
需要我们提供什么?
- 一个明确的目标:哪项工作应当变得更快或更准确。
- 若干真实样本(文档、邮件、问题),必要时进行匿名化处理。
- 待接入系统的测试环境或接口的访问权限。
- 一位熟悉该流程的联系人。
- 决定哪些数据可以提供给模型。
价格取决于什么?
价格由两部分组成。开发费用取决于功能规模,我们以 COSMIC 功能点(ISO/IEC 19761)来度量。运行成本是模型服务商按使用量收取的费用,与处理的文本量(即 token 数量)成正比;我们会在设计阶段对其进行估算,并在选择模型时一并权衡。详情请见定价方式页面;如有疑问,请通过联系我们页面上的联系方式给我们写信。