AI 集成:企业系统中的 ChatGPT、Claude 和 Gemini

Mesterséges Intelligencia Központ Kft. 是一家位于匈牙利布达佩斯的软件开发公司:我们把 OpenAI(ChatGPT)、Anthropic(Claude)和 Google(Gemini)的语言模型接入企业的系统。我们用人工智能把现有的一切连接起来。

要点:语言模型通过 API 成为现有系统的一部分,结果会送到实际使用它的地方:CRM、ERP、网店或邮件客户端。我们把模型放在单独的一层,因此服务商可以更换,而且只有完成任务所需的数据才会传给模型。

什么是 AI 集成?

它并不是又多出一个窗口,让员工把文字复制进去再复制出来。语言模型通过编程接口(API)成为现有系统的一部分:它获得完成任务所需的数据,完成它擅长的工作(提取、总结、分类、翻译、撰写),然后把结果送到实际使用它的地方:CRM、ERP、网店或邮件客户端。这一切如何一步步搭建起来,我们在如何用人工智能连接企业系统?一文中做了介绍。

如果模型不仅要回答问题,还要执行操作(录入、发送、预订),那就是 AI 智能体了;相关内容见 AI 聊天机器人与 AI 智能体页面。

可以用在哪些方面?

领域示例
文档从发票、合同、送货单中提取数据并进行比对
电子邮件对收到的邮件进行分类、转发,为员工起草回复
CRM 和 ERP总结客户历史、撰写报价文本、用日常语言向数据提问
网店商品描述、翻译、更精准的搜索、客服回复
内部知识由规章制度、手册和以往项目构建、可供员工查询的知识库

关于嵌入企业系统的 AI,请见企业软件页面;关于跨越多个系统的自动化流程,请见流程自动化页面。

模型可以替换

语言模型发展很快:今天合适的选择,日后未必依然合适。因此,我们把模型放在单独的一层。提示词、数据访问和质量评测都保存在企业自己的系统中,而服务商(OpenAI、Anthropic 或 Google)无需重写系统即可更换。每一次切换在正式上线之前,我们都会用企业自己的示例进行评测。

数据保护:什么数据流向哪里?

AI 集成同时也是数据处理,因此设计时的第一个问题是:哪些数据可以离开企业的系统。我们关注以下几点:

以上内容仅供参考,不构成法律意见:关于最终的合规性,建议同时咨询数据保护官或律师。条例文本:EUR-Lex 上的《通用数据保护条例》(GDPR)。如果 AI 以聊天机器人的身份与客户对话,相关的透明度和数据保护规则汇总在AI Act 与 GDPR:企业聊天机器人需要注意什么?一文中,并附有检查清单。

AI 集成项目如何进行?

  1. 免费的首次咨询:哪些工作希望交给机器来做,数据存放在哪些系统中。
  2. 基于真实样本的需求调研:我们用企业自己的文档和邮件(必要时进行匿名化处理)来检验模型能做什么、会在哪里出错。
  3. 规模度量与报价:我们以 COSMIC 功能点度量开发工作的规模,据此编制报价和进度安排。
  4. 分阶段开发:系统接入、权限、日志记录和质量评测,并定期演示。
  5. 交付与运行:源代码和使用权由合同约定;交付后我们还承担运行与维护工作,包括监测模型的运行表现。

我们自己的示例

我们自己也是这样工作的。在我们的首页上,有一位基于 Claude 语言模型运行的 AI 助手注视着游戏。它会在大约 1–2 秒内对重要时刻作出反应,并用游戏的 14 种语言与访客交谈。游戏中的景物和障碍物由我们自己的生产线制作:语言模型负责规划,生成式图像模型负责绘制,程序检查结果,最后由人决定是否采用。

常见问题

AI 集成能否符合 GDPR?

可以,只要在设计时就这样考虑:遵循数据最小化原则,签订数据处理协议,选择条款合适的服务商,并做好权限管理和日志记录。某项具体的数据处理是否合规,取决于其目的和所涉及的数据;以上内容仅供参考,不构成法律意见。

会选择哪个模型?

这取决于任务。我们考虑的因素包括:匈牙利语文本的质量、任务的性质(文本、文档、图像)、速度、使用费用、数据处理条款以及可用性。我们会用企业自己的示例试用候选模型,并根据测得的结果提出建议。由于模型可以替换,这一决定日后也可以调整。

AI 能根据我们自己的文档作答吗?

可以。这种方法叫作 RAG(retrieval-augmented generation,检索增强生成):系统先在企业的文档中找到与问题相关的段落,模型再据此作答,并注明出处。它同样适用于匈牙利语文档和匈牙利语提问。详见:AI 聊天机器人与 AI 智能体。

需要我们提供什么?

价格取决于什么?

价格由两部分组成。开发费用取决于功能规模,我们以 COSMIC 功能点(ISO/IEC 19761)来度量。运行成本是模型服务商按使用量收取的费用,与处理的文本量(即 token 数量)成正比;我们会在设计阶段对其进行估算,并在选择模型时一并权衡。详情请见定价方式页面;如有疑问,请通过联系我们页面上的联系方式给我们写信。