Интеграция ИИ: ChatGPT, Claude и Gemini в системах компании
Mesterséges Intelligencia Központ Kft. является компанией по разработке программного обеспечения из Будапешта: мы подключаем языковые модели OpenAI (ChatGPT), Anthropic (Claude) и Google (Gemini) к системам компаний. С помощью искусственного интеллекта мы связываем всё, что существует.
Коротко: через API языковая модель становится частью существующих систем, а результат попадает туда, где с ним работают: в CRM, в ERP, в интернет-магазин или в почтовый клиент. Модель мы выносим в отдельный слой, поэтому поставщика можно заменить, а к модели попадают только те данные, которые нужны для задачи.
Что означает интеграция ИИ?
Это не ещё одно окно, в которое сотрудники копируют текст и из которого копируют его обратно. Через программный интерфейс (API) языковая модель становится частью существующих систем: она получает данные, нужные для задачи, делает то, в чём она сильна (извлекает, резюмирует, классифицирует, переводит, формулирует), а результат попадает туда, где с ним работают: в CRM, в ERP, в интернет-магазин или в почтовый клиент. Наша статья Как связать корпоративные системы с помощью искусственного интеллекта? показывает, как это строится шаг за шагом.
Если модель должна не только отвечать, но и выполнять действия (вносить данные, отправлять, бронировать), то это уже ИИ-агент; о нём мы пишем на странице ИИ-чат-боты и ИИ-агенты.
Для чего это можно использовать?
| Область | Пример |
|---|---|
| Документы | извлечение и сверка данных из счетов, договоров и накладных |
| Электронная почта | классификация и пересылка входящих писем, черновик ответа для сотрудника |
| CRM и ERP | краткое изложение истории клиента, текст коммерческого предложения, вопросы к данным обычным языком |
| Интернет-магазин | описания товаров, переводы, более точный поиск, ответы службы поддержки |
| Внутренние знания | база знаний из регламентов, руководств и прошлых проектов, к которой сотрудники могут обращаться с вопросами |
Об ИИ, встроенном в бизнес-системы, вы можете прочитать на странице ПО для бизнеса, а об автоматизированных процессах, охватывающих несколько систем, рассказывает страница Автоматизация процессов.
Модель можно заменить
Языковые модели быстро развиваются: то, что сегодня является правильным выбором, позже может перестать им быть. Поэтому мы выносим модель в отдельный слой. Промпты, доступ к данным и измерение качества находятся в системе компании, а поставщика (OpenAI, Anthropic или Google) можно заменить, не переписывая систему. Каждую смену мы проверяем на собственных примерах компании до того, как она попадёт в работу.
Защита данных: что и куда попадает?
Интеграция ИИ означает ещё и обработку данных, поэтому при проектировании прежде всего нужно решить, какие данные могут покидать системы компании. На что мы обращаем внимание:
- Минимизация данных: до модели доходят только данные, необходимые для задачи; персональные данные мы по возможности маскируем или псевдонимизируем.
- Условия поставщика: мы проверяем, где и как долго поставщик модели хранит данные, поступающие через бизнес-API, и использует ли он их для обучения моделей.
- Договор: поставщик модели, как правило, является обработчиком данных, поэтому с ним нужен договор об обработке данных (статья 28 GDPR); при обработке с высоким риском нужна также оценка воздействия на защиту данных (статья 35 GDPR).
- Права доступа и журнал: модель видит только то, что может видеть задающий вопрос пользователь, и можно отследить, кто что спрашивал.
Это информация, а не юридическая консультация: окончательное соответствие требованиям стоит также обсудить с ответственным за защиту данных (DPO) или с юристом. Текст регламента: Общий регламент по защите данных (GDPR) на EUR-Lex. Если ИИ общается с клиентами как чат-бот, наша статья AI Act и GDPR: на что обратить внимание в корпоративном чат-боте? кратко излагает правила прозрачности и защиты данных и даёт чек-лист.
Как проходит интеграция ИИ?
- Бесплатная первая консультация: какую работу могла бы взять на себя машина и в каких системах находятся данные.
- Анализ требований на реальных образцах: на собственных документах и письмах компании, при необходимости анонимизированных, мы смотрим, на что способна модель и где она ошибается.
- Измерение размера и предложение: размер разработки мы измеряем в функциональных точках COSMIC, на его основе составляются предложение и график работ.
- Поэтапная разработка: подключение, права доступа, журналирование и измерение качества, с регулярными демонстрациями.
- Передача и эксплуатация: вопросы исходного кода и прав на использование регулируются договором; после передачи мы также берём на себя эксплуатацию и сопровождение, включая наблюдение за работой модели.
Наши собственные примеры
Мы и сами так работаем. На нашей главной странице за игрой следит наш ИИ-ассистент, работающий на языковой модели Claude: на важные моменты он реагирует примерно за 1–2 секунды и общается с посетителем на 14 языках игры. Элементы пейзажа и препятствия для игры создаёт наш собственный конвейер: языковая модель планирует, генеративная модель изображений рисует, программа проверяет результат, а решение о том, принять ли его, принимает человек.
Частые вопросы
Может ли интеграция ИИ соответствовать GDPR?
Да, если её так спроектировать: с минимизацией данных, договором об обработке данных, подходящими условиями поставщика, управлением правами доступа и журналированием. Соответствует ли требованиям конкретная обработка данных, зависит от её цели и от самих данных; это информация, а не юридическая консультация.
Какую модель вы выбираете?
Это зависит от задачи. Наши критерии: качество текста на венгерском языке, характер задачи (текст, документ, изображение), скорость, плата за использование, условия обработки данных и доступность. Кандидатов мы испытываем на собственных примерах компании и даём рекомендацию по измеренным результатам. Поскольку модель можно заменить, решение можно пересмотреть и позже.
Может ли ИИ отвечать на основе наших собственных документов?
Да. Метод называется RAG (retrieval-augmented generation, генерация, дополненная результатами поиска): система сначала находит в документах компании фрагменты, относящиеся к вопросу, а модель отвечает на их основе, указывая источник. Это работает и с документами, и с вопросами на венгерском языке. Подробнее: ИИ-чат-боты и ИИ-агенты.
Что нужно от нас?
- Чётко сформулированная цель: какая работа должна стать быстрее или точнее.
- Несколько реальных образцов (документ, письмо, вопрос), при необходимости анонимизированных.
- Доступ к тестовой среде или к интерфейсу подключаемых систем.
- Контактное лицо, которое знает процесс.
- Решение о том, какие данные можно передавать модели.
От чего зависит цена?
Она состоит из двух частей. Стоимость разработки определяется функциональным размером, который мы измеряем в функциональных точках COSMIC (ISO/IEC 19761). Расходы на работу системы представляют собой плату поставщику модели за использование, пропорциональную объёму обработанного текста (количеству токенов); мы оцениваем её при проектировании и учитываем при выборе модели. Подробности приведены на странице Ценообразование; если у вас есть вопрос, напишите нам по контактам, указанным на странице Контакты.