Чат-бот или ИИ-агент?

По мнению Mesterséges Intelligencia Központ Kft., компании по разработке программного обеспечения из Будапешта, чат-бот нужен для ответов на вопросы, а ИИ-агент нужен, если система должна ещё и выполнять действия: запрашивать данные, вносить записи, бронировать.

Коротко: чат-бот говорит, агент ещё и действует. Стоит начинать с самого простого решения, которое справляется с задачей, и переходить к агенту только там, где последовательность шагов нельзя описать заранее; а агент должен работать с узкими правами доступа, с журналированием и с утверждением человеком перед важными шагами.

Что означают эти понятия?

Слова «чат-бот» и «ИИ-агент» на рынке используют в самых разных значениях. Чтобы при принятии решения говорить об одном и том же, мы различаем пять решений: от самого простого до самого автономного.

Чат-бот на основе правил

Он следует заранее написанному сценарию из кнопок, ключевых слов и дерева решений. Он полностью предсказуем, не обращается к языковой модели и говорит ровно то, что в него заложили. Но понимает он только то, к чему его подготовили: вопрос, сформулированный иначе, выпадает из сценария, а каждую новую тему приходится встраивать вручную.

Чат-бот на основе языковой модели

Большая языковая модель (large language model, LLM) понимает вопросы в свободной форме и отвечает на естественном языке, справляясь и с опечатками, и с повседневными формулировками. Но если такой чат-бот опирается только на общие знания модели, он может уверенно дать неверный ответ о компании, поэтому в корпоративном использовании мы почти всегда привязываем его к собственным материалам компании.

Чат-бот, отвечающий по документам

На каждый вопрос система сначала находит релевантные фрагменты в документах компании (в списках частых вопросов, регламентах, руководствах), и модель отвечает на их основе, указывая источник. Метод называется RAG (retrieval-augmented generation); о том, как он работает, о венгерском языке и о хранении данных рассказывает статья ИИ на собственных документах компании (RAG).

Рабочий процесс с ИИ

В руководстве Anthropic по агентам рабочий процесс (workflow) определяется как система, в которой языковой моделью и инструментами управляют заранее прописанные пути выполнения кода. Пример: входящее письмо → классификация → извлечение данных → черновик ответа в CRM. Последовательность шагов фиксирована, и на каждом шаге модель выполняет одну чётко очерченную языковую задачу. Многие потребности компаний на самом деле сводятся именно к таким рабочим процессам, а не к агентам.

ИИ-агент

То же руководство описывает агента как систему, в которой языковая модель сама управляет своим процессом и использованием инструментов. Согласно документации OpenAI, агенты планируют и выполняют задачи с помощью инструментов и сохраняют контекст на протяжении всех шагов. Агент получает цель («зарегистрируйте рекламацию и отправьте клиенту подтверждение») и сам решает, какими шагами её достичь: запрашивает заказ, проверяет гарантию, регистрирует обращение, пишет письмо. Инструмент запускает не модель: согласно документации Google Gemini, модель сама не выполняет функцию, а согласно Anthropic, собственные инструменты выполняет приложение. Модель лишь запрашивает операцию, выполняет её наш код, и именно там решается, что разрешено.

Совет Anthropic прост: искать как можно более простое решение и повышать сложность, только если это необходимо. Согласно руководству, агент подходит для открытых задач, где трудно или невозможно заранее сказать, сколько шагов потребуется; а агентные системы часто расплачиваются задержкой и стоимостью за более качественное решение задач.

Сравнение в одной таблице

В таблице чат-бот на основе языковой модели представлен в варианте, отвечающем по документам, потому что в корпоративном использовании его почти всегда строят именно так.

Критерий	Чат-бот на основе правил	Чат-бот, отвечающий по документам	Рабочий процесс с ИИ	ИИ-агент
Что делает	следует заранее написанному сценарию	отвечает по материалам компании	выполняет фиксированную последовательность шагов с языковыми задачами	получает цель и сам выбирает шаги
Что понимает	ключевые слова и кнопки, к которым его подготовили	свободный текст	текст, поступающий в процесс	свободный текст и результаты инструментов
К чему имеет доступ	к сценарию	к базе знаний	к системам, назначенным для шагов	к выданным ему инструментам
Предсказуемость	полная	высокая, если указывает источник	высокая	ниже, нужны строгие ограничения
Главный риск	негибкость, многие вопросы выпадают	неверный или устаревший ответ	ошибочное извлечение данных на одном из шагов	неверные или лишние действия, накапливающиеся ошибки
Контроль	сопровождение сценария	указание источников, «не знаю», передача сотруднику	проверка на каждом шаге, утверждение	права доступа, утверждение, журнал, ограничения
Хороший выбор, если	вопросов немного и они чётко очерчены	много вопросов и много документов	шаги процесса можно описать заранее	число и порядок шагов нельзя предвидеть

Граница нечёткая: чат-бот, который с помощью единственного инструмента с правом только на чтение запрашивает статус заказа, уже сделал шаг к агенту, но его риск остаётся низким. Решающий вопрос всегда в том, что системе разрешено делать, а не в том, как мы её называем.

Где что подходит?

Служба поддержки

Для частых вопросов (о доставке, оплате, гарантии, часах работы) хорошей отправной точкой будет чат-бот, отвечающий по документам: круглосуточно, с передачей сотруднику, если бот не справляется. Для статуса заказа достаточно запроса с правом только на чтение. Там, где бот уже и записывает, то есть регистрирует рекламацию или инициирует возврат средств, нужны возможности агента и утверждение перед шагом, затрагивающим деньги.

Продажи

Бот рекомендует товары из каталога, готовит запрос коммерческого предложения, назначает встречи и вносит потенциального клиента в CRM. Назначение встреч и внесение записей требуют использования инструментов, то есть представляют собой элементы агента; цены, скидки и сроки, однако, разумно вывести из компетенции бота и закрепить за сотрудником.

Внутренний хелпдеск

Для кадровых и ИТ-вопросов, регламентов и рабочих инструкций естественным выбором будет чат-бот, отвечающий по документам; он помогает и новым коллегам войти в курс дела. Главный вопрос здесь касается прав доступа: бот может отвечать только по тем документам, которые может открыть и задающий вопрос сотрудник. Для открытия заявки об ошибке или запроса доступа уже может подойти агент с узким набором инструментов.

Бэк-офис

Обработка счетов, заказов и писем, как правило, представляет собой рабочий процесс с ИИ, потому что шаги известны заранее: извлечение, сверка, внесение, передача исключений сотруднику. Агент оправдан там, где случаи очень разнообразны, например при расследовании рекламации, для которого нужно собрать данные из нескольких систем. Об автоматизации, охватывающей несколько систем, мы пишем на странице Автоматизация процессов, а об интеграционных шаблонах (API, вебхук, вызов функций, MCP) рассказывает статья Как связать корпоративные системы с помощью искусственного интеллекта?

Риски агента и средства контроля

Агент полезен тем, что действует, и именно поэтому рискован. Руководство Anthropic называет ценой самостоятельности агентов более высокие затраты и возможность накопления ошибок и рекомендует тщательное тестирование в изолированной среде (sandbox) с надлежащими ограничениями. Перечень рисков OWASP GenAI Security Project называет три причины чрезмерной самостоятельности (Excessive Agency): избыточную функциональность, слишком широкие права доступа и избыточную автономность. Поэтому мы встраиваем следующие средства контроля:

Узкий набор инструментов: агент получает только те инструменты, которые нужны для его задачи; агенту службы поддержки не нужно ничего удалять.
Минимальные права: по возможности только чтение; операция должна выполняться с правами самого пользователя, а не через служебную учётную запись с доступом ко всему.
Проверка в целевой системе: каждый запрос проверяют и правила целевой системы, так что допустимость действия не зависит от суждения модели.
Утверждение человеком: перед шагом, затрагивающим деньги, договор, сообщение клиенту или необратимое изменение, решает человек. OpenAI, например, по умолчанию запрашивает подтверждение, прежде чем передать данные удалённому MCP-серверу.
Журнал: каждый вызов инструмента, параметр и результат можно отследить, чтобы выяснить причину ошибочной операции.
Ограничения: лимиты на число шагов, частоту и суммы, чтобы ошибка не могла многократно повториться.
Внешний контент как данные: текст входящего письма или загруженного документа не является инструкцией. Против промпт-инъекций (prompt injection) OWASP рекомендует обрабатывать внешний контент отдельно, помечая его как недоверенный.
Тестирование в изолированной среде: перед запуском в работу агента проверяют в тестовой системе, на реальных случаях и на намеренно вводящих в заблуждение входных данных.

Эти средства контроля не замедляют работу без необходимости: утверждение может занимать один щелчок, а по результатам измерений его можно постепенно сузить до тех мест, где оно действительно нужно.

Прозрачность: нужно знать, что отвечает ИИ

Согласно пункту 1 статьи 50 AI Act, то есть Регламента (ЕС) 2024/1689, ИИ-систему, предназначенную для прямого взаимодействия с физическими лицами, необходимо проектировать так, чтобы эти лица были проинформированы о том, что взаимодействуют с ИИ-системой, если это не очевидно из обстоятельств. С какого момента и к кому именно это относится и чего требует от чат-бота GDPR, мы подробно разбираем в статье AI Act и GDPR в корпоративном чат-боте; это информация, а не юридическая консультация.

Живой пример: наш ИИ-ассистент на главной странице

Рядом с игрой на нашей главной странице с посетителем беседует наш ИИ-ассистент: живой ИИ-чат-бот собственной разработки, который хорошо показывает, где проходит граница между чат-ботом и агентом.

Он работает на языковой модели Claude и получает машинные отчёты о событиях игры (потере жизни, рекорде, переходе на новый уровень), на которые реагирует в реальном времени.
Он отвечает на 14 языках игры и всегда обращается на «вы», даже если посетитель обращается к нему неформально.
О компании он говорит на основе предоставленных ему фактов: согласно его инструкции, он не придумывает ни референсов, ни цен, ни сроков, ни гарантий.
Он может говорить, но не действовать: вмешиваться в ход игры, начислять очки и жизни он не может.

Главным здесь является последний пункт: границу полномочий проводят не добрые намерения модели, а устройство системы. О наших собственных разработках вы можете прочитать на странице Наши работы.

Как начать с малого?

Одна область, один список вопросов: соберите, о чём спрашивают чаще всего, например в службе поддержки.
Чат-бот на собственных материалах: с указанием источников, ответом «не знаю» и передачей сотруднику.
Измерение на реальных вопросах: до запуска измеряем на оценочном наборе, а после него по журналу разговоров.
Первый инструмент только для чтения: например, запрос статуса заказа.
Первая операция записи с утверждением: например, регистрация рекламации, которую утверждает сотрудник.
Расширение на основе журнала: новый инструмент или более узкий круг утверждений вводится только там, где это подтверждают измерения.

Типичные ошибки

Агент там, где хватило бы чат-бота: больше движущихся частей и выше риск, но без всякой пользы.
Все инструменты сразу: агент может сделать и то, что ему никогда не понадобится.
Нет ответа «не знаю»: бот скорее что-нибудь выдумает, чем передаст вопрос дальше.
Нет передачи человеку: клиент, оказавшийся в тупике, не может добраться до сотрудника.
Нет журнала: потом не удаётся выяснить, почему произошла ошибочная операция.
Внешний текст воспринимается как инструкция: фраза, спрятанная в письме, может управлять агентом.

Частые вопросы

Чем чат-бот отличается от ИИ-агента?

Чат-бот отвечает на вопросы, в лучшем случае по собственным материалам компании, указывая источники. ИИ-агент, помимо этого, пользуется инструментами (запрашивает данные, вносит записи, бронирует, пишет письма) и сам выбирает шаги для достижения цели. Оба могут работать на одной и той же языковой модели; разница в том, что им разрешено делать.

Когда достаточно чат-бота?

Когда задача состоит в информировании: частые вопросы, регламенты, информация о товарах, внутренние знания. Его достаточно и тогда, когда после ответа работу выполняет человек. Если же системе нужно изменять данные или действовать в другой системе, в дело вступает рабочий процесс с ИИ или агент.

Что ИИ-агент может делать самостоятельно?

То, для чего он получает инструменты и права и что, исходя из риска, мы готовы доверить ему без утверждения: как правило, запросы данных, внутренние записи, подготовку черновиков, бронирование встреч. Перед шагами, затрагивающими деньги, договор или сообщение клиенту, а также перед необратимыми шагами разумно запрашивать утверждение человеком.

Как не допустить, чтобы агент ошибся?

Полностью исключить ошибки нельзя, но ущерб можно ограничить: узким набором инструментов, минимальными правами, проверкой запросов и в целевой системе, утверждением перед шагами с серьёзными последствиями, лимитами на шаги и суммы, полным журналом и тестированием в изолированной среде перед запуском в работу. Входящие тексты мы обрабатываем как данные, а не как инструкции.

Нужно ли сообщать, что отвечает ИИ?

Как правило, да: согласно пункту 1 статьи 50 AI Act люди должны знать, что взаимодействуют с ИИ-системой, если это не очевидно. Разработанный нами чат-бот сообщает об этом уже в первом сообщении. Подробности изложены в статье AI Act и GDPR в корпоративном чат-боте; это информация, а не юридическая консультация.

Как мы можем помочь?

Mesterséges Intelligencia Központ Kft. на основе языковых моделей OpenAI (ChatGPT), Anthropic (Claude) и Google (Gemini) разрабатывает и ИИ-чат-ботов, и ИИ-агентов: ботов, отвечающих по собственным документам компании, и агентов, которые подключены к системам компании и выполняют действия. Первая консультация бесплатна; размер разработки мы измеряем в функциональных точках COSMIC, и на его основе составляются предложение и график работ. По запросу мы заключаем соглашение о неразглашении (NDA), а после передачи также берём на себя эксплуатацию и сопровождение. Вопросы исходного кода и прав на использование регулируются договором.

Подробности приведены на странице услуги ИИ-чат-боты и ИИ-агенты, а о подключении языковых моделей мы пишем на странице Интеграция ИИ. Если вы планируете чат-бота или агента, напишите нам по контактам, указанным на странице Контакты.