Mesterséges Intelligencia Központ
메뉴

챗봇입니까, AI 에이전트입니까?

부다페스트의 소프트웨어 개발 회사인 Mesterséges Intelligencia Központ Kft.는 과제가 질문에 답하는 것이라면 챗봇이, 시스템이 조회하고 기록하고 예약하는 단계까지 실행해야 한다면 AI 에이전트가 필요하다고 봅니다.

핵심: 챗봇은 말하고, 에이전트는 행동까지 합니다. 과제를 해낼 수 있는 가장 단순한 해법으로 시작하고, 단계의 순서를 미리 적어 둘 수 없는 곳에서만 에이전트로 넘어가는 것이 좋습니다. 그리고 에이전트는 좁은 권한으로, 로그를 남기며, 중요한 단계 전에는 사람의 승인을 받아 작동해야 합니다.

용어는 무엇을 뜻합니까?

“챗봇”과 “AI 에이전트”라는 말은 시장에서 여러 의미로 쓰입니다. 결정을 내릴 때 같은 것을 이야기할 수 있도록, 가장 단순한 것부터 가장 자율적인 것까지 다섯 가지 해법을 구분합니다.

규칙 기반 챗봇

미리 작성된 시나리오를 따르며, 버튼, 키워드, 의사결정 트리로 이루어져 있습니다. 완전히 예측 가능하고, 언어 모델을 호출하지 않으며, 입력해 둔 내용을 정확히 그대로 말합니다. 하지만 준비된 것만 이해합니다. 다르게 표현된 질문은 시나리오에서 벗어나고, 새로운 주제는 모두 손으로 추가해야 합니다.

언어 모델 기반 챗봇

대규모 언어 모델(large language model, LLM)은 자유 형식의 질문을 이해하고 자연어로 답하며, 오타와 일상적인 표현도 잘 처리합니다. 하지만 모델의 일반 지식에만 의존하면 회사에 관해 자신 있게 틀린 답을 할 수도 있으므로, 기업용으로 쓸 때는 거의 언제나 회사 자체 자료에 연결합니다.

문서를 바탕으로 답변하는 챗봇

시스템은 질문에 대해 먼저 회사 문서, 즉 자주 묻는 질문, 규정, 매뉴얼에서 관련 부분을 찾고, 모델은 그 내용을 바탕으로 출처를 밝혀 답변합니다. 이 방법을 RAG(retrieval-augmented generation, 검색 증강 생성)라고 하며, 작동 방식, 헝가리어, 데이터 저장에 관해서는 회사 자체 문서를 바탕으로 한 AI(RAG) 글에서 다룹니다.

AI 워크플로

Anthropic의 에이전트에 관한 가이드는 워크플로(workflow)를 언어 모델과 도구가 미리 작성된 코드 경로에 따라 제어되는 시스템으로 정의합니다. 예: 수신 이메일 → 분류 → 데이터 추출 → CRM 속 답장 초안. 단계의 순서는 고정되어 있으며, 모델은 각 단계에서 명확하게 정의된 언어 작업 하나를 수행합니다. 많은 기업의 요구는 실제로 에이전트가 아니라 이런 워크플로입니다.

AI 에이전트

같은 가이드는 에이전트를 언어 모델이 자신의 프로세스와 도구 사용을 스스로 이끄는 시스템으로 설명합니다. OpenAI 문서에 따르면 에이전트는 도구를 이용해 작업을 계획하고 수행하며, 여러 단계에 걸쳐 맥락을 유지합니다. 에이전트는 “불만 사항을 접수하고 고객에게 확인 메시지를 보내 주십시오”와 같은 목표를 받고, 이를 어떤 단계로 달성할지 스스로 정합니다. 주문을 조회하고, 보증을 확인하고, 사안을 기록하고, 이메일을 작성합니다. 도구를 실행하는 것은 모델이 아닙니다. Google Gemini 문서에 따르면 모델은 함수를 직접 실행하지 않으며, Anthropic에 따르면 자체 도구는 애플리케이션이 실행합니다. 모델은 작업을 요청할 뿐이고 실행은 저희 코드가 하며, 무엇이 허용되는지는 바로 그곳에서 결정됩니다.

Anthropic의 조언은 간단합니다. 가능한 한 가장 단순한 해법을 찾고, 필요할 때만 복잡성을 높이라는 것입니다. 이 가이드에 따르면 에이전트는 필요한 단계 수를 미리 말하기 어렵거나 불가능한 열린 문제에 적합하며, 에이전트 시스템은 더 나은 작업 수행의 대가로 지연 시간과 비용이 늘어나는 경우가 많습니다.

표로 보는 비교

표에서 언어 모델 기반 챗봇은 문서를 바탕으로 답변하는 형태로 나와 있습니다. 기업용으로는 거의 언제나 이렇게 만들어지기 때문입니다.

기준규칙 기반 챗봇문서를 바탕으로 답변하는 챗봇AI 워크플로AI 에이전트
하는 일미리 작성된 시나리오를 따름회사 자료를 바탕으로 답변함고정된 단계를 언어 작업과 함께 실행함목표를 받아 단계를 스스로 선택함
이해하는 것준비된 키워드와 버튼자유 형식 텍스트프로세스로 들어오는 텍스트자유 형식 텍스트와 도구의 결과
접근 범위시나리오지식 자료각 단계에 지정된 시스템주어진 도구
예측 가능성완전함출처를 표시하면 높음높음더 낮음, 엄격한 제한이 필요함
주요 위험경직되어 많은 질문이 벗어남틀리거나 오래된 답변한 단계에서의 잘못된 추출잘못되거나 지나치게 많은 작업, 누적되는 오류
통제시나리오 유지보수출처 표시, “모르겠습니다”, 직원에게 넘기기단계별 확인, 승인권한, 승인, 로그, 제한
적합한 경우질문이 적고 명확하게 정의된 경우질문과 문서가 많은 경우프로세스 단계를 미리 적어 둘 수 있는 경우단계의 수와 순서를 미리 알 수 없는 경우

경계는 뚜렷하지 않습니다. 읽기 전용 도구 하나로 주문 상태를 조회하는 챗봇은 이미 에이전트 쪽으로 한 걸음 나아간 것이지만, 위험은 여전히 낮습니다. 결정적인 질문은 언제나 시스템이 무엇을 할 수 있는가이지, 그것을 무엇이라고 부르는가가 아닙니다.

어디에 어느 쪽이 맞습니까?

고객 지원

배송, 결제, 보증, 영업시간 같은 자주 묻는 질문에는 문서를 바탕으로 답변하는 챗봇이 좋은 출발점입니다. 하루 중 언제든 답하고, 막히면 직원에게 넘깁니다. 주문 상태에는 읽기 전용 조회 하나로 충분합니다. 봇이 쓰기까지 하는 곳, 즉 불만 사항을 접수하거나 환불을 시작하는 곳에는 에이전트 기능이 필요하며, 돈이 관련된 단계 전에는 승인이 필요합니다.

영업

봇은 상품 카탈로그에서 상품을 추천하고, 견적 요청을 준비하고, 예약을 잡고, 잠재 고객을 CRM에 등록합니다. 예약과 등록은 도구 사용이므로 에이전트 요소입니다. 반면 가격, 할인, 납기는 봇의 권한에서 빼서 직원에게 맡기는 것이 좋습니다.

사내 헬프데스크

HR 및 IT 관련 질문, 규정, 업무 지침에는 문서를 바탕으로 답변하는 챗봇이 자연스러운 선택이며, 새 동료가 업무를 익히는 데도 도움이 됩니다. 여기서는 권한이 핵심 문제입니다. 봇은 질문한 직원도 열어 볼 수 있는 문서를 바탕으로만 답할 수 있습니다. 티켓을 열거나 접근 권한을 요청하는 일은 이미 도구가 좁게 제한된 에이전트가 맡을 수 있습니다.

백오피스

청구서, 주문, 이메일 처리는 단계가 미리 알려져 있으므로 일반적으로 AI 워크플로입니다. 추출, 대조, 기록, 그리고 예외는 직원에게 넘기는 것입니다. 에이전트는 사례가 매우 다양한 곳에서 타당합니다. 예를 들어 여러 시스템에서 데이터를 모아야 하는 불만 사항 조사가 그렇습니다. 여러 시스템에 걸친 자동화에 관해서는 프로세스 자동화 페이지에서, API, 웹훅, 함수 호출, MCP 같은 연동 패턴에 관해서는 회사 시스템을 인공지능으로 어떻게 연결합니까? 글에서 다룹니다.

에이전트의 위험과 통제

에이전트는 행동하기 때문에 유용하고, 바로 그 때문에 위험하기도 합니다. Anthropic의 가이드는 에이전트 자율성의 대가로 더 높은 비용과 오류가 누적될 가능성을 꼽으며, 적절한 제한을 둔 격리된(sandbox) 환경에서 충분히 테스트할 것을 권합니다. OWASP GenAI Security Project의 위험 목록은 과도한 행동 권한(Excessive Agency)의 원인으로 불필요한 기능, 지나치게 넓은 권한, 지나친 자율성의 세 가지를 꼽습니다. 그래서 저희는 다음과 같은 통제 장치를 넣습니다.

이러한 통제 장치가 업무를 불필요하게 늦추지는 않습니다. 승인은 클릭 한 번이면 될 수 있고, 측정 결과에 따라 실제로 필요한 곳으로 점차 좁혀 갈 수 있습니다.

투명성: AI가 답변한다는 사실을 알 수 있어야 합니다

AI Act, 즉 규칙 (EU) 2024/1689의 제50조 제1항에 따르면, 자연인과 직접 상호작용하도록 의도된 AI 시스템은 해당 당사자가 AI 시스템과 상호작용하고 있다는 사실을 고지받도록 설계되어야 하며, 다만 상황상 이것이 명백한 경우는 예외입니다. 이 규정이 언제부터, 정확히 누구에게 적용되는지, 그리고 GDPR이 챗봇에 무엇을 요구하는지는 기업용 챗봇에 적용되는 AI Act와 GDPR 글에서 자세히 다룹니다. 이 내용은 정보 제공을 위한 것이며 법률 자문이 아닙니다.

실제 사례: 저희 홈페이지의 AI 어시스턴트

저희 홈페이지에서 실행되는 게임 옆에서 AI 어시스턴트가 방문자와 대화합니다. 저희가 직접 만든 라이브 AI 챗봇으로, 챗봇과 에이전트의 경계가 어디에 있는지 잘 보여 줍니다.

마지막 항목이 핵심입니다. 권한의 경계를 정하는 것은 모델의 선의가 아니라 시스템의 구조입니다. 저희가 직접 개발한 프로젝트에 관해서는 작업 사례 페이지에서 보실 수 있습니다.

작게 시작하려면 어떻게 해야 합니까?

  1. 한 영역, 하나의 질문 목록: 예를 들어 고객 지원에서 가장 자주 묻는 질문을 모읍니다.
  2. 자체 자료를 바탕으로 한 챗봇: 출처 표시, “모르겠습니다”라는 답변, 직원에게 넘기기를 갖춥니다.
  3. 실제 질문으로 측정: 실제 운영 전에는 평가 세트로, 그 후에는 대화 로그로 측정합니다.
  4. 첫 도구는 읽기 전용으로: 예를 들어 주문 상태 조회입니다.
  5. 승인을 거치는 첫 쓰기 작업: 예를 들어 불만 사항 접수를 직원이 승인합니다.
  6. 로그를 바탕으로 한 확장: 새 도구나 더 좁은 승인 범위는 측정 결과가 뒷받침하는 곳에서만 도입합니다.

전형적인 실수

자주 묻는 질문

챗봇과 AI 에이전트의 차이는 무엇입니까?

챗봇은 질문에 답합니다. 바람직하게는 회사 자체 자료를 바탕으로 출처를 밝혀 답합니다. AI 에이전트는 여기에 더해 도구도 사용하며(조회하고, 기록하고, 예약하고, 이메일을 작성합니다), 목표를 위해 단계를 스스로 선택합니다. 둘 다 같은 언어 모델을 기반으로 할 수 있으며, 차이는 무엇을 할 수 있도록 허용되는가에 있습니다.

챗봇으로 충분한 때는 언제입니까?

과제가 정보 제공일 때입니다. 자주 묻는 질문, 규정, 상품 정보, 사내 지식이 그 예입니다. 답변 후의 업무를 사람이 처리하는 경우에도 충분합니다. 시스템이 데이터를 변경하거나 다른 시스템에서 행동해야 한다면 그때 워크플로나 에이전트를 고려합니다.

AI 에이전트는 무엇을 스스로 처리할 수 있습니까?

도구와 권한을 받은 일, 그리고 위험을 고려할 때 승인 없이도 맡길 수 있는 일입니다. 일반적으로 조회, 내부 기록, 초안 작성, 예약이 해당합니다. 돈, 계약, 고객에게 보내는 메시지가 관련되거나 되돌릴 수 없는 단계 전에는 사람의 승인을 받는 것이 좋습니다.

에이전트의 실수는 어떻게 예방할 수 있습니까?

완전히 배제할 수는 없지만 피해는 제한할 수 있습니다. 좁은 도구 세트, 최소 권한, 대상 시스템에서도 확인되는 요청, 영향이 큰 단계 전의 승인, 단계 수와 금액의 상한, 완전한 로그, 그리고 실제 운영 전 격리된 환경에서의 테스트가 그 방법입니다. 들어오는 텍스트는 지시가 아니라 데이터로 다룹니다.

AI가 답변한다는 사실을 알려야 합니까?

일반적으로 그렇습니다. AI Act 제50조 제1항에 따르면, 명백한 경우가 아니라면 해당 당사자는 자신이 AI 시스템과 상호작용하고 있다는 사실을 알아야 합니다. 저희가 개발하는 챗봇은 첫 메시지에서부터 이를 알립니다. 자세한 내용은 기업용 챗봇에 적용되는 AI Act와 GDPR 글에서 다룹니다. 이 내용은 정보 제공을 위한 것이며 법률 자문이 아닙니다.

저희는 어떻게 도와드립니까?

Mesterséges Intelligencia Központ Kft.는 AI 챗봇과 AI 에이전트를 모두 개발합니다. 회사 자체 문서를 바탕으로 답변하는 봇과, 회사 시스템에 연결되어 단계를 실행하는 에이전트를 OpenAI(ChatGPT), Anthropic(Claude), Google(Gemini)의 언어 모델을 기반으로 만듭니다. 첫 상담은 무료이며, 개발 규모는 COSMIC 기능점수로 측정하고 이를 바탕으로 견적과 일정을 작성합니다. 요청하시면 비밀유지계약(NDA)을 체결하며, 인도 후에는 운영과 유지보수도 맡습니다. 소스 코드와 이용 권리는 계약으로 정합니다.

자세한 내용은 AI 챗봇과 AI 에이전트 서비스 페이지에서, 언어 모델 연결에 관해서는 AI 통합 페이지에서 보실 수 있습니다. 챗봇이나 에이전트를 계획하고 계시다면 연락처 페이지에 안내된 연락처로 메시지를 보내 주시기 바랍니다.

출처