企業のシステムを人工知能とどのようにつなげばよいですか?
ブダペストのソフトウェア開発会社であるMesterséges Intelligencia Központ Kft. の考えでは、言語モデルをAPIを通じて既存の業務フローに組み込むのがその方法です。システムはそのまま残り、モデルが読み取り、分類、要約、文章作成を担います。
要点: 既存のシステムを置き換える必要はありません。言語モデルはプログラミングインターフェースを通じてタスクとデータを受け取り、その結果は、それを使って作業する場所、つまりCRM、ERP、メールソフトに戻ります。測定しやすいタスクを1つ選んで始め、必要なデータだけを渡し、誤りが金銭的な損失につながる場面では人がステップを承認することをお勧めします。
これは実際には何を意味しますか?
大規模言語モデル(large language model、LLM)は、テキストを解釈し、生成します。企業で使う場合、それは社員がテキストをコピーして出し入れする独立したチャットウィンドウではなく、企業独自のプログラムがプログラミングインターフェース、つまりAPI(application programming interface)を通じて呼び出すサービスです。モデルはタスクに必要なデータを受け取って言語処理を行い、その結果はプログラムが確認とログ記録を行ったうえで、適切なシステムへと引き継ぎます。
ほぼすべての連携で、次の5つの言語処理が登場します:
- 読み取り: 請求書、納品書、受信メールが、顧客、明細、期限といった構造化されたデータになります。
- 分類: システムが、メールがクレームなのか、見積もり依頼なのか、請求に関する質問なのかを判断し、適切なキューに振り分けます。
- 要約: 顧客との長いメールのやり取りが、CRM上の数文の経緯メモになります。
- 文章作成: 返信の下書き、見積書の文面、商品説明文を作成し、社員が確認します。
- 回答: 社員がふだんの言葉で、企業の文書やデータに質問します。
システムが回答するだけでなく、複数のステップで自律的に行動する必要もある場合、それはもうAIエージェントです。両者の違いについてはチャットボットか、AIエージェントか?の記事でご説明しています。モデルが企業独自の文書をもとに回答する必要がある場合、その手法はRAGで、別の記事でご紹介しています。
3つの連携パターン
APIとWebhook
ほとんどの企業システム(CRM、ERP、ECサイト、請求書発行サービス、メール)はAPIを備えており、ほかのプログラムはそれを通じてデータを読み出したり書き込んだりできます。Webhookはその逆で、何かが起きたとき(たとえば注文やメールが届いたとき)に、システム自身があらかじめ指定されたアドレスに通知します。最もシンプルなAI統合は、この2つで構成されます。イベントが当社独自のサービスを起動し、そのサービスが言語モデルのAPIを呼び出して結果を確認し、対象システムのAPIを通じて書き込みます。このパターンでは、モデルはどの企業システムにも直接アクセスしません。すべてを当社のコードが行い、何をモデルに渡してよいか、何を戻してよいかもそこで決まります。
ツール呼び出し(tool use)
ツール呼び出し(関数呼び出しとも呼ばれ、Anthropicではtool use、つまりツールの使用と呼ばれます)により、モデルは、データや操作が必要になるタイミングを自分で判断できます。開発者は利用できる関数(たとえば「注文状況の照会」)をモデルに説明し、モデルは質問に応じて、必要なパラメーターを含む構造化された呼び出しを返します。大手3社のドキュメントはいずれも、関数を実行するのはモデルではなくアプリケーションだとしています。OpenAIの説明ではコードはアプリケーション側で実行され、Anthropicによれば独自のツールはアプリケーションが実行し、Google Geminiのドキュメントは、モデル自身は関数を実行しないと明言しています。ここから最も重要な設計原則が導かれます。権限の確認は当社のコードの中にあり、モデルの善意には左右されません。OpenAIとAnthropicは、呼び出しのパラメーターが指定したスキーマに正確に従うことを保証する厳格(strict)モードも提供しています。ただしAnthropicのドキュメントは、データが欠けているとモデルがもっともらしい値を作り出すことがあるとも注意を促しているため、パラメーターはコードでも確認する必要があります。
Model Context Protocol(MCP)
MCPはオープンなプロトコルで、その仕様によれば、言語モデルを使うアプリケーションが外部のデータソースやツールに接続するための統一的な方法を提供します。登場するのは3つの役割です。ホスト(host)、つまり言語モデルを使うアプリケーション、その中で動くクライアント、そしてデータ(resources)、指示のテンプレート(prompts)、呼び出し可能なツール(tools)を提供するサーバーです。メッセージはJSON-RPC 2.0形式で、仕様の最新版は2026-07-28版です(2026年10月17日確認)。
MCPの利点は、1つのシステムに対してサーバーを一度書けば、それを複数のAIアプリケーションで使えることです。AnthropicのAPI、OpenAIのAPI、Gemini APIは、いずれもリモートのMCPサーバーに接続できます(2026年10月17日確認)。ただし、このプロトコルがすべてのセキュリティ上の問題を解決するわけではありません。仕様のセキュリティ原則によれば、ホストアプリケーションはツールを呼び出す前に必ずユーザーの明示的な同意を得なければなりませんが、プロトコル自体はこれを強制できず、実装する側が組み込む必要があります。OpenAIはさらに、悪意のあるサーバーが、モデルのコンテキストに入った機密データを外部に流出させるおそれがあると注意を促しています。そのため企業の環境では、自社のサーバーか、信頼できる提供元のサーバーだけが選択肢になります。
| パターン | 適している用途 | 注意点 |
|---|---|---|
| APIとWebhook | 固定された予測可能なプロセス:すべてのメール、すべての請求書が同じ経路をたどる | すべてのステップを、エラー処理や再試行も含めて事前に設計する必要がある |
| ツール呼び出し | 質問に応じて、モデルがデータを取得したり操作を開始したりする必要がある場合 | 関数の範囲とその権限。モデルが誤ったパラメーターを渡すこともある |
| MCP | 複数のAIアプリケーションが同じシステムにアクセスする必要がある場合 | 信頼できるサーバーのみ。ツール呼び出しの前の承認 |
何に使えますか?典型的なタスク
| 分野 | タスク | 代表的なパターン | 人による承認 |
|---|---|---|---|
| 文書 | 請求書、納品書、契約書のデータの読み取りと、注文との照合 | 固定スキーマで出力するAPI | 不一致や読み取りが不確かな場合 |
| メール | 受信メールの分類と転送、返信の下書き | WebhookとAPI | 返信を送信する前 |
| CRM | 顧客履歴の要約、次のステップの提案 | 読み取り権限でのツール呼び出し | 提案にすぎないため不要 |
| ERP | ふだんの言葉によるデータへの質問、レポートの作成 | 読み取り権限でのツール呼び出し | 操作がデータを変更する場合 |
| ECサイト | 商品説明文、翻訳、より精度の高い検索 | API | テキストを公開する前 |
| 社内ナレッジ | 規程やマニュアルをもとにした質疑応答 | RAG | 回答が出典を示す場合は不要 |
当社のサービスについてはAI統合のページで、複数のシステムにまたがる自動化されたプロセスについては業務プロセス自動化のページで、ERPやCRMに組み込まれたAIについては業務ソフトウェアのページで、詳しくご覧いただけます。
データの流れとデータ保護:何がどこへ行きますか?
AI統合はデータ処理でもあります。そのため設計の最初のステップは、シンプルなデータフロー図です。どの項目が企業のシステムの外に出るのか、どのプロバイダーに渡るのか、どの地域で処理されるのか、プロバイダーがどのくらいの期間保存するのか、そして何が戻ってくるのかを描きます。プロバイダーの条件は頻繁に変わります。以下は、各プロバイダー自身のドキュメントに基づいています(2026年10月17日確認)。
プロバイダーは何と説明していますか?
- OpenAI: データ管理に関するドキュメントによれば、APIで送信されたデータは、顧客が明示的に同意しない限り、モデルの学習には使用されません。不正利用監視のログは、デフォルトで最長30日間保持されます。欧州(EEAとスイス)でのデータ保存と処理は、別途の承認を得たうえで、特定のデータ保持設定のもとで利用できます。
- Anthropic: プライバシーセンターによれば、APIを含む商用製品の入力と出力は、デフォルトでモデルの学習に使用されず、APIについては、記載された例外を除き、原則として30日以内に削除されます。Anthropic自身のAPIでは、ドキュメントによれば処理場所を「us」または「global」にでき、Amazon BedrockとGoogle Cloudでは、選択したエンドポイントによって地域が決まります。
- Google: Gemini APIの利用規約によれば、有料サービスでは、Googleはプロンプトと回答を自社製品の改善に使用せず、不正利用を検出するために限られた期間だけログに記録します。EEA、スイス、英国に住むユーザーに提供するアプリケーションは、有料サービスを基盤としたものに限られます。Google Cloud Vertex AIのデータ所在地に関する説明によれば、EUのマルチリージョンエンドポイントでは処理がEU域内にとどまりますが、グローバルエンドポイントにはそのような保証がありません。どのモデルがどの地域で利用できるかは、モデルによって異なります。
GDPRの観点
モデルに個人データが渡る場合、その処理にはGDPRが適用されます。この場合、モデルのプロバイダーは一般的に処理者にあたるため、一般データ保護規則第28条第3項に基づく契約をプロバイダーと結ぶ必要があります。第5条はデータ最小化を定め、第25条は、データ保護バイデザインの手段の例として仮名化を挙げています。実務上は、次のことを意味します:
- タスクに必要な項目だけがモデルに渡ります。
- 氏名や識別子は可能な限りマスキングまたは仮名化し、回答は当社自身のシステムの中で元のデータと照合し直します。
- モデルが参照できるのは、質問したユーザー自身が閲覧できる範囲に限られます。
- 誰が、いつ、どのデータでモデルを呼び出したのかをログに記録します。
EU域外へのデータ移転、透明性、AI Actについては、AI ActとGDPR:企業のチャットボットでは何に注意すべきですか?の記事でご説明しています。これは情報提供であり、法的助言ではありません。
人による承認が必要なのはどこですか?
言語モデルは誤ることがあり、OpenAIの評価に関するガイドによれば、同じ入力に対して常に同じ出力を返すとも限りません。そのため、モデルの誤りが損害を生まないようにプロセスを設計することをお勧めします。当社は3つのレベルを区別しています:
- 提案: モデルは提案するだけで(要約する、下書きを書く、カテゴリーを提案する)、判断と操作は人が行います。ここでは誤りの代償は小さくなります。
- 準備された操作: モデルがステップを準備し(クレームの入力、返信の作成)、社員がワンクリックで承認または修正します。
- 自動の操作: ステップは承認なしで実行されますが、権限を絞り、件数の上限を設け、ログを記録し、抜き取り検査を行うことが条件です。
目安となるルールは次のとおりです。誤りが金銭的な損失につながる場面、お客様に影響する場面、取り消しのできない場面(支払い、請求書、契約、お客様へのメール)では、人がステップを承認します。OWASP GenAI Security Projectのリスク一覧も、過剰な代理行為(Excessive Agency)について同じことを述べています。モデルにはタスクに必要なツールだけを、可能な限り狭い権限で与え、影響の大きい操作の前には人が承認し、操作はユーザー自身の権限で実行し、すべてのステップをログに記録するべきだとしています。
別のリスクとしてプロンプトインジェクションがあります。モデルが外部のコンテンツ(受信メール、アップロードされた文書、ウェブページ)を読む場合、その中に、指示としてモデルを操ろうとするテキストが含まれていることがあります。OWASPはこれに対して、必要最小限の権限、特権的な操作の前の人による承認、そして外部コンテンツを分離し、信頼できないものとして明示して扱うことを勧めています。
テストと監視
AI統合の良し悪しは、デモで説得力があるかどうかではなく、企業の実際の資料で測定できる形でうまく機能するかどうかで決まります。OpenAIの評価に関するガイドによれば、テストデータには典型的なケース、極端なケース、意図的に誤解を招くケースも含める必要があり、評価は変更のたびに実行し直す必要があります。Anthropicは、具体的で測定可能な成功基準と、実際のタスクを反映したテストセットを勧めています。当社は次のように構築します:
- 評価セット: 期待される結果(たとえば読み取るべき項目や正しいカテゴリー)を付けた、必要に応じて匿名化した実際のサンプルです。
- 本番稼働前の測定: 候補となるモデルとプロンプトを、このセットで比較します。
- 変更のたびの再測定: 新しいプロンプト、新しいモデルバージョン、新しい種類の文書が加わった場合に行います。
- ログ記録: 入力、出力、モデルとプロンプトのバージョン、そして人による修正を記録します。ログは、次の評価ケースの供給源にもなります。
- 監視: エラー率、人による修正の割合、応答時間、トークン使用量を、アラート付きで監視します。
モデルは永遠に使えるわけではありません。AnthropicもOpenAIも古いモデルを定期的に提供終了とし、そのことを事前に顧客に通知しています。提供終了となったモデルに送られた要求は、エラーを返します。そのため当社はモデルを独立したレイヤーに分け、切り替えは本番環境に移す前に、同じ評価セットで測定します。
どのモデルを選ぶべきですか?
すべてのタスクに等しく優れたモデルはないため、選択はブランドへの忠誠ではなく、測定の問題です。当社の判断基準は次のとおりです:
- 企業独自のサンプルにおける、ハンガリー語の文章の品質。
- タスクの性質:テキスト、スキャンした文書、画像、表。
- ツール呼び出しと構造化出力の信頼性。
- 想定される量での速度と利用料金。
- データ取り扱いの条件と処理場所。
- 可用性とモデルのライフサイクル。
1つのシステムの中で複数のモデルが動いていることもよくあります。分類にはより高速で小さなモデルを、複雑なテキストにはより高性能なモデルを使う、といった形です。モデルは独立したレイヤーにあるため、この判断はあとから変更できます。
費用は何によって決まりますか?
費用は2つの部分から成ります。開発費は機能規模から決まり、機能規模はCOSMICファンクションポイントで測定します。手法は料金の考え方のページでご説明しています。実行にかかる費用は従量課金です。プロバイダーは、処理されたテキストと生成されたテキストの量、つまりトークン数に応じて請求します。またAnthropicの説明によれば、モデルに渡すツールの説明も入力トークンとして数えられます。実行費用に影響するのは次の要素です:
- 処理する文書とメールの数と長さ。
- 1つのプロセスあたりのモデル呼び出しの回数(複数のステップで動くエージェントは、呼び出しが多くなります)。
- 選択したモデル。
- モデルに渡すコンテキストとツールの説明の大きさ。
- 特別な設定。たとえば地理的に限定された処理で、プロバイダーがより高い料金を設定している場合があります。
実行費用は、設計段階で企業の実際のサンプルをもとに見積もり、モデル選びの際にも考慮します。
ステップごとに:始め方
- タスクを1つ選ぶ: たとえば受信したクレームの分類のように、頻繁に発生し、言語が中心で、目標を測定できる作業です。
- データの流れを描く: データがどこから来て、何をモデルに渡してよく、結果がどこに行き、誰が承認するのか。
- サンプルと評価セット: 期待される結果を付けた、匿名化した実際の例。
- プロトタイプ: 本番環境に接続する前に、候補となるモデルをサンプルで比較します。
- 接続: API、Webhook、ツール呼び出し、MCPを、権限、エラー処理、ログ記録とともに構築します。
- 試験運用: 限られた範囲で、すべてのステップを人が承認しながら運用し、修正から学びます。
- 拡張と運用: 測定で裏付けられた場面では承認の範囲を絞り込み、監視とモデルの切り替えは継続的に行います。
典型的な失敗
- 連携ではなくチャットウィンドウ: 社員が汎用のAI画面に手作業でコピーするため、データが確認されないまま社外に出て、何も測定できません。
- 多すぎる権限: 連携用アカウントがアクセスできるものすべてに、モデルがアクセスできてしまいます。
- 評価セットがない: 品質は印象で、モデルの切り替えは当て推量で判断されます。
- コードに固定されたモデル: モデルが提供終了になると、連携全体を書き直さなければなりません。
- 最後に回されるデータ保護: データフロー図とデータ処理契約は、あとからでは格段に難しくなります。
- すべてを一度に: 1つのプロジェクトに5つのプロセスを詰め込み、測定もしないと、どれも本当には完成しません。
よくあるご質問
どのモデルを選ぶべきですか?
企業独自のサンプルで、そのタスクにおいて測定上最も良い結果を出し、料金が許容範囲で、データ取り扱いの条件が適切なモデルです。当社はOpenAI、Anthropic、Googleのモデルを使い、候補を企業の事例で比較します。モデルは独立したレイヤーにあるため、この判断はあとから変更できます。
企業のデータをAIサービスに送っても安全ですか?
適切に設計すれば安全ですが、自動的にそうなるわけではありません。大手プロバイダーのビジネス向けAPIは、各社のドキュメントによれば、送信されたデータをデフォルトではモデルの学習に使用しません(2026年10月17日確認)。ただし、保存期間と保存場所はプロバイダーや設定によって異なります。必要なデータだけを外部に出し、個人データは可能な限り仮名化し、データ処理契約を結び、処理場所を意識的に選ぶことは、企業側の責任です。これは情報提供であり、法的助言ではありません。
既存のシステムを置き換える必要がありますか?
いいえ。連携は既存システムのAPI、Webhook、データベース、ファイルエクスポートを土台にし、結果はこれまで作業してきた場所に戻ります。古いシステムにプログラミングインターフェースがない場合は、そのデータに安全にアクセスできる方法を検討します。
MCPとは何ですか?
Model Context Protocolは、言語モデルを使うアプリケーションを、外部のデータソースやツールと統一的な方法で接続するオープンなプロトコルです。同じシステムに複数のAIアプリケーションがアクセスする場合に役立ちます。企業の環境では、信頼できるサーバーに限り、ツール呼び出しの前の承認と組み合わせて使うことをお勧めします。
AIが誤った場合はどうなりますか?
誤りは起こるものとして想定し、誤りが損害を生まないようにプロセスを設計します。コードが出力を確認し(スキーマと業務ルール。たとえば請求書の合計金額が明細の合計と一致するかどうか)、リスクのあるステップの前には人が承認し、不確かなケースは担当者に回し、すべてをログに記録します。見つかった誤りは評価セットに追加するため、修正の効果を測定できます。
当社がお手伝いできること
当社は、存在するあらゆるものを人工知能でつなぎます。OpenAI(ChatGPT)、Anthropic(Claude)、Google(Gemini)の言語モデルを、企業の既存のシステムに組み込みます。初回のご相談は無料です。開発の規模はCOSMICファンクションポイントで測定し、そこからお見積もりとスケジュールを作成します。ご要望に応じて秘密保持契約(NDA)を締結します。引き渡し後は、モデルの動作の監視を含め、運用・保守もお引き受けします。ソースコードと利用権の扱いは、契約で定めます。
詳しくはAI統合のページをご覧ください。人工知能でつなぎたいプロセスがありましたら、お問い合わせのページに記載の連絡先までご連絡ください。
出典
- OpenAI: Function calling
- OpenAI: Data controls in the OpenAI platform
- OpenAI: MCP servers
- OpenAI: Evaluation best practices
- OpenAI: Deprecations
- Anthropic: Tool use with Claude
- Anthropic: Data residency
- Anthropic: Define success criteria and build evaluations
- Anthropic: Model deprecations
- Anthropic Privacy Center: Is my data used for model training?
- Anthropic Privacy Center: How long do you store my organization's data?
- Google Gemini API: Function calling
- Google: Gemini API Additional Terms of Service
- Google Cloud Vertex AI: Data residency
- Model Context Protocol: Specification, 2026-07-28
- OWASP GenAI Security Project: LLM06:2025 Excessive Agency
- OWASP GenAI Security Project: LLM01:2025 Prompt Injection
- EUR-Lex:規則(EU)2016/679(一般データ保護規則、GDPR)