企業のシステムを人工知能とどのようにつなげばよいですか?

ブダペストのソフトウェア開発会社であるMesterséges Intelligencia Központ Kft. の考えでは、言語モデルをAPIを通じて既存の業務フローに組み込むのがその方法です。システムはそのまま残り、モデルが読み取り、分類、要約、文章作成を担います。

要点: 既存のシステムを置き換える必要はありません。言語モデルはプログラミングインターフェースを通じてタスクとデータを受け取り、その結果は、それを使って作業する場所、つまりCRM、ERP、メールソフトに戻ります。測定しやすいタスクを1つ選んで始め、必要なデータだけを渡し、誤りが金銭的な損失につながる場面では人がステップを承認することをお勧めします。

これは実際には何を意味しますか?

大規模言語モデル(large language model、LLM)は、テキストを解釈し、生成します。企業で使う場合、それは社員がテキストをコピーして出し入れする独立したチャットウィンドウではなく、企業独自のプログラムがプログラミングインターフェース、つまりAPI(application programming interface)を通じて呼び出すサービスです。モデルはタスクに必要なデータを受け取って言語処理を行い、その結果はプログラムが確認とログ記録を行ったうえで、適切なシステムへと引き継ぎます。

ほぼすべての連携で、次の5つの言語処理が登場します:

システムが回答するだけでなく、複数のステップで自律的に行動する必要もある場合、それはもうAIエージェントです。両者の違いについてはチャットボットか、AIエージェントか?の記事でご説明しています。モデルが企業独自の文書をもとに回答する必要がある場合、その手法はRAGで、別の記事でご紹介しています。

3つの連携パターン

APIとWebhook

ほとんどの企業システム(CRM、ERP、ECサイト、請求書発行サービス、メール)はAPIを備えており、ほかのプログラムはそれを通じてデータを読み出したり書き込んだりできます。Webhookはその逆で、何かが起きたとき(たとえば注文やメールが届いたとき)に、システム自身があらかじめ指定されたアドレスに通知します。最もシンプルなAI統合は、この2つで構成されます。イベントが当社独自のサービスを起動し、そのサービスが言語モデルのAPIを呼び出して結果を確認し、対象システムのAPIを通じて書き込みます。このパターンでは、モデルはどの企業システムにも直接アクセスしません。すべてを当社のコードが行い、何をモデルに渡してよいか、何を戻してよいかもそこで決まります。

ツール呼び出し(tool use)

ツール呼び出し(関数呼び出しとも呼ばれ、Anthropicではtool use、つまりツールの使用と呼ばれます)により、モデルは、データや操作が必要になるタイミングを自分で判断できます。開発者は利用できる関数(たとえば「注文状況の照会」)をモデルに説明し、モデルは質問に応じて、必要なパラメーターを含む構造化された呼び出しを返します。大手3社のドキュメントはいずれも、関数を実行するのはモデルではなくアプリケーションだとしています。OpenAIの説明ではコードはアプリケーション側で実行され、Anthropicによれば独自のツールはアプリケーションが実行し、Google Geminiのドキュメントは、モデル自身は関数を実行しないと明言しています。ここから最も重要な設計原則が導かれます。権限の確認は当社のコードの中にあり、モデルの善意には左右されません。OpenAIとAnthropicは、呼び出しのパラメーターが指定したスキーマに正確に従うことを保証する厳格(strict)モードも提供しています。ただしAnthropicのドキュメントは、データが欠けているとモデルがもっともらしい値を作り出すことがあるとも注意を促しているため、パラメーターはコードでも確認する必要があります。

Model Context Protocol(MCP)

MCPはオープンなプロトコルで、その仕様によれば、言語モデルを使うアプリケーションが外部のデータソースやツールに接続するための統一的な方法を提供します。登場するのは3つの役割です。ホスト(host)、つまり言語モデルを使うアプリケーション、その中で動くクライアント、そしてデータ(resources)、指示のテンプレート(prompts)、呼び出し可能なツール(tools)を提供するサーバーです。メッセージはJSON-RPC 2.0形式で、仕様の最新版は2026-07-28版です(2026年10月17日確認)。

MCPの利点は、1つのシステムに対してサーバーを一度書けば、それを複数のAIアプリケーションで使えることです。AnthropicのAPI、OpenAIのAPI、Gemini APIは、いずれもリモートのMCPサーバーに接続できます(2026年10月17日確認)。ただし、このプロトコルがすべてのセキュリティ上の問題を解決するわけではありません。仕様のセキュリティ原則によれば、ホストアプリケーションはツールを呼び出す前に必ずユーザーの明示的な同意を得なければなりませんが、プロトコル自体はこれを強制できず、実装する側が組み込む必要があります。OpenAIはさらに、悪意のあるサーバーが、モデルのコンテキストに入った機密データを外部に流出させるおそれがあると注意を促しています。そのため企業の環境では、自社のサーバーか、信頼できる提供元のサーバーだけが選択肢になります。

パターン適している用途注意点
APIとWebhook固定された予測可能なプロセス:すべてのメール、すべての請求書が同じ経路をたどるすべてのステップを、エラー処理や再試行も含めて事前に設計する必要がある
ツール呼び出し質問に応じて、モデルがデータを取得したり操作を開始したりする必要がある場合関数の範囲とその権限。モデルが誤ったパラメーターを渡すこともある
MCP複数のAIアプリケーションが同じシステムにアクセスする必要がある場合信頼できるサーバーのみ。ツール呼び出しの前の承認

何に使えますか?典型的なタスク

分野タスク代表的なパターン人による承認
文書請求書、納品書、契約書のデータの読み取りと、注文との照合固定スキーマで出力するAPI不一致や読み取りが不確かな場合
メール受信メールの分類と転送、返信の下書きWebhookとAPI返信を送信する前
CRM顧客履歴の要約、次のステップの提案読み取り権限でのツール呼び出し提案にすぎないため不要
ERPふだんの言葉によるデータへの質問、レポートの作成読み取り権限でのツール呼び出し操作がデータを変更する場合
ECサイト商品説明文、翻訳、より精度の高い検索APIテキストを公開する前
社内ナレッジ規程やマニュアルをもとにした質疑応答RAG回答が出典を示す場合は不要

当社のサービスについてはAI統合のページで、複数のシステムにまたがる自動化されたプロセスについては業務プロセス自動化のページで、ERPやCRMに組み込まれたAIについては業務ソフトウェアのページで、詳しくご覧いただけます。

データの流れとデータ保護:何がどこへ行きますか?

AI統合はデータ処理でもあります。そのため設計の最初のステップは、シンプルなデータフロー図です。どの項目が企業のシステムの外に出るのか、どのプロバイダーに渡るのか、どの地域で処理されるのか、プロバイダーがどのくらいの期間保存するのか、そして何が戻ってくるのかを描きます。プロバイダーの条件は頻繁に変わります。以下は、各プロバイダー自身のドキュメントに基づいています(2026年10月17日確認)。

プロバイダーは何と説明していますか?

GDPRの観点

モデルに個人データが渡る場合、その処理にはGDPRが適用されます。この場合、モデルのプロバイダーは一般的に処理者にあたるため、一般データ保護規則第28条第3項に基づく契約をプロバイダーと結ぶ必要があります。第5条はデータ最小化を定め、第25条は、データ保護バイデザインの手段の例として仮名化を挙げています。実務上は、次のことを意味します:

EU域外へのデータ移転、透明性、AI Actについては、AI ActとGDPR:企業のチャットボットでは何に注意すべきですか?の記事でご説明しています。これは情報提供であり、法的助言ではありません。

人による承認が必要なのはどこですか?

言語モデルは誤ることがあり、OpenAIの評価に関するガイドによれば、同じ入力に対して常に同じ出力を返すとも限りません。そのため、モデルの誤りが損害を生まないようにプロセスを設計することをお勧めします。当社は3つのレベルを区別しています:

目安となるルールは次のとおりです。誤りが金銭的な損失につながる場面、お客様に影響する場面、取り消しのできない場面(支払い、請求書、契約、お客様へのメール)では、人がステップを承認します。OWASP GenAI Security Projectのリスク一覧も、過剰な代理行為(Excessive Agency)について同じことを述べています。モデルにはタスクに必要なツールだけを、可能な限り狭い権限で与え、影響の大きい操作の前には人が承認し、操作はユーザー自身の権限で実行し、すべてのステップをログに記録するべきだとしています。

別のリスクとしてプロンプトインジェクションがあります。モデルが外部のコンテンツ(受信メール、アップロードされた文書、ウェブページ)を読む場合、その中に、指示としてモデルを操ろうとするテキストが含まれていることがあります。OWASPはこれに対して、必要最小限の権限、特権的な操作の前の人による承認、そして外部コンテンツを分離し、信頼できないものとして明示して扱うことを勧めています。

テストと監視

AI統合の良し悪しは、デモで説得力があるかどうかではなく、企業の実際の資料で測定できる形でうまく機能するかどうかで決まります。OpenAIの評価に関するガイドによれば、テストデータには典型的なケース、極端なケース、意図的に誤解を招くケースも含める必要があり、評価は変更のたびに実行し直す必要があります。Anthropicは、具体的で測定可能な成功基準と、実際のタスクを反映したテストセットを勧めています。当社は次のように構築します:

モデルは永遠に使えるわけではありません。AnthropicもOpenAIも古いモデルを定期的に提供終了とし、そのことを事前に顧客に通知しています。提供終了となったモデルに送られた要求は、エラーを返します。そのため当社はモデルを独立したレイヤーに分け、切り替えは本番環境に移す前に、同じ評価セットで測定します。

どのモデルを選ぶべきですか?

すべてのタスクに等しく優れたモデルはないため、選択はブランドへの忠誠ではなく、測定の問題です。当社の判断基準は次のとおりです:

1つのシステムの中で複数のモデルが動いていることもよくあります。分類にはより高速で小さなモデルを、複雑なテキストにはより高性能なモデルを使う、といった形です。モデルは独立したレイヤーにあるため、この判断はあとから変更できます。

費用は何によって決まりますか?

費用は2つの部分から成ります。開発費は機能規模から決まり、機能規模はCOSMICファンクションポイントで測定します。手法は料金の考え方のページでご説明しています。実行にかかる費用は従量課金です。プロバイダーは、処理されたテキストと生成されたテキストの量、つまりトークン数に応じて請求します。またAnthropicの説明によれば、モデルに渡すツールの説明も入力トークンとして数えられます。実行費用に影響するのは次の要素です:

実行費用は、設計段階で企業の実際のサンプルをもとに見積もり、モデル選びの際にも考慮します。

ステップごとに:始め方

  1. タスクを1つ選ぶ: たとえば受信したクレームの分類のように、頻繁に発生し、言語が中心で、目標を測定できる作業です。
  2. データの流れを描く: データがどこから来て、何をモデルに渡してよく、結果がどこに行き、誰が承認するのか。
  3. サンプルと評価セット: 期待される結果を付けた、匿名化した実際の例。
  4. プロトタイプ: 本番環境に接続する前に、候補となるモデルをサンプルで比較します。
  5. 接続: API、Webhook、ツール呼び出し、MCPを、権限、エラー処理、ログ記録とともに構築します。
  6. 試験運用: 限られた範囲で、すべてのステップを人が承認しながら運用し、修正から学びます。
  7. 拡張と運用: 測定で裏付けられた場面では承認の範囲を絞り込み、監視とモデルの切り替えは継続的に行います。

典型的な失敗

よくあるご質問

どのモデルを選ぶべきですか?

企業独自のサンプルで、そのタスクにおいて測定上最も良い結果を出し、料金が許容範囲で、データ取り扱いの条件が適切なモデルです。当社はOpenAI、Anthropic、Googleのモデルを使い、候補を企業の事例で比較します。モデルは独立したレイヤーにあるため、この判断はあとから変更できます。

企業のデータをAIサービスに送っても安全ですか?

適切に設計すれば安全ですが、自動的にそうなるわけではありません。大手プロバイダーのビジネス向けAPIは、各社のドキュメントによれば、送信されたデータをデフォルトではモデルの学習に使用しません(2026年10月17日確認)。ただし、保存期間と保存場所はプロバイダーや設定によって異なります。必要なデータだけを外部に出し、個人データは可能な限り仮名化し、データ処理契約を結び、処理場所を意識的に選ぶことは、企業側の責任です。これは情報提供であり、法的助言ではありません。

既存のシステムを置き換える必要がありますか?

いいえ。連携は既存システムのAPI、Webhook、データベース、ファイルエクスポートを土台にし、結果はこれまで作業してきた場所に戻ります。古いシステムにプログラミングインターフェースがない場合は、そのデータに安全にアクセスできる方法を検討します。

MCPとは何ですか?

Model Context Protocolは、言語モデルを使うアプリケーションを、外部のデータソースやツールと統一的な方法で接続するオープンなプロトコルです。同じシステムに複数のAIアプリケーションがアクセスする場合に役立ちます。企業の環境では、信頼できるサーバーに限り、ツール呼び出しの前の承認と組み合わせて使うことをお勧めします。

AIが誤った場合はどうなりますか?

誤りは起こるものとして想定し、誤りが損害を生まないようにプロセスを設計します。コードが出力を確認し(スキーマと業務ルール。たとえば請求書の合計金額が明細の合計と一致するかどうか)、リスクのあるステップの前には人が承認し、不確かなケースは担当者に回し、すべてをログに記録します。見つかった誤りは評価セットに追加するため、修正の効果を測定できます。

当社がお手伝いできること

当社は、存在するあらゆるものを人工知能でつなぎます。OpenAI(ChatGPT)、Anthropic(Claude)、Google(Gemini)の言語モデルを、企業の既存のシステムに組み込みます。初回のご相談は無料です。開発の規模はCOSMICファンクションポイントで測定し、そこからお見積もりとスケジュールを作成します。ご要望に応じて秘密保持契約(NDA)を締結します。引き渡し後は、モデルの動作の監視を含め、運用・保守もお引き受けします。ソースコードと利用権の扱いは、契約で定めます。

詳しくはAI統合のページをご覧ください。人工知能でつなぎたいプロセスがありましたら、お問い合わせのページに記載の連絡先までご連絡ください。

出典