Ep.1600 NEC「cotomi Gateway」提供開始──企業のAI活用を阻むトークンコストと機密漏洩を同時解決（2026年11月9日配信）

タイトル

NEC「cotomi Gateway」提供開始──企業のAI活用を阻むトークンコストと機密漏洩を同時解決

このエピソードで登場するキーワードを説明します。

NEC: 国内大手の情報通信技術企業。価値創造モデル「BluStellar」を軸に、独自の生成AI「cotomi」を中心とした法人向けAIソリューションを展開している。

cotomi: NECが開発した生成AIのコア技術および大規模言語モデルのブランド。高い日本語処理性能と業務特化型の軽量モデルを特徴とする。

トークン: 大規模言語モデルがテキストを処理する際の最小単位。クラウド型の商用AIサービスでは、入出力されるトークン量に応じた従量課金制が一般的となっている。

モデルルーティング: ユーザーからの指示内容や難易度、機密性に応じて、複数の異なるAIモデルの中から最適なものを自動的に選択して処理を振り分ける技術。

AX (AI Transformation): 企業活動や業務プロセス全体を、AIによる自動実行や協調を前提とした状態へと抜本的に再設計・変革する取り組み。

それでは解説に入ります。

NECは2026年11月5日、企業がAIを活用する際の機密情報保護とトークンコストの最適化を同時に実現する新サービス「cotomi Gateway」を、2026年11月より提供開始すると発表しました。まずはソフトウェア版として税別月額100万円から提供を始め、その後順次SaaS形態での展開も予定されています。

現在、多くの企業で生成AIが実業務へ深く組み込まれる一方、二つの大きな経営課題が浮上しています。一つ目は、高度な推論能力を持つ外部の商用AIモデルに社内の機密データを入力することへのセキュリティリスクです。もう一つは、AIエージェントの普及や長文コンテキストの処理増加に伴って、クラウドAI利用料であるトークン課金が雪だるま式に膨れ上がるコスト問題です。すべての業務問い合わせに対して最高性能かつ高単価な巨大モデルを呼び出し続ければ、企業のIT予算はたちまち圧迫されてしまいます。

今回発表された「cotomi Gateway」は、社内の既存システムと複数のAIモデルの中間に位置する共通ゲートウェイとして機能し、これらの課題を技術的に解決します。最大の特長は、高度なコスト最適化機能です。入力されたプロンプトの冗長な表現や不要な情報を自動で圧縮してトークン消費量そのものを削減するほか、軽量な回帰モデルや統計モデルを用いて、タスクの難易度や過去の会話履歴、キャッシュ状況などをリアルタイムに分析します。その上で、高度な推論が不要な定型処理は低コストな軽量モデルへ、複雑な思考が求められる処理は高性能モデルへと自動で振り分けるモデルルーティングを実行し、回答品質を維持したまま利用コストを大幅に引き下げます。

セキュリティ面では、プロンプトに含まれる個人情報や社外秘データを自動で検知してマスキング処理を施し、秘匿化した状態で外部のクラウドAIモデルへ問い合わせを行う仕組みを備えています。さらに、文脈上マスキングすると正確な処理が困難になるような高度な機密タスクについては、ゲートウェイが自動的に判断し、企業内のオンプレミス環境で稼働するNEC製のセキュアなAIモデルなどへルーティングを切り替えます。これにより、現場の従業員がいちいちデータの機密区分や送り先のモデルを意識することなく、単一のインターフェースから安全にAIを使い倒せる環境が整います。また、管理者向けにはリアルタイムのダッシュボードが提供され、全社でのAI利用実績やコスト削減効果を可視化してガバナンスを効かせることが可能です。

この取り組みは、NECが2026年4月24日に発表した、100以上のAI関連機能を集約した基盤「AI Platform Service」の中核機能を成すものです。同社はシスコシステムズとの協業によるAIガバナンス機能の統合や、独自のAI制御技術の実装を進めており、自社の価値創造モデルである「BluStellar」のシナリオにも今回のゲートウェイを組み込んでいきます。グローバルのIT市場を見渡しても、OpenAIやAnthropic、Googleなど多様なモデルを適材適所で使い分けるマルチモデル運用がエンタープライズの標準となりつつあり、CloudflareのAI GatewayやオープンソースのLiteLLMなど、AIゲートウェイ領域の競争が急速に熱を帯びています。NECの「cotomi Gateway」は、こうしたグローバルトレンドを押さえつつ、日本企業が特に重視するオンプレミス環境とのハイブリッド運用や厳格なデータ秘匿化をワンストップで実装した点に強い競争力があります。単なるAIの導入期を終え、いかにして安全性と経済性を担保しながら全社的なAXを推進するかという運用フェーズにおいて、こうしたインテリジェントなゲートウェイ層の導入は今後の企業インフラの必須要件となっていきそうです。

今回のエピソードは以上で終了です。また次回お会いしましょう。