Ep.1594 Moonshot AI、2.8兆パラメータの「Kimi K3.1 Pro」の重みを無償公開──オープンウェイトが迫るフロンティアAIの牙城(2026年11月6日配信)
2026-11-06 05:59

Ep.1594 Moonshot AI、2.8兆パラメータの「Kimi K3.1 Pro」の重みを無償公開──オープンウェイトが迫るフロンティアAIの牙城(2026年11月6日配信)

タイトル


Moonshot AI、2.8兆パラメータの「Kimi K3.1 Pro」の重みを無償公開──オープンウェイトが迫るフロンティアAIの牙城


このエピソードで登場するキーワードを説明します。


Moonshot AI: 2023年に設立された中国のAIスタートアップ。長文脈処理に強みを持つ対話型AI「Kimi」シリーズを開発している。


MoE (Mixture-of-Experts): 複数の専門化されたサブネットワークを束ね、入力トークンごとに必要な一部のみを稼働させることで、計算コストを抑えつつ総パラメータ数を巨大化するアーキテクチャ。


QAT (Quantization-Aware Training): モデルの学習段階から低ビット化の誤差を計算に組み込むことで、推論時の精度劣化を防ぎつつモデル容量とメモリ消費を大幅に圧縮する技術。


Gated DSA (Gated DeepSeek Sparse Attention): 長大な文脈を処理する際、重要なトークンに絞って注意機構を適用することで計算効率を高めるスパースアテンション技術。


それでは解説に入ります。


中国のAIスタートアップであるMoonshot AIは2026年11月4日、総パラメータ数2.8兆を誇るマルチモーダルAIモデル「Kimi K3.1 Pro」のモデルウェイトをHugging Face上で一般公開しました。2026年10月23日からのAPIおよび公式アプリでの先行提供に続く措置であり、米国の最先端プロプライエタリモデルに匹敵する超巨大モデルが、自社インフラへ自由に導入可能なオープンウェイトとして開放されたことで業界に大きな波紋を広げています。


Kimi K3.1 Proは、前世代のKimi K3をベースに数百の下流ドメインにわたる大規模な強化学習を施したモデルです。全体のパラメータ数は2.8兆に達しますが、推論時には1トークンあたり1040億パラメータのみを稼働させるMoEアーキテクチャを採用しています。コンテキストウィンドウは約100万トークンに対応し、長文処理の効率を高めるために注意機構の一部を従来の構造からGated DSAへと刷新しました。また、4億100万パラメータのビジョンエンコーダであるMoonViT-V2を統合しており、テキストと画像をネイティブに処理してコーディングや3Dアセット生成、金融調査、複雑なエージェント業務を高い精度で遂行します。公開されたベンチマークでは、コーディング能力を測るTerminal-Bench 4.0で65.7パーセントを記録し、OpenAIのGPT-6 AstraやAnthropicのClaude Fable 5.1を上回るスコアを示しました。


今回のウェイト公開において技術者の注目を集めているのが、モデル容量の劇的な圧縮です。2.8兆パラメータのモデルを標準的な16ビット精度で保存した場合、約5.6テラバイトの容量が必要になると見込まれていましたが、実際に公開されたファイルサイズは約1.56テラバイトに抑えられました。これは事後的な圧縮ではなく、学習段階からMXFP4形式の重みとMXFP8形式のアクティベーションを組み込むQATを適用した結果です。これにより、vLLMやSGLangといった推論エンジンを用いて企業のオンプレミス環境やプライベートクラウドへ展開する際のハードウェア要件が現実的な水準へと引き下げられています。さらに中国国内のエコシステム対応として、HuaweiのAIチップであるAscend 950などでの推論サポートも同時に発表されました。


ライセンス形態には独自の「Kimi K3.1-Pro License」が採用されており、研究や一般的な商用利用、ファインチューニング、派生モデルの作成は原則として無償で許可されています。ただし、クラウド事業者などが第三者にモデルの推論環境やファインチューニング環境を直接切り売りする事業を営み、そのグループ年間売上高が連続する12カ月間で2000万ドルを超える場合には、Moonshot AIとの別途契約が義務付けられます。一方で、自社のアプリケーション内部にモデルを組み込んでエンドユーザーへサービスを提供する形態はこの制限の対象外とされており、大手クラウドベンダーによるただ乗りを防ぎつつ、一般企業のプロダクト組み込みを広く促す戦略的な条件設定となっています。なお、月間アクティブユーザーが1億人を超えるか、月間売上高が2000万ドルを超える商用製品では、画面上にモデル名を表記する義務が生じます。


APIの提供価格も入力100万トークンあたり2ドル、出力10ドルと前世代から約3割引き下げられており、企業にとってはまず安価なAPIで業務適合性を検証し、データ秘匿性が求められる段階でオンプレミス運用へ移行するというハイブリッドな導入戦略が描きやすくなっています。地政学的なリスクやサプライチェーン上の懸念から中国製モデルの採用に慎重な見方もあるものの、100万トークンの処理能力を持つフロンティア級のモデルが外部通信なしで自社運用可能になった事実は重く、法務や金融、製造業における機密文書解析のあり方を根本から変える転機となりそうです。


今回のエピソードは以上で終了です。また次回お会いしましょう。

感想

まだ感想はありません。最初の1件を書きましょう!

05:59

コメント

スクロール