DeepSeekがDeepInferをオープンソース化、AI実行コストを削減する推論ツール

中国のAI企業DeepSeekは2026年10月20日にGitHubでDeepInferをリリースし、すでに自社の大規模な本番環境サービスを支える推論フレームワークを公開しました。SiliconANGLEとTechTargetによると、ソフトウェアはApache 2.0ライセンスの下、github.com/deepseek-ai/DeepInferで公開されています。

推論とは、モデルが訓練された後、実際にユーザーのプロンプトに対する回答を生成する段階です。Gizmodの引用によると、DeepSeakはリリースノートで「コミュニティがコンピュートコストを削減し、エネルギー使用量を削減し、AIをより手頃にするのを支援するために本番環境スタックを共有している」と述べています。

DeepInferの機能

GizmodとTechTargetによると、DeepInferはDeepSeekのV4.1-Flashモデル用に特別に構築された最適化層であり、同社がコーディングおよびエージェント機能用に販売するシステムです。SiliconANGLEは、DeepSeakの本番環境クラスターの1つがこのフレームワークを使用して1日あたり155兆トークンを提供していると報告しています。

フレームワークは推測デコーディングに依存しており、これは小さな「ドラフト」モデルが複数のトークンを事前に提案し、メインモデルが各トークンを1つずつ生成するのではなく1回のパスでチェックする技術です。DeepSeakの技術ドキュメンテーションを引用するSiliconANGLEは、DSpartという名称の同社によるこのシステムの特定のバージョンについて説明しており、ドラフトモデルが5つのトークンを提案し、別の信頼メカニズムがメインモデルがそれらを受け入れるかどうかを予測します。DeepSeakによれば、これにより不必要な検証が約30%削減され、本番環境規模の負荷下で4～7%のスループット増加が生じます。

SiliconANGLEによると、リリースされたコードはNvidiaのSM100（Blackwell）GPUとHuaweiのAscend 950ニューラルプロセッシングユニットをサポートしていますが、より古いNvidiaホッパー世代チップはサポートしていません。TechTargetは、DeepSeek以外のAIモデルを実行する企業がすでにNvidiaのTensorRT-LLMなどの同等のツールを使用できることを指摘しており、DeepSeakがNvidiaハードウェアとHuaweiチップの両方に依存し続けることは、同レポートによるとHuaweiがまだ一部の面でNvidiaに遅れをとっていることを示していると述べています。

除外された内容

DeepSeakは本番環境サービスを完全に実行するために必要なすべてをリリースしていません。SiliconANGLEは、同社がキーバリューキャッシュ管理システムと負荷分散コードを保有していると報告しており、これらはDeepSeakの内部インフラストラクチャと密接に結合されています。効率的なデプロイには最小でも128個のGPU（プロンプト処理専用に64個、応答生成専用に64個）が必要なままです。決定論的出力機能（モデルが同じ入力に対して一貫した回答を返す機能）は現在、Nvidiaハードウェアでのみ機能するとのこと。

コスト比較と反応

Gizmodは、DeepSeakがV4.1-Flashを100万入力トークンあたり$0.035、100万出力トークンあたり$0.12で価格設定していると報告しており、同メディアがOpenAIのGPT-6 Astraモデルについて引用している数字は同じ量で各々$10と$50です。GizmodはこのリリースをDeepSeakがOpenAIとAnthropicに圧力をかける一部として位置付けています。SiliconANGLEは別として、DeepInfer実行クラスターのピークオフ価格はGPUあたり1時間あたり約$38の収益を生み出すことができると報告しています。

Omdia分析家のLian Jye SuはTechTargetに、トークン使用の最適化に関する相当な業界議論があり、AI採用の成長に伴ってトークン消費が急激に増加していることを指摘していると述べました。TechTargetは、分析家がこのリリースをコスト最適化の取り組みと、Nvidiaハードウェアと並んで中国のチップ代替案を促進する地政学的ポジショニング努力の両方と見なしていると述べています。

背景

SiliconANGLEは、DeepInferがもともと2025年4月にオープンソースプロジェクトvLLMからフォークされたと報告しており、当時同社が完全なリリースを実用的でないと判断したためです。DeepSeakは以前、低コストで競争力のあるAIモデルをリリースすることで注目を集めており、DeepInferリリースは単なるモデルのみではなくインフラストラクチャソフトウェアを公開することで、このパターンを継続しています。

Gizmodによると、DeepSeakは将来的にDeepInferフレームワークに追加モデルのサポートを追加する予定があると述べていますが、具体的なタイムラインは示されていません。