DeepSeek ابزار استنتاج DeepInfer را با کد باز منتشر می‌کند تا هزینه‌های اجرای هوش مصنوعی را کاهش دهد

شرکت چینی هوش مصنوعی DeepSeek ابزار DeepInfer را در 20 اکتبر 2026 در GitHub منتشر کرد و چارچوب استنتاجی را که می‌گوید قبلاً خدمات تولیدی درسطح بزرگ خود را تامین می‌کند، علنی کرد. این نرم‌افزار تحت مجوز Apache 2.0 در github.com/deepseek-ai/DeepInfer منتشر شد، طبق گزارش‌های SiliconANGLE و TechTarget.

استنتاج مرحله‌ای است پس از آموزش یک مدل، زمانی که در واقع پاسخ‌هایی را برای پرسش‌های کاربران تولید می‌کند. DeepSeek در یادداشت‌های انتشار خود گفت، همان‌طور که Gizmodo نقل کرده است، که ما "پشته تولیدی خود را برای کمک به جامعه‌ی کاهش هزینه‌های محاسبات، کاهش مصرف انرژی و ارزان‌تر کردن هوش مصنوعی اشتراک می‌کنیم."

DeepInfer چه کار می‌کند

DeepInfer یک لایه بهینه‌سازی است که به‌طور خاص برای مدل DeepSeek-V4.1-Flash ساخته شده است، سیستمی که شرکت برای وظایف کدنویسی و کارهای خودمختار آن را بازار می‌کند، طبق گزارش Gizmodo و TechTarget. SiliconANGLE گزارش می‌دهد که یکی از خوشه‌های تولیدی DeepSeek از این چارچوب برای خدمت‌رسانی 155 تریلیون توکن در روز استفاده می‌کند.

این چارچوب بر رمزگشایی تخمینی متکی است، تکنیکی که در آن مدل "پیش‌نویس" کوچک‌تر چندین توکن را از قبل پیشنهاد می‌کند در حالی‌که مدل اصلی آن‌ها را در یک پاس بررسی می‌کند تا اینکه هر توکن را یک‌به‌یک تولید کند. SiliconANGLE، با استناد به اسناد فنی DeepSeek، نسخه خاص DeepSeek از این سیستم را توصیف می‌کند که DSpark نام دارد، جایی که مدل پیش‌نویس پنج توکن پیشنهاد می‌کند در حالی‌که یک مکانیسم اعتماد جداگانه پیش‌بینی می‌کند که آیا مدل اصلی آن‌ها را می‌پذیرد؛ DeepSeek می‌گوید این تأیید غیرضروری را حدود 30 درصد کاهش می‌دهد و بهره‌وری 4 تا 7 درصد تحت بارهای تولیدی دستیابی می‌کند.

کد منتشر شده از پردازنده‌های Nvidia SM100 (Blackwell) و واحدهای پردازش عصبی Huawei Ascend 950 پشتیبانی می‌کند، اما نه از تراشه‌های Nvidia نسل Hopper قدیمی‌تر، طبق SiliconANGLE. TechTarget یادآوری می‌کند که سازمان‌هایی که مدل‌های هوش مصنوعی غیر DeepSeek را اجرا می‌کنند می‌توانند قبلاً از ابزارهای مشابهی مانند Nvidia TensorRT-LLM استفاده کنند، و اینکه وابستگی مستمر DeepSeek به سخت‌افزار Nvidia در کنار تراشه‌های Huawei نشان‌دهنده این است که Huawei هنوز در برخی جنبه‌ها از Nvidia عقب است، طبق گزارش.

چه چیزی حذف شده است

DeepSeek همه چیزهای لازم برای اجرای یک سرویس تولیدی کامل را منتشر نکرده است. SiliconANGLE گزارش می‌دهد که شرکت سیستم مدیریت حافظه کلید-مقدار و کد متوازنگر بار خود را به دلیل ارتباط تنگاتنگ با زیرساخت‌های داخلی، نگاه داشت و استقرار موثر هنوز نیاز به حداقل 128 پردازنده گرافیکی دارد — 64 اختصاص‌یافته برای پردازش پروپوزال‌ها و 64 برای تولید پاسخ‌ها. ویژگی‌های خروجی قطعی، که مدل را وادار می‌کند برای ورودی مشابه پاسخ‌های یکسانی برگرداند، در حال حاضر فقط بر روی سخت‌افزار Nvidia کار می‌کنند، همان‌طور که منبع اضافه می‌کند.

مقایسه هزینه و واکنش

Gizmodo گزارش می‌دهد DeepSeek V4.1-Flash را به 0.035 دلار برای هر میلیون توکن ورودی و 0.12 دلار برای هر میلیون توکن خروجی قیمت‌گذاری می‌کند، در مقابل اعدادی که برای مدل OpenAI GPT-6 Astra نسبت می‌دهد به 10 و 50 دلار به ترتیب برای همان حجم‌ها؛ Gizmodo انتشار را به عنوان بخشی از DeepSeek اعمال فشار بر OpenAI و Anthropic قاب می‌کند. SiliconANGLE به طور جداگانه گزارش می‌دهد که قیمت‌گذاری خارج ساعات پیک در یک خوشه اجرای DeepInfer می‌تواند تقریباً 38 دلار درآمد برای هر پردازنده گرافیکی در ساعت ایجاد کند.

تحلیل‌گر Omdia، Lian Jye Su، به TechTarget گفت که بحث صنعتی قابل‌توجهی درباره بهینه‌سازی استفاده از توکن وجود دارد و اشاره کرد که مصرف توکن با رشد پذیرش هوش مصنوعی به شدت افزایش یافته است. TechTarget تحلیل‌گران را به عنوان دیدن انتشار هم به عنوان حرکت بهینه‌سازی هزینه و هم به عنوان تلاشی برای موضع‌گیری ژئوپلیتیکی که همچنین جایگزین‌های تراشه چینی را در کنار سخت‌افزار Nvidia تشویق می‌کند، توصیف می‌کند.

پس‌زمینه

SiliconANGLE گزارش می‌دهد DeepInfer در ابتدا از پروژه متن‌باز vLLM در آپریل 2025 فورک شد، پس از اینکه شرکت دریافت انتشار کامل در آن زمان غیرعملی بود. DeepSeek قبلاً برای انتشار مدل‌های هوش مصنوعی کم‌هزینه و رقابتی توجه جلب کرده است، و ادامه انتشار DeepInfer این الگو را دنبال می‌کند با باز کردن نرم‌افزار زیرساخت به جای تنها مدل.

DeepSeek گفته است که قصد دارد در آینده به چارچوب DeepInfer پشتیبانی مدل‌های اضافی اضافه کند، طبق Gizmodo، اگرچه هیچ جدول زمانی داده نشده است.