بوابة LLM مفتوحة المصدر تستضيفها بنفسك
INFRO vs LiteLLM
LiteLLM إحدى أكثر بوابات LLM مفتوحة المصدر استخدامًا: حزمة Python SDK ووكيل مستضاف ذاتيًا متوافق مع OpenAI يصل إلى أكثر من 100 مزوّد، مع مفاتيح افتراضية وميزانيات حسب المفتاح والمستخدم والفريق والعميل النهائي، وموازنة حمل وبدائل احتياطية، وتتبّع للإنفاق، وتخزين مؤقت، وتكاملات ضوابط الحماية، واستدعاءات رجعية للتسجيل. النواة مرخَّصة بـ MIT؛ أما المؤسسات وسجلات التدقيق وبعض ضوابط الإدارة فتقع تحت ترخيص مؤسسات تجاري. وإذا أردت تشغيل البوابة بنفسك، فهي الخيار الافتراضي وقد استحقت ذلك.
بقلم INFRO Editorial
آخر تحقق
- تريد تشغيل البوابة في بنيتك التحتية الخاصة وبشروطك أنت، دون اتفاق مع مورّد. LiteLLM مبني ليستضيفه ذاتيًا أي شخص؛ أما عمليات النشر الذاتية والهجينة في INFRO فلا تأتي إلا مع اتفاق مؤسسات.
- تريد كودًا مفتوح المصدر تستطيع قراءته وترقيعه وتفريعه، دون اشتراك للنواة.
- تحتاج إلى مزوّد لا تربطه INFRO. كتالوجهم من أكثر من 100 مزوّد أوسع بكثير من قائمة أنواع المزوّدين لدينا.
- إن كانت إدارة المطالبات أو التخزين المؤقت الدلالي أو مورّد محدد لضوابط الحماية (مثل Presidio أو Lakera أو Bedrock Guardrails) جزءًا من متطلباتك: لا توفّر INFRO إدارة للمطالبات، وضوابط الحماية فيها فحوص بالأنماط للبيانات الشخصية (PII) والأسرار والعبارات التي تحددها في إكمالات المحادثة، إضافةً إلى فحوص بمصنِّف للمطالبات فقط عبر اتصالك الخاص بنموذج قرار، في باقة Business.
- تستدعي النماذج من Python وتريد التوجيه داخل العملية، كمكتبة، بلا قفزة بوابة على الإطلاق.
هذا القسم ليس مجاملة. إذا كان أحد هذه الأوصاف ينطبق عليك، فاختر LiteLLM — العميل الذي يعتمد الطبقة الخاطئة بناءً على نصيحتنا أسوأ لنا من عميل لم نحصل عليه قط.
أين يفترق الاثنان فعلًا.
- برنامج تشغّله بنفسك، أم خدمة تستخدمها
- وكيل LiteLLM مسؤوليتك تشغيله. تحتاج المفاتيح الافتراضية وتتبّع الإنفاق إلى قاعدة بيانات Postgres؛ وعند تجاوز نسخة واحدة تحتاج الحدود المشتركة وحالة الموجِّه إلى Redis، وإلا فرضت كل نسخة حدودها وحدها. والترقيات والتوسّع والنسخ الاحتياطية والمناوبة جزء من اعتماده — وهو يناسب فريق منصة يشغّل هذا النوع من الخدمات أصلًا، وعمل حقيقي لفريق لا يفعل. أما باقات INFRO فمستضافة: لا شيء تنشره. والمقايضة هي الصورة المعاكسة: تمر طلباتك عبر خدمتنا لا خدمتك. ويمكن لاتفاق مؤسسات أن يضع INFRO في بنيتك التحتية بدل ذلك؛ ومن دونه، هذه هي الحالة بالضبط التي يكون فيها LiteLLM الخيار الأفضل.
- أين توجد ضوابط المؤسسة
- في LiteLLM، المؤسسات وأدوارها الإدارية وسجلات التدقيق وتسجيل الدخول الموحَّد لأكثر من خمسة مستخدمين من ميزات ترخيص المؤسسات. وفي INFRO، المشاريع والبيئات والأدوار الخمسة وقوائم سماح النماذج على مستوى المؤسسة والمشروع والمفتاح والميزانيات وسجل تدقيق لمن غيّر أي سياسة موجودة في كل باقة بما فيها الأولى. أما SSO عبر SAML/OIDC و SCIM فتأتي مع باقة Business؛ وهي جديدة ولم تعمل بعد في بيئة الإنتاج مع مزوّد هوية لدى عميل، لذا نُعدّ أول اتصال معك.
- التكلفة التقديرية، ثم رقم المزوّد نفسه
- يقدّر المنتجان تكلفة كل طلب من جدول أسعار، ويقبل كلاهما أسعارك أنت. توثّق LiteLLM مقارنة إنفاقها بـ Costs API لدى OpenAI على أنها قادمة في إصدار لاحق. أما INFRO ففي باقة Business تقارن تقدير الشهر بواجهتي التكلفة API لدى OpenAI وAnthropic وتذكر التباين بدل أن تفترض غيابه.
- ليس خيارًا بين أحدهما والآخر
- وكيل LiteLLM الذي تشغّله حاليًا يدعم واجهة OpenAI API، لذا يمكن ربطه بـ INFRO كنقطة نهاية متوافقة مع OpenAI: أبقِه للمزوّدين الذين لا يصل إليهم غيره، وضع ميزانيات INFRO وإسناد التكاليف وسجل التدقيق أمام منظومتك كلها.
تكلفة البوابة عند $2K و$20K و$60K شهريًا.
لا يتقاضى LiteLLM شيئًا مقابل بوابته المرخّصة بترخيص MIT؛ ما تتحمله هو الخوادم وقاعدة بيانات Postgres والأشخاص الذين يُبقونها تعمل، وهو ما لا يستطيع أي جدول تسعيره نيابةً عنك. INFRO خطة ثابتة حسب حجم الطلبات.
| إنفاق النماذج الشهري | $2,000 | $20,000 | $60,000 |
|---|---|---|---|
| LiteLLM، باستضافة ذاتيةلا رسوم ترخيص؛ الخوادم وPostgres والمناوبة إضافية وغير محسوبة هنا | $0الترخيص فقط | $0الترخيص فقط | $0الترخيص فقط |
| INFROخطة ثابتة حسب حجم الطلبات، بهامش 0% | $35Developer، 100K طلب | $199Team، 1M طلب | $599Business، 3M طلب |
رسوم البوابة نفسها فقط. الإنفاق على النماذج هو نفسه في كل صف وغير مشمول. تتبع خطة INFRO عدد الطلبات لا الإنفاق، لذا يفترض صف INFRO متوسط إنفاق على النماذج قدره $0.02 لكل طلب (100K, 1M, 3M طلب). هذا مثال توضيحي، لا متوسط مُقاس. الفوترة شهرية؛ والخطط السنوية أقل تكلفة شهريًا. أدخل أرقامك الخاصة في حاسبة تكلفة البوابة.
حيث تكون تكلفة LiteLLM أقل: LiteLLM، باستضافة ذاتية عند $2,000 شهريًا ($0 مقابل INFRO Developer بسعر $35); LiteLLM، باستضافة ذاتية عند $20,000 شهريًا ($0 مقابل INFRO Team بسعر $199); LiteLLM، باستضافة ذاتية عند $60,000 شهريًا ($0 مقابل INFRO Business بسعر $599).
ما يتطلبه الانتقال من LiteLLM.
- 01تحتفظ التطبيقات العميلة بحزمة OpenAI SDK: غيّر عنوان URL الأساسي من وكيل LiteLLM إلى
https://api.infro.io/v1واستخدم مفتاح بوابة INFRO. - 02يصبح كل مزوّد في
model_listلدى LiteLLM حساب مزوّد متصلًا في INFRO، وتصبح الأسماء المستعارة للنماذج معرّفاتvendor/modelأو مسارات مسمّاة. - 03تصبح المفاتيح الافتراضية مفاتيح بوابة بحدود إنفاق ومزوّدين ونماذج مسموح بها خاصة بها؛ وتقابل الفرقُ المشاريعَ، وميزانياتُ المستخدمين حدودَ العملاء النهائيين (خطة Team).
- 04تصبح إعدادات الموجّه (البدائل الاحتياطية، إعادة المحاولة، موازنة الحمل) أهداف المسار وقواعد الفشل الخاصة به.
- 05كل ما بُني على حزمة Python SDK الخاصة بـ LiteLLM داخل العملية نفسها يبقى كما هو، أو يستدعي INFRO مثل أي نقطة نهاية متوافقة مع OpenAI. ويمكنك أيضًا الإبقاء على الوكيل وربطه بـ INFRO كمزوّد متوافق مع OpenAI.
جنبًا إلى جنب.
في عمودنا خانات فارغة أيضًا. فالمقارنة التي يحمل أحد طرفيها علامات صح في كل الخانات لا يصدّقها أحد، ومعه حق.
| القدرة | LiteLLM | INFRO |
|---|---|---|
| واجهة API واحدة عبر مزوّدين كثيرين | نعمأكثر من 100 مزوّد | نعمالمزوّدون الذين تربطهم |
| التوجيه وإعادة المحاولة والتحويل التلقائي عند الأعطال | نعم | نعم |
| حسابات مزوّديك الخاصة | نعمتشغّله بمفاتيحك | نعماتصال لكل بيئة |
| الاستضافة الذاتية والمصدر المفتوح | نعمنواة MIT | جزئياستضافة ذاتية باتفاقية؛ والبوابة ليست مفتوحة المصدر |
| لا شيء تنشره أو تشغّله | لاPostgres، وRedis عند تشغيل أكثر من نسخة | نعمخدمة مستضافة |
| ميزانيات حسب المفتاح والمستخدم والفريق والعميل النهائي | نعم | نعم |
| التكلفة لكل طلب بأسعارك الخاصة | نعمتسعير مخصّص | نعمأسعار متفاوض عليها في Team وما فوقها |
| المطابقة مع فاتورة المزوّد نفسه | جزئيOpenAI فقط، ومُعلَن لإصدار قادم | جزئيOpenAI وAnthropic في باقة Business، مع بيان الفرق |
| ضوابط الحماية وإخفاء PII | نعمتكاملات كثيرة | جزئيأنماط للمحادثة ومصنِّفات للمطالبات؛ باقة Business |
| إدارة المطالبات | نعم | لاغير مبني |
| أدوار المؤسسة وسجل التدقيق | جزئيترخيص مؤسسات | نعمكل الباقات |
| الصور والفيديو والصوت | نعم | نعم |
| متاح اليوم | نعم | نعمتسجيل ذاتي |
هذه قراءتنا للوثائق العامة لكل منتج حتى أكتوبر 2026. لا نذكر أسعار المنافسين، فأسعارهم تتغير، والرقم الخاطئ عن عمل غيرك أسوأ من عدم ذكره. هل ترى صفًّا غير صحيح؟ أخبرنا وسنصحّحه.
احسب قيمة الفرق
قدّر تكلفة مزيج النماذج الذي تستخدمه حاليًا بأسعار القائمة لدى مزوّديك، والباقة التي يحتاجها، أو دعنا نطّلع على استخدامك الفعلي ونخبرك أين يمكننا المساعدة وأين لا يمكننا.
تستخدم LiteLLM حاليًا؟ اقرأ دليل الانتقال من LiteLLM: الكود الذي يتغير، وما ينتقل معك، وما لا ينتقل.
هل تقارن أكثر من خيارين؟ قارن كل بدائل LiteLLM، مع بيان متى يكون كل منها الخيار الأنسب.
المصادر
كل رقم يخص LiteLLM في هذه الصفحة مأخوذ من صفحاته الرسمية، كما فتحناها في التاريخ المذكور.
- 1.litellm.ai (يُفتح في علامة تبويب جديدة) — روجع في Oct 24, 2026. The LiteLLM gateway is MIT licensed and free to self-host. LiteLLM describes itself as open source and self-hosted, deployed into your own cloud; no LiteLLM-run hosted service was listed on its site or docs.
- 2.docs.litellm.ai/docs/simple_proxy (يُفتح في علامة تبويب جديدة) — روجع في Oct 24, 2026. The LiteLLM gateway is a self-hosted server started with Docker, Helm or Terraform, backed by a Postgres database you run. LiteLLM records the cost of each request and shows spend per key, team, user and tag; each key carries a team, a budget and a model list.
- 3.docs.litellm.ai/docs/enterprise (يُفتح في علامة تبويب جديدة) — روجع في Oct 24, 2026. LiteLLM's SSO is free for up to 5 users; more needs an Enterprise license. LiteLLM Enterprise is a license key on the same image, priced by deployment size and usage; no price is published.
- 4.docs.litellm.ai/blog/security-update-march-2026 (يُفتح في علامة تبويب جديدة) — روجع في Oct 24, 2026. On 24 March 2026, litellm 1.82.7 and 1.82.8 on PyPI carried credential-stealing code for about 40 minutes; LiteLLM says the official Proxy Docker image was not affected and 1.83.0 is clean.