Passerelles IA comparées.

Un service placé entre votre application et les fournisseurs de modèles d'IA qu'elle appelle. Votre code envoie les requêtes à un seul endpoint, et la passerelle choisit le fournisseur, réessaie ou bascule quand l'un est en panne, enregistre ce que chaque requête a fait et ce qu'elle a coûté, et applique la politique que vous définissez — budgets, modèles autorisés, limites de débit. Les produits diffèrent surtout par qui détient le compte fournisseur, par le fait que la politique soit appliquée avant l'appel ou rapportée après, et par qui exploite la passerelle, vous ou l'éditeur.

Cela dépend du produit, et c'est la première chose à vérifier. Certaines plateformes achètent l'inférence pour vous sur un solde que vous alimentez chez elles ; d'autres routent sur vos propres clés fournisseurs, parfois avec des frais sur cette utilisation ; certaines proposent les deux. INFRO ne fait que la deuxième et ne prélève rien dessus : vos fournisseurs vous facturent directement à vos propres tarifs, et INFRO facture un abonnement. La colonne Propriété des coûts du tableau ci-dessus est notre lecture de la documentation de chaque produit.

Il vous faut quelque chose dans le chemin des requêtes, car une limite ne peut refuser qu'une requête qu'elle voit avant le fournisseur. Plusieurs passerelles le font — INFRO vérifie les budgets par organisation, projet, membre et clé avant l'appel ; OpenRouter, Cloudflare AI Gateway et LiteLLM documentent leurs propres budgets ou limites de dépenses. Les outils d'observabilité comme Langfuse enregistrent le coût après l'appel et peuvent alerter dessus, ce qui est utile, mais ils n'arrêtent pas la requête.

Presque tous les produits de cette page estiment le coût par requête. Ce qui les distingue, c'est le tarif qu'utilise l'estimation (le tarif public de l'éditeur ou celui de votre contrat), ce qui se passe quand un modèle n'a pas de prix connu, et si le chiffre est un jour vérifié par rapport à la facture du fournisseur. INFRO utilise vos tarifs négociés à partir de l'offre Team, marque une requête comme sans tarif plutôt que de deviner et, dans l'offre Business, vérifie l'estimation du mois par rapport aux API de coûts d'OpenAI et d'Anthropic.

Pas toujours. Si le routage et l'accès aux fournisseurs sont réglés et que personne n'a besoin de budgets qui refusent une requête, un outil d'observabilité et d'évaluation comme Langfuse peut suffire. Si vous avez besoin de routage, de basculement et de budgets appliqués, il vous faut une passerelle ; et les équipes qui veulent aussi une évaluation approfondie et la gestion des prompts utilisent souvent les deux, la passerelle exportant les traces vers l'outil d'observabilité.

D'après la documentation publique de chaque produit, lue à la date indiquée sur chaque page — pas d'après un essai ou un benchmark. Chaque page dit clairement quand l'autre produit est le meilleur choix, aucune ne cite le prix d'un concurrent, et là où la documentation est ambiguë, l'évaluation est nuancée plutôt que défendue. Si vous pensez qu'une ligne est fausse, dites-le-nous et nous la corrigerons.