Ihr Cohere-Konto über INFRO nutzen
Behalten Sie Ihren Cohere-Vertrag und Ihren Schlüssel. INFRO ergänzt jede Anfrage um Routing, Budgets, Failover und einen Audit-Trail.
Drei Schritte, und Ihr Cohere-Konto bleibt, wie es ist.
- 01Ihren INFRO-Workspace erstellen
Eine 14-tägige Testphase, Karte beim Checkout erforderlich; kündigen Sie vor Tag 14, wird nichts berechnet. Der Tarif Developer beginnt bei $35 pro Monat.
- 02Ihren Cohere-Schlüssel verbinden
Die Einrichtung öffnet sich bei Cohere. Fügen Sie einen Schlüssel ein, den Sie in Ihrem Cohere-Konto erstellen: Er wird beim Speichern versiegelt und nie wieder angezeigt.
Ihren Cohere-Schlüssel erstellen - 03Richten Sie Ihre App auf INFRO aus
Setzen Sie Ihren INFRO-Gateway-Schlüssel und die Basis-URL ein und benennen Sie das Modell so wie INFRO: cohere/command-r.
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.INFRO_API_KEY,
baseURL: "https://api.infro.io/v1",
});
const response = await client.chat.completions.create({
model: "cohere/command-r",
messages: [{ role: "user", content: "Hello" }],
});Modelle, die Sie über Ihr Cohere-Konto aufrufen können.
4 Modelle im Katalog werden von Cohere bereitgestellt. Jede Seite nennt die zu sendende Modell-ID, den Listenpreis des Herstellers und die anderen Anbieter, die das Modell bereitstellen.
Text
- Command Rcohere/command-r
- Command R7Bcohere/command-r7b
- Command R+cohere/command-r-plus
- Aya Expanse 32Bcohere/aya-expanse-32b
Was INFRO rund um Ihre Cohere-Anfragen ergänzt.
- Routing und FailoverBenannte Routen über Ihre eigenen Verbindungen, mit Wiederholungen und Failover, bevor die Antwort beginnt.
- Budgets, die Ausgaben stoppenLimits pro Organisation, Projekt, Mitglied und Schlüssel, geprüft, bevor der Anbieter aufgerufen wird.
- Kosten bei jeder AnfrageGeschätzte Anbieterkosten pro Anfrage, zum Listenpreis oder zu Ihrem ausgehandelten Preis, nach Projekt, Schlüssel oder Endkunde.
- Eine Audit-SpurEin Protokoll jeder Anfrage und jeder Änderung an Schlüsseln, Mitgliedern und Richtlinien, mit ihrem Akteur.
- Schlüssel, die Ihre Anwendungen tragen könnenGateway-Schlüssel mit Umfang, Modell-Freigabelisten, IP-Bereichen und Rotation, sodass der Anbieterschlüssel in INFRO versiegelt bleibt.
Ihre Cohere-Rechnung bleibt bei Cohere. INFRO berechnet Ihnen die Control Plane.
0 % Aufschlag auf Modellausgaben. Sie bezahlen Cohere direkt nach Ihrer eigenen Vereinbarung, zu Ihren eigenen Preisen; das Abonnement von INFRO ist davon getrennt. Tarife ansehen
Ihre Cohere-SchlüsselAlle Anbieter, die Sie verbinden können
Cohere und sein Zeichen bezeichnen das Konto, das Sie verbinden. INFRO ist ein unabhängiger Dienst; seine Nutzung ändert nichts an Ihrer Vereinbarung mit Cohere.
Sind Sie Cohere? Fügen Sie die Schaltfläche „Connect to INFRO“ in Ihre Dokumentation ein