跳到正文

迁移指南从 Martian 和 Not Diamond

从模型路由器到由你掌控的路由规则

Martian 和 Not Diamond 做出过同样的承诺:发送提示词,由路由器选择模型。两者都已转向。本页说明它们各自的现状,以及 INFRO 提供的替代方案:不是学习型路由器,而是带有提示词分类器和可读规则的路由规则。

Martian 的路由器已不再有文档;Not Diamond 转向编程智能体(Python SDK 于 2025-12-11 归档)

INFRO 账号可自助开通。 模型目录、文档和 API 契约已公开,网关已部署,v1 之后的所有功能都标注为“后续”。 套餐与试用

现状

Martian

它的文档介绍的是 Martian Gateway,一个兼容 OpenAI 和 Anthropic、可访问众多模型的 API,从它出售的积分中扣费;我们没有在其中找到路由器模型 ID 或路由参数。它的主页现在以研究为主,并链接到 Thesean AI。

Not Diamond

它的主页介绍了一个面向编程智能体的模型路由器(Not Diamond Code),它为每一步推荐模型,而推理通过你自己的提供商或网关运行。notdiamond-python 代码库已于 2025-12-11 归档;旧版 modelSelect API 文档仍然在线。

由谁的账号处理请求

Martian 的网关:使用 Martian 的积分。Not Diamond:始终是你的账号;它只做推荐。INFRO:始终是你的账号。

INFRO 的分类器在你定义的类别之间挑选。它不会学习哪个模型表现更好。

  • 你希望由基于你自己评估数据训练的路由器来挑选模型(Not Diamond 的自定义路由器)。INFRO 没有训练环节。
  • 你运行编程智能体,希望为每一步选择模型和推理级别。Not Diamond Code 能做到这一点,并且可以把 INFRO 作为你的网关来发送推理请求。
  • 你希望无需在每家提供商开账号就能访问模型。Martian 的网关出售这种服务;INFRO 不提供。

需要的修改,每项一行。未在此列出的内容都保持不变。

 Martian 和 Not DiamondINFRO
基础 URLMartian:https://api.withmartian.com/v1。Not Diamond:先经过它的 SDK,再到你的提供商。https://api.infro.io/v1
密钥MARTIAN_API_KEY,或 NOTDIAMOND_API_KEY 加上提供商密钥。一个 INFRO 网关密钥;提供商密钥变为连接。
模型 ID候选模型列表,或 creator/model。一个路由规则名称。路由规则的分类器挑选类别;每个类别有各自的目标。
决策由路由器的模型针对每个提示词做出。由你自己连接上的决策模型做出,依据你编写的类别和规则。

之前 · Not Diamond SDK(已归档)

from notdiamond import NotDiamond

client = NotDiamond()  # NOTDIAMOND_API_KEY + provider keys

result, session_id, provider = client.chat.completions.create(
    messages=[{"role": "user", "content": "Hello"}],
    model=[
        "openai/gpt-5.6-luna",
        "openai/gpt-5.6-terra",
        "anthropic/claude-sonnet-5.5",
    ],
)

之后 · INFRO

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.infro.io/v1",
    api_key=os.environ["INFRO_API_KEY"],
)

# "assistant" is a route with a prompt classifier:
# class "simple" -> openai/gpt-5.6-luna
# class "hard"   -> anthropic/claude-sonnet-5.5
completion = client.chat.completions.create(
    model="assistant",
    messages=[{"role": "user", "content": "Hello"}],
)
print(completion.model, completion.provider)

你能读懂的类别

路由规则的分类器借助你选择的决策模型,把每个提示词归入你命名的某个类别,再由规则把每个类别发送到各自的目标。追踪记录会显示它挑选的类别。

故障转移仍然适用

每个类别的目标与任何路由规则一样进行故障转移。选错的代价是回答变慢,而不是失败。

Not Diamond Code 与 INFRO 配合使用

Not Diamond Code 通过你配置的提供商或网关发送推理请求。INFRO 可以作为这个网关,并按开发者密钥设置预算。

Martian 和 Not Diamond 的对象与 INFRO 的对照,依据 2026年10月19日 阅读的 Martian 和 Not Diamond 公开文档,并已按网关实际实现的内容核对。 有两行显示 INFRO 没有对应项。

Martian 和 Not Diamond它在那里的作用在 INFRO 中
按提示词选择模型不同一个学习型路由器在候选模型之间做选择。提示词分类器挑选你定义的类别;规则把类别映射到目标。
基于你的数据训练的自定义路由器无对应Not Diamond 的 trainCustomRouter。无。
提示词优化无对应Not Diamond 的 optimize 会针对每个模型调整提示词。无。
统一访问不同Martian 的网关:基于其积分提供众多模型。一个覆盖你自己提供商账号的 API。
支出控制不同在我们阅读的页面上没有说明。在调用之前就拒绝的预算,可按组织、项目、成员、密钥和终端客户设置。

这是我们对 Martian 和 Not Diamond 已发布文档的理解,而非试用或基准测试。如果我们理解有误,告诉我们,我们会修正那一行。

INFRO 不做的事

  • 学习哪个模型在你的提示词上表现更好,或基于你的评估训练路由器。
  • 针对每个模型改写提示词。
  • 在你没有自己的提供商账号的情况下提供模型访问。

哪些无法迁移过来

  • 路由器训练数据和路由历史。没有导入工具。

问题

INFRO 有模型路由器吗?
它有带提示词分类器的路由规则:决策模型把每个提示词归入你定义的类别,再由规则把每个类别发送到各自的目标。它不会从结果中学习。
Martian 的路由器还能用吗?
它当前的文档只介绍了 Martian Gateway;我们在 2026-10-19 查阅时没有在其中找到路由器。
分类器的调用由谁付费?
由你的提供商在你自己的账号上收费,和其他所有请求一样。INFRO 对模型支出加价 0%。

和我们一起迁移,或自行迁移

迁移计划会在一次通话中把你的 Martian 和 Not Diamond 设置映射为 INFRO 的连接、路由规则和预算,并和你一起迁移第一个服务。你的提供商继续直接向你收费;INFRO 是一项订阅,对模型支出零加价。

来源

本页关于 Martian 和 Not Diamond 的每一项陈述都来自以下来源之一,阅读于 2026年10月19日。没有任何内容是从试用、基准测试或交谈中推断的。