现状
Martian
它的文档介绍的是 Martian Gateway,一个兼容 OpenAI 和 Anthropic、可访问众多模型的 API,从它出售的积分中扣费;我们没有在其中找到路由器模型 ID 或路由参数。它的主页现在以研究为主,并链接到 Thesean AI。
Not Diamond
它的主页介绍了一个面向编程智能体的模型路由器(Not Diamond Code),它为每一步推荐模型,而推理通过你自己的提供商或网关运行。notdiamond-python 代码库已于 2025-12-11 归档;旧版 modelSelect API 文档仍然在线。
由谁的账号处理请求
Martian 的网关:使用 Martian 的积分。Not Diamond:始终是你的账号;它只做推荐。INFRO:始终是你的账号。
INFRO 的分类器在你定义的类别之间挑选。它不会学习哪个模型表现更好。
- 你希望由基于你自己评估数据训练的路由器来挑选模型(Not Diamond 的自定义路由器)。INFRO 没有训练环节。
- 你运行编程智能体,希望为每一步选择模型和推理级别。Not Diamond Code 能做到这一点,并且可以把 INFRO 作为你的网关来发送推理请求。
- 你希望无需在每家提供商开账号就能访问模型。Martian 的网关出售这种服务;INFRO 不提供。
需要的修改,每项一行。未在此列出的内容都保持不变。
| Martian 和 Not Diamond | INFRO | |
|---|---|---|
| 基础 URL | Martian:https://api.withmartian.com/v1。Not Diamond:先经过它的 SDK,再到你的提供商。 | https://api.infro.io/v1 |
| 密钥 | MARTIAN_API_KEY,或 NOTDIAMOND_API_KEY 加上提供商密钥。 | 一个 INFRO 网关密钥;提供商密钥变为连接。 |
| 模型 ID | 候选模型列表,或 creator/model。 | 一个路由规则名称。路由规则的分类器挑选类别;每个类别有各自的目标。 |
| 决策 | 由路由器的模型针对每个提示词做出。 | 由你自己连接上的决策模型做出,依据你编写的类别和规则。 |
之前 · Not Diamond SDK(已归档)
from notdiamond import NotDiamond
client = NotDiamond() # NOTDIAMOND_API_KEY + provider keys
result, session_id, provider = client.chat.completions.create(
messages=[{"role": "user", "content": "Hello"}],
model=[
"openai/gpt-5.6-luna",
"openai/gpt-5.6-terra",
"anthropic/claude-sonnet-5.5",
],
)之后 · INFRO
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.infro.io/v1",
api_key=os.environ["INFRO_API_KEY"],
)
# "assistant" is a route with a prompt classifier:
# class "simple" -> openai/gpt-5.6-luna
# class "hard" -> anthropic/claude-sonnet-5.5
completion = client.chat.completions.create(
model="assistant",
messages=[{"role": "user", "content": "Hello"}],
)
print(completion.model, completion.provider)你能读懂的类别
路由规则的分类器借助你选择的决策模型,把每个提示词归入你命名的某个类别,再由规则把每个类别发送到各自的目标。追踪记录会显示它挑选的类别。
故障转移仍然适用
每个类别的目标与任何路由规则一样进行故障转移。选错的代价是回答变慢,而不是失败。
Not Diamond Code 与 INFRO 配合使用
Not Diamond Code 通过你配置的提供商或网关发送推理请求。INFRO 可以作为这个网关,并按开发者密钥设置预算。
Martian 和 Not Diamond 的对象与 INFRO 的对照,依据 2026年10月19日 阅读的 Martian 和 Not Diamond 公开文档,并已按网关实际实现的内容核对。 有两行显示 INFRO 没有对应项。
| Martian 和 Not Diamond | 它在那里的作用 | 在 INFRO 中 |
|---|---|---|
| 按提示词选择模型不同 | 一个学习型路由器在候选模型之间做选择。 | 提示词分类器挑选你定义的类别;规则把类别映射到目标。 |
| 基于你的数据训练的自定义路由器无对应 | Not Diamond 的 trainCustomRouter。 | 无。 |
| 提示词优化无对应 | Not Diamond 的 optimize 会针对每个模型调整提示词。 | 无。 |
| 统一访问不同 | Martian 的网关:基于其积分提供众多模型。 | 一个覆盖你自己提供商账号的 API。 |
| 支出控制不同 | 在我们阅读的页面上没有说明。 | 在调用之前就拒绝的预算,可按组织、项目、成员、密钥和终端客户设置。 |
这是我们对 Martian 和 Not Diamond 已发布文档的理解,而非试用或基准测试。如果我们理解有误,告诉我们,我们会修正那一行。
INFRO 不做的事
- 学习哪个模型在你的提示词上表现更好,或基于你的评估训练路由器。
- 针对每个模型改写提示词。
- 在你没有自己的提供商账号的情况下提供模型访问。
哪些无法迁移过来
- 路由器训练数据和路由历史。没有导入工具。
问题
- INFRO 有模型路由器吗?
- 它有带提示词分类器的路由规则:决策模型把每个提示词归入你定义的类别,再由规则把每个类别发送到各自的目标。它不会从结果中学习。
- Martian 的路由器还能用吗?
- 它当前的文档只介绍了 Martian Gateway;我们在 2026-10-19 查阅时没有在其中找到路由器。
- 分类器的调用由谁付费?
- 由你的提供商在你自己的账号上收费,和其他所有请求一样。INFRO 对模型支出加价 0%。
来源
本页关于 Martian 和 Not Diamond 的每一项陈述都来自以下来源之一,阅读于 2026年10月19日。没有任何内容是从试用、基准测试或交谈中推断的。
- Martian — homepage阅读于 2026年10月19日
- Martian docs — Gateway阅读于 2026年10月19日
- Martian docs — Quickstart阅读于 2026年10月19日
- Martian docs — Endpoints阅读于 2026年10月19日
- Not Diamond — homepage阅读于 2026年10月19日
- Not Diamond Code — docs阅读于 2026年10月19日
- Not Diamond — API docs阅读于 2026年10月19日
- GitHub — Not-Diamond/notdiamond-python (archived)阅读于 2026年10月19日