Inkling：我们的开放权重模型Inkling: Our open-weights model

Inkling：我们的开放权重模型（via）Mira Murati 的 Thinking Machines Lab 刚刚发布了他们的首个开放权重模型。Inkling 是“一个拥有 975B 总参数、41B 激活参数的混合专家 Transformer 模型”——这是一个采用 Apache-2.0 许可证的多模态模型，在 45 万亿个文本、图像、音频和视频 token 上进行了训练。

他们还承诺推出 Inkling-Small，一个 276B（12B 激活参数）的模型，但该模型仍在测试中，权重将在“相关工作完成后”发布。

该模型卡片比我通常对美国 AI 实验室的预期要短得多。它链接到了一份更短的《训练数据文档》，里面几乎没有任何有价值的信息——用以下两段话来概括它最合适不过了：

Thinking Machines Lab 用于开发其 AI 服务的数据集包括公共领域的内容，以及可能受知识产权保护的内容。Thinking Machines Lab 的服务是使用从开放互联网和公开可访问的数据存储库中获取的公开内容开发的。某些数据集也是从第三方获取的。

Thinking Machines 自己也承认，这不是一个前沿模型。相反，它旨在作为一个强大的基础模型，以便使用他们自己的 Tinker 训练平台进行微调：

Inkling 并不是当今可用的最强综合模型，无论是开源还是闭源。相反，多种特质的结合使其成为了一个良好的开放权重定制基础：多模态能力、高效的思考能力，以及在 Tinker 上可用于微调的可用性。

这次发布有很多值得称赞的地方。它采用 Apache-2.0 许可证，看起来足以与中国推出的开放权重模型竞争——很高兴看到美国开放权重生态系统迎来了一位新的有力竞争者，加入 NVIDIA Nemotron 和 Gemma 4 的行列。

这是它尝试生成的一幅骑自行车的鹈鹕 SVG 图像，我是通过向 Thinking Machines API 发送这个 curl 命令生成的：

curl "https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1/chat/completions" \
  -H "Authorization: Bearer $TINKER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "thinkingmachines/Inkling",
    "messages": [
      {"role": "user", "content": "Generate an SVG of a pelican riding a bicycle"}
    ],
    "stream": false
  }'

完整回复在此。

由于它是一个多模态模型，我通过发送以下 JSON，让它描述了它自己的图像（在我将其渲染为 JPEG 之后）：

{
  "model": "thinkingmachines/Inkling",
  "messages": [{
    "role": "user",
    "content": [
      {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,$BASE_64_JPEG"}},
      {"type": "text", "text": "Describe this image in detail"},
    ],
  }],
  "stream": false
}

这是完整的回复。它以为自己画了一只“鹳或海鸥”：

这是一幅欢快的扁平矢量卡通插画，描绘了一只白鸟在绿色风景中骑自行车的场景。这只鸟：中心人物是一只风格化的白鸟——类似于鹳或海鸥——有着丰满圆润的身体。它有一个长长的、突出的橙色鸟喙，微微张开，露出一条黑色的嘴线。它的眼睛又小又黑，带有一个微小的白色高光。这只鸟有带白色边缘的黑色翅膀和尾羽，细长的橙色腿末端是黑色的脚，踩在自行车的橙色踏板上。自行车：这辆自行车有一个简单的黑色车架，配有两个大轮子，轮子有黑色轮胎、灰色内轮辋以及呈十字交叉排列的黑色辐条。车把是黑色的，黑色的曲柄上连着明亮的橙色踏板。在鸟的身体后面可以看到一个白色的座椅。背景：场景以晴朗的浅蓝色天空为背景。有两朵蓬松的白云——一朵在左侧，另一朵较小的在右侧靠近鸟头的地方。一个明亮的纯黄色太阳在右上角闪耀。在底部，是连绵起伏的绿色山丘，顶部边缘平滑弯曲，自行车就停在上面。整体风格俏皮、简单且色彩丰富，线条干净，充满明亮、阳光的氛围。