跳转到主要内容
三方模型

Ling-蚂蚁数科

本文档介绍如何在千问AI平台调用蚂蚁数科直供的 Ling 系列模型推理服务。

服务开通

  1. 前往模型市场,搜索 Ling,找到 antdigital/Ling-3.1-flash 模型卡片,单击立即开通;
  2. 在弹窗内确认开通及授权。
完成以上步骤即可调用蚂蚁数科提供的 Ling 模型服务。

快速开始

前提条件 antdigital/Ling-3.1-flash 是蚂蚁数科直供的混合思考模型,仅支持文本输入,默认开启思考模式:
  • 思考模式(默认,或 enable_thinking: true):模型会输出推理过程(reasoning_content)
  • 非思考模式(enable_thinking: false):直接输出结果,不包含推理过程
支持通过 preserve_thinking 参数在多轮对话中传递思考过程,详情请参见传递思考过程。 以下示例演示如何以流式输出调用思考模式的 antdigital/Ling-3.1-flash 模型。
  • enable_thinking 非 OpenAI 标准参数,OpenAI Python SDK 通过 extra_body 传入,Node.js SDK 作为顶层参数传入。
  • 流式输出时,stream_options 中的 include_usage 仅支持 true,传入 false 会报错。
  • Python
  • Node.js
  • curl
from openai import OpenAI
import os

# 初始化OpenAI客户端
client = OpenAI(
  # 如果没有配置环境变量,请用千问AI平台API Key替换:api_key="sk-xxx"
  api_key=os.getenv("DASHSCOPE_API_KEY"),
  base_url="https://maas.qianwenaiapi.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "9.9和9.11哪个大?"}]
completion = client.chat.completions.create(
  model="antdigital/Ling-3.1-flash",
  messages=messages,
  stream=True,
  stream_options={
    "include_usage": True
  },
  # 默认开启思考模式,如需关闭可将 enable_thinking 设为 False
  extra_body={"enable_thinking": True}
)

reasoning_content = ""  # 完整思考过程
answer_content = ""  # 完整回复
is_answering = False  # 是否进入回复阶段
print("\n" + "=" * 20 + "思考过程" + "=" * 20 + "\n")

for chunk in completion:
  if not chunk.choices:
    print("\n" + "=" * 20 + "Token 消耗" + "=" * 20 + "\n")
    print(chunk.usage)
    continue

  delta = chunk.choices[0].delta

  # 只收集思考内容
  if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
    if not is_answering:
      print(delta.reasoning_content, end="", flush=True)
    reasoning_content += delta.reasoning_content

  # 收到content,开始进行回复
  if hasattr(delta, "content") and delta.content:
    if not is_answering:
      print("\n" + "=" * 20 + "完整回复" + "=" * 20 + "\n")
      is_answering = True
    print(delta.content, end="", flush=True)
    answer_content += delta.content

其它功能

功能支持情况备注
多轮对话支持—
Function Calling支持支持通过 tool_stream 以流式方式返回工具入参;不支持 parallel_tool_calls
前缀续写支持—
上下文缓存支持隐式缓存,命中缓存的输入 Token 按输入价格的 20% 计费
结构化输出支持response_format 仅支持 {"type": "json_object"},不支持 json_schema
联网搜索不支持—
多模态输入不支持仅支持文本输入
antdigital/Ling-3.1-flash 不支持以下参数:thinking_budget、reasoning_effort、parallel_tool_calls、seed、logprobs、top_logprobs、enable_code_interpreter、enable_search、search_options、skill。

模型列表与计费

模型说明
antdigital/Ling-3.1-flash混合思考模型,默认开启思考模式,上下文长度为 1048576 Token
模型上下文长度与价格信息请参见模型市场。 按照模型的输入与输出 Token 计费。
思考模式下,思维链按照输出 Token 计费。

错误码

如果模型调用失败并返回报错信息,请参见错误码进行解决。