跳转到主要内容
Qwen-Audio-ASR-Message

实时语音识别(Qwen-Audio-ASR-Message)客户端事件

本文介绍 Qwen-Audio-3.1-ASR-Flash-Message 实时语音识别服务中客户端通过 WebSocket 发送给服务端的客户端事件,包括 run-task(启动任务)、 continue-task(更新上下文)、 finish-task(结束任务)等指令的数据结构与字段含义。

事件交互流程

  1. 发送 run-task,收到 task-started 后开始发送音频。
  2. 持续发送音频,同时接收 result-generated。
  3. 任务运行期间,可通过 continue-task 更新对话上下文;音频仍通过音频通道发送。
  4. 音频发送完毕后发送 finish-task,继续接收结果,直到收到 task-finished;任务失败时返回 task-failed。
音频数据不通过 run-task 发送:WebSocket 使用二进制帧,AOQ 使用 Audio Track。连接、鉴权和音频传输方式请参见 WebSocket API 或 AOQ 接入。

run-task

建立连接后,客户端发送 run-task 事件,启动语音识别任务并设置模型、音频格式、采样率等参数。
收到 task-started 后才能发送音频。 run-task 仅用于启动和配置任务,不携带音频数据。
{
    "header": {
        "action": "run-task",
        "task_id": "1a8804af-8782-4710-8771-1b4f885286bc",
        "streaming": "duplex"
    },
    "payload": {
        "input": {},
        "task_group": "audio",
        "task": "asr",
        "function": "recognition",
        "model": "qwen-audio-3.1-asr-flash-message",
        "parameters": {
            "format": "pcm",
            "sample_rate": 16000
        }
    }
}
参数类型说明
headerobject(必选)
header.actionstring(必选) 指令类型,固定为 run-task。
header.task_idstring(必选) 客户端生成的任务 ID(UUID 格式),用于关联后续事件。
header.streamingstring(必选) 固定为 duplex。
payloadobject(必选)
payload.task_groupstring(必选) 任务组,固定为 audio。
payload.taskstring(必选) 任务类型,固定为 asr。
payload.functionstring(必选) 功能类型。固定为recognition。
payload.modelstring(必选) 模型名,设置为 qwen-audio-3.1-asr-flash-message。模型信息请参见Qwen-Audio-3.1-ASR-Flash-Message。
payload.inputobject(必选) 输入对象。不携带上下文时传入{}。
payload.input.contextarray(object)(可选) 对话上下文,用于辅助识别、提升专有词汇的识别准确率。使用方法详见上下文增强。 提示: 上下文消息(input_text 和 text 类型)各最多 5 条,超出时保留最近的 5 条。每轮上下文文本总长度(user 和 assistant 的 text 字段长度之和)不超过 400 个字符(按字符数计算,每个字符计为 1),超出部分从末尾截断。 提示: 携带上下文时,context 中的消息顺序有要求:上下文消息必须按对话轮次排列,每轮中 user(input_text 类型)必须在对应的 assistant(text 类型)之前。
payload.input.context.rolestring(必选) 消息角色。取值范围:
  • user:前几轮用户语音的识别结果或领域相关的词表。
  • assistant:前几轮大语言模型的回复内容。
payload.input.context.contentarray(object)(必选) 消息内容列表。
payload.input.context.content.typestring(必选) 内容类型。取值范围:
  • input_text:前几轮用户语音的识别结果或领域相关的词表(role 为 user 时使用),需同时传入 text 字段。
  • text:前几轮大语言模型的回复内容(role 为 assistant 时使用),需同时传入 text 字段。
payload.input.context.content.textstring(必选) 文本内容。当 type 为 input_text 时,填入前几轮用户语音的识别结果或领域相关的词表;当 type 为 text 时,填入前几轮大语言模型的回复内容。
payload.parametersobject(必选) 语音识别参数。
payload.parameters.disfluency_removal_enabledboolean(可选) 是否过滤语气词并对输出结果进行润色,默认值为 false。设置为 true 时启用。
payload.parameters.intermediate_result_enabledboolean(可选) 是否返回流式中间结果,默认值为 false。设置为 true 时返回流式中间结果。
payload.parameters.keep_dialectboolean(可选) 是否保留方言表达,默认值为 false。false:将方言转写为普通话文本;true:保留方言表达。 说明: 仅在最终结果(sentence_end=true)生效,中间结果(sentence_end=false)不支持。
payload.parameters.vad_modelstring(可选) VAD 模型,默认值为 far_field_meeting_16k。
  • near_meeting_16k:适用于说话人与麦克风距离较近的拾音场景,例如使用耳麦的客服通话、手持手机的 App 语音输入。
  • far_field_meeting_16k:适用于说话人与麦克风距离较远的拾音场景,例如智能音箱语音交互、会议室集中拾音和车载免提语音交互。
payload.parameters.formatstring(必选) 音频格式。 取值范围:
  • pcm
  • wav
  • mp3
  • opus
  • speex
  • aac
  • amr
提示: opus/speex:必须使用Ogg封装; wav:必须为PCM编码; amr:仅支持AMR-NB类型。
payload.parameters.sample_rateinteger(必选) 采样率(Hz)。 仅支持 16000 Hz。
payload.parameters.vocabulary_idstring(可选) 预编译热词列表 ID。 需预先调用创建热词列表接口生成,识别时传入该 ID 即可使用列表中的热词。 适用于词汇已知且相对稳定、需要跨请求复用同一词表的场景。 使用方法请参见预编译热词。
payload.parameters.vocabularyobject(可选) 即时热词。 以键值对形式传入,键为热词文本(string),值为热词权重(integer),无需预先创建热词列表。权重取值范围为 [1, 5] 或 50:取 [1, 5] 时值越大模型越倾向输出该词;取 50 时为超级热词,召回率大幅提升,但超级热词数量最多不超过 50 个。 适用于临时性、会话级别的热词优化。 与预编译热词同时配置时,系统会合并两类热词;合并后超过 2000 个时,随机选择 2000 个使用。使用方法请参见即时热词。
payload.parameters.language_hintsarray[string](可选) 待识别音频语种。无默认值,不设置时模型自动识别。最多支持设置 4 个值,超出时仅前 4 个生效。 说明: 仅在最终结果(sentence_end=true)生效,中间结果(sentence_end=false)不支持。 取值范围:
  • zh:中文
  • en:英文
  • ja:日语
  • ko:韩语
  • vi:越南语
  • th:泰语
  • id:印尼语
  • ms:马来语
  • tl:菲律宾语
  • hi:印地语
  • ar:阿拉伯语
  • fr:法语
  • de:德语
  • es:西班牙语
  • pt:葡萄牙语
  • ru:俄语
  • it:意大利语
  • nl:荷兰语
  • sv:瑞典语
  • da:丹麦语
  • fi:芬兰语
  • no:挪威语
  • el:希腊语
  • pl:波兰语
  • cs:捷克语
  • hu:匈牙利语
  • ro:罗马尼亚语
  • bg:保加利亚语
  • hr:克罗地亚语
  • sk:斯洛伐克语
payload.parameters.max_sentence_silenceinteger(可选) VAD 断句静音阈值(ms)。当一段语音后的静音时长超过该阈值时,系统会判定该句子已结束。 默认值:800。 取值范围:[200, 6000]。
payload.parameters.heartbeatboolean(可选) 是否启用心跳包。 默认值:false。
  • true:在持续发送静音音频的情况下,可保持与服务端的连接不中断。
  • false(默认):即使持续发送静音音频,连接也将在一定时间后因超时而断开。
静音音频指的是在音频文件或数据流中没有声音信号的内容。静音音频可以通过多种方法生成,例如使用音频编辑软件如Audacity或Adobe Audition,或者通过命令行工具如FFmpeg。
payload.parameters.speech_noise_thresholdfloat(可选) 语音与噪音的判定阈值,用于调整语音活动检测(VAD)的灵敏度。 取值范围:[-1.0, 1.0]。 取值说明:
  • 取值越接近 -1:降低噪音判定阈值,噪音被识别为语音的概率增大,可能导致更多噪音被转写
  • 取值越接近 +1:提高噪音判定阈值,语音被误判为噪音的概率增大,可能导致部分语音被过滤
此参数为高级配置参数,调整可能显著影响识别效果,建议:
  • 调整前充分测试验证效果
  • 根据实际音频环境小幅度调整(建议步长 0.1)

continue-task

收到 task-started 后,客户端可在任务运行期间发送 continue-task 事件,更新对话上下文以辅助后续识别。 以下示例先更新上下文,再继续发送音频;返回示例是随后收到的识别结果。
{
    "header": {
        "action": "continue-task",
        "task_id": "d3329aa4-1edf-46f7-8991-7f96b83c94ca",
        "streaming": "duplex"
    },
    "payload": {
        "input": {
            "context": [
                {
                    "role": "user",
                    "content": [
                        {
                            "type": "input_text",
                            "text": "我在祺元项目工作,负责璇枢系统。我的同事叫洛柯。"
                        }
                    ]
                },
                {
                    "role": "assistant",
                    "content": [
                        {
                            "type": "text",
                            "text": "好的,我们继续讨论祺元项目、璇枢系统和洛柯的工作。"
                        }
                    ]
                }
            ]
        }
    }
}
参数类型说明
headerobject(必选)
header.actionstring(必选) 指令类型,固定为 continue-task。
header.task_idstring(必选) 客户端生成的任务 ID(UUID 格式),需与run-task事件中的 task_id 保持一致。
header.streamingstring(必选) 固定为 duplex。
payloadobject(必选)
payload.inputobject(必选) 输入对象。
payload.input.contextarray(object)(可选) 对话上下文,用于辅助识别、提升专有词汇的识别准确率。使用方法详见上下文增强。 提示: 上下文消息(input_text 和 text 类型)各最多 5 条,超出时保留最近的 5 条。每轮上下文文本总长度(user 和 assistant 的 text 字段长度之和)不超过 400 个字符(按字符数计算,每个字符计为 1),超出部分从末尾截断。 提示: 携带上下文时,context 中的消息顺序有要求:上下文消息必须按对话轮次排列,每轮中 user(input_text 类型)必须在对应的 assistant(text 类型)之前。
payload.input.context.rolestring(必选) 消息角色。取值范围:
  • user:前几轮用户语音的识别结果或领域相关的词表。
  • assistant:前几轮大语言模型的回复内容。
payload.input.context.contentarray(object)(必选) 消息内容列表。
payload.input.context.content.typestring(必选) 内容类型。取值范围:
  • input_text:前几轮用户语音的识别结果或领域相关的词表(role 为 user 时使用),需同时传入 text 字段。
  • text:前几轮大语言模型的回复内容(role 为 assistant 时使用),需同时传入 text 字段。
payload.input.context.content.textstring(必选) 文本内容。当 type 为 input_text 时,填入前几轮用户语音的识别结果或领域相关的词表;当 type 为 text 时,填入前几轮大语言模型的回复内容。

finish-task

所有音频数据发送完毕后,客户端发送 finish-task 事件,通知服务端音频发送完毕并请求结束任务。
发送 finish-task 后,仍需接收剩余识别结果,直到收到 task-finished。 task_id 必须与 run-task 中的值一致。
{
    "header": {
        "action": "finish-task",
        "task_id": "1a8804af-8782-4710-8771-1b4f885286bc",
        "streaming": "duplex"
    },
    "payload": {
        "input": {}
    }
}
参数类型说明
headerobject(必选)
header.actionstring(必选) 指令类型,固定为 finish-task。
header.task_idstring(必选) 客户端生成的任务 ID(UUID 格式),需与run-task事件中的 task_id 保持一致。
header.streamingstring(必选) 固定为 duplex。
payloadobject(必选)
payload.inputobject(必选) 固定为{}。