结构化输出

能力介绍

JSON 是当今世界上应用程序之间交换数据最广泛使用的格式之一。

结构化输出是一项功能特性，可确保模型生成的响应始终符合您提供的 JSON Schema，因此您无需担心模型遗漏必需的键，或生成无效的枚举值。

结构化输出的优势包括：

• 可靠的类型安全：无需验证或重试格式错误的响应；
• 明确的拒绝信号：基于安全策略的模型拒绝现在可通过程序化方式检测；
• 更简洁的提示词：无需使用强调性措辞的提示词即可实现一致的格式化输出。

使用示例

curl 'https://wanqing.streamlakeapi.com/api/gateway/v1/endpoints/chat/completions' \
-H "Authorization: Bearer $WQ_API_KEY"  \
-H 'Content-Type: application/json' \
-d '{
    "model": "模型 id/推理点id", 
    "messages": [ 
        {
            "role": "system",
            "content": "你是一个 AI 人工智能助手。"
        },
        {
            "role": "user",
            "content": "请介绍一下太阳系的八大行星"
        }
    ],
    "response_format": {
        "type": "json_object"
    },
    "stream": false,
}'

适用模型