Skip to content
目录

参数说明

1. 语言大模型 Taichu-2.0

接口请求

传输方式https
请求地址https://ai-maas.wair.ac.cn/maas/v1/chat/completions
调用方式同步调用,等待模型执行完成并返回最终结果或 SSE 调用
字符编码UTF-8
接口请求格式JSON
响应格式JSON 或标准 Stream Event
接口请求类型POST
开发语言任意可发起 HTTP 请求的开发语言

接口请求参数

Header 参数说明

字段类型必选描述示例值
Content-Typestring请求类型application/json
AuthorizationstringAPI Key,格式为 Bearer $Bearer ayvs***vufp

Body 参数说明

参数名称类型是否必填参数说明
modelstring所要调用的模型编码,模型可选模型 taichu_llm
messageslist一个由历史消息组成的列表,详细说明,参照 messages 信息说明
streambool使用同步调用时,此参数应当设置为 fasle。表示模型生成完所有内容后一次性返回所有内容。如果设置为 true,模型将通过标准 Event Stream ,逐块返回模型生成内容。Event Stream 结束时会返回一条data: [DONE]消息。默认值为 true
temperaturefloat生成过程中的温度值,取值范围[0.01,1.00] 闭区间,默认值为 0.8,调节最小细粒度为0.01
top_pfloat生成过程中的token几率阈值取值范围是:(0.0, 1.0) 开区间,默认值为 0.9,调节最小细粒度为0.1
max_tokensint模型输出最大 tokens,最大输出为8192,默认值为3000
toolslist可供模型调用的工具。详细说明,参照 tools参数说明
tool_choicestring用于控制模型是如何选择要调用的函数,仅当工具类型为function时补充。默认为auto,当前仅支持auto
messages参数说明
参数名称类型是否必填说明
rolestringsystem:系统,user:用户,assistant:模型,tool:工具调用
contentstringrole=system 时为系统提示信息,role=user 时为用户输入信息,role=assistant 时为模型返回信息,role=tool 时为工具调用返回信息
tools参数说明
参数名称子参数名称类型是否必须说明
typestring工具类型,目前支持functionretrieval
functionobjectfunction工具,仅当工具类型为function时补充
namestring函数名称
descriptionstring函数描述,模型会根据这段描述决定函数调用方式。
parametersobject需要传入一个 Json Schema 对象,以准确地定义函数所接受的参数。若调用函数时不需要传入参数,省略该参数即可。
retrievalobject知识库搜索,仅当工具类型为retrieval时补充
knowledge_idsarray知识库id(可通过 文档管理->知识库管理->相关信息 获取)
document_idint知识库下对应的文档id,若为空,针对整个知识库问答(可通过 文档管理->我的文档->相关信息 获取)
document_namestring知识库下对应的文档名称,可通过 文档管理->我的文档->相关信息 获取)
remove_corner_markbool为true的时候能去除答案的引用角标,默认值为false
tips_textstring知识库问答未命中时的固定描述,当不传无固定描述,默认值为"抱歉,我的知识库中未检索到相关信息。请换个问题或参考小初的回答:"。
backup_chatbool知识库问答未命中时,是否启用大语言模型兜底回答,默认开启,默认值为true

返回参数说明

参数名称子参数名称类型说明
idstring本次请求唯一标识
modelstring本次使用的模型名称
choiceslist
messagesobject同步响应时,返回该字段,详细说明见 messages 和 delta 参数说明
deltaobject流式响应时,返回该字段,详细说明见 messages 和 delta 参数说明
finish_reasonstringstop: 表示模型输出结束length: 表示模型输出长度达到max_tokens tool_calls: 表示模型命中函数 content_filter: 表示模型输出被安全审核拦截,针对此类内容,请用户自行判断并决定是否撤回已公开的内容。
usageobjecttoken使用数量
completion_tokensint内容生成的 tokens 数量
prompt_tokensintprompt 使用的 tokens 数量
total_tokensint总 tokens 用量
messages 和 delta 参数说明

2.多模态大模型 Taichu-2.0V

请求参数说明

参数名称类型是否必填说明
api_keystringapikey管理页面获取
model_codestring模型code,此处为taichu_vqa
questionstring用户输入信息
picturestring图片base64编码
contextstring上下文信息,首次请求不需要带,后续请求使用接口返回的context值,当picture发生变化时,context需要重置为空
temperaturefloat生成过程中的温度值,取值范围[0.01,1.00] 闭区间,默认值为 1.0,调节最小细粒度为0.01
top_pfloat生成过程中的token几率阈值取值范围是:(0.0, 1.0) 开区间,默认值为 0.9,调节最小细粒度为0.1
repetition_penaltyfloat生成过程中的惩罚值取值范围是:(1.0, 2.0) 开区间,默认值为 1.0,调节最小细粒度为0.1

请求参数示例

{
    "picture":"base64编码",
    "question":"你好",
    "model_code": "taichu_vqa",
    "api_key":"xxx"
}

返回参数说明

参数名称二级参数名称类型说明
codeint错误码,非0异常
msgstring错误信息
dataobject
contentstring返回的文本内容
contextstring问答上下文,后续请求使用该值带入参数

返回数据示例

{
    "code": 0,
    "msg": "OK",
    "data": {
        "content": "你好!我是小初,你有什么需要我帮忙的吗?",
        "context":""
    }
}