部分参数说明

随便聊聊 · 921 次浏览
zryan 创建于 2023-06-17 13:54

【模型】模型id,可填写值见此文档 Models - OpenAI API 中的 MODEL NAME ,注意要和【端点 (ENDPOINT)】参数相匹配。

【top_p】一种替代温度采样的方法叫做核心采样,在其中,模型会考虑概率质量函数(PMF)中前 top_p 的标记结果。因此,0.1 表示选择概率质量为前 10% 的结果。
我们建议仅修改 【温度】和【top_p】其中一个参数,而不是同时修改两个参数。

英文原文:An alternative to sampling with temperature, called nucleus sampling, where the model considers the results of the tokens with top_p probability mass. So 0.1 means only the tokens comprising the top 10% probability mass are considered.

We generally recommend altering this or temperature but not both.

【API网址】自定义API网址。如果是 OpenAI 的第三方 API ,填写的网址格式类似:https://api.openai.com,后面无需添加表示 端点 (ENDPOINT) 的后缀,模块内会自动根据上方的【端点】参数进行添加。

zryan 最后更新于 2023/6/17

回复内容
回复主贴