AI调用模块,第三方接口无法使用。

BUG反馈 · 1115 次浏览
milk 创建于 2023-08-14 12:27

之前一直在使用第三方接口,AI调用均正常使用,但昨天到现在AI调用模块完全无法使用,一直在报错。

 

步骤(sys:ai)执行失败,原因:接口调用出错: chat/completions (https://xxxxxxxx/v1/chat/completions) HTTP状态码:422. 返回内容: {"detail":[{"loc":["body","stop"],"msg":"value is not a valid list","type":"type_error.list"}]}
停止动作:接口调用出错: chat/completions (https://xxxxxxxxx/v1/chat/completions) HTTP状态码:422. 返回内容: {"detail":[{"loc":["body","stop"],"msg":"value is not a valid list","type":"type_error.list"}]}
 
有时不会报错,AI调用输出为空。
 
查询到了''AI调用''模块说明文档,还是无法解决这个问题。
【停止符stop】官方参考文档。遇到此内容时,接口停止输出更多结果。留空,使用推荐默认值<|endoftext|>或自定义的内容。在使用第三方接口时,请务必设置此值(或使用1.38.35以上版本),建议使用<|endoftext|>

已经将版本升级1.38.38至1.38.43各个版本, 尝试了【停止符stop】选项留空,也尝试了使用<|endoftext|>AI调用模块仍然无法运行。
 
在昨天以前该第三方接口在AI模块中均是正常运行,也可以正常流式输出。由于目前挺多动作都是基于AI调用模块设计的,所以目前AI调用模块无法使用,比较严重影响了使用,请大神们帮忙!!!
 

回复内容
H-D-G 2023-08-14 12:45
#1

也许是接口出错?

CL 2023-08-14 13:13
#2

程序没变的情况下出问题,这个估计是接口问题了吧。 

milk 回复 CL 2023-08-14 13:21 :

谢谢您的回复,我看到有个说明文档,看不太懂,我应该在AI调用模块中的STOP填什么呢?

{
  "model": "string",
  "messages": [
    {
      "role": "string",
      "content": "string",
      "name": "string",
      "function_call": {}
    }
  ],
  "functions": [
    "string"
  ],
  "function_call": "string",
  "temperature": 1,
  "top_p": 1,
  "stream": false,
  "stop": [
    "string"
  ],
  "max_tokens": 0,
  "presence_penalty": 0,
  "frequency_penalty": 0,
  "logit_bias": {},
  "allow_fallback": false
}
CL 回复 milk 2023-08-14 13:23 :
空着就行。
milk 回复 CL 2023-08-14 14:33 :

大神好,我也很无奈,这看起来确实有点莫名其妙,我之前都是空着的,正常用了有一个月了,但是确实是现在AI调用模块无法运行。我手写一个python,是能获得结果的。只不过这样就无法流式输出了。  或者说如果不用AI调用模块,咱们的动作库里还有什么方法能实现流式输出吗?

CL 回复 milk 2023-08-14 14:58 :

openai官方的python库是不是支持流式? qk里其它模块没有支持流式的http请求的了。要不试试官方接口?

milk 回复 CL 2023-08-17 21:55 :

大神好,我仔细研究了一下这个问题,问题应该出第三方接口在STOP项目上要求的格式是列表,而我们的AI调用模块的STOP项目输出的是字符串,会不会是这个原因,所以导致即使留空,或者在我们的AI调用模块的STOP输入的列表,最终还是以字符串的格式输出,导致不符合第三方接口的格式要求? 如果是的话,能否费心修改一下AI调用模块关于STOP的输出格式?感激感激! 之所以不用官方接口是因为用官方接口在支付和魔法手段上现阶段对我而言有一定难度。

CL 回复 milk 2023-08-17 22:52 :

等下一版试一下看看,输入多行的时候按数组方式。

milk 回复 CL 2023-08-17 22:53 :

感谢感谢!!

milk 回复 CL 2023-08-19 22:53 :

感谢感谢,下载好了最新版本,这个问题已经得到修复。谢谢你!!!!

milk 2023-08-14 13:14
#3

接口没有问题呢,放在python代码里是可以正常运行的。

CL 2023-08-19 22:41
#4
回复 milk :

感谢感谢!!

有没有试下1.39.0 版本? 停止参数里输入两行内容的时候按数组方式传递 https://getquicker.net/Help/Versions 

回复主贴