-
Notifications
You must be signed in to change notification settings - Fork 800
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
[问题]: 每次提问后,都无法把内容展示完整,回复继续,又重新开始,是什么原因,又什么办法解决吗 #1205
Comments
我也遇到了 |
我也遇到了这个问题 |
多谢回复,我没有开这个限制。但在发现消息显示不全后,我试着开启长度限制,并把限制拖到最长,结果直接报错了。 |
这个问题我也经常遇到,但不每次都遇到。特别是生成长代码的时候,经常会输出不完整。 |
有些模型供应商会在模型输出到了一定token数以后强制截断,所以输出不完整。解决方法就是换个供应商 |
这个基本上是模型供应商的问题,不是软件问题,有些会限制输出token数,到了就停 |
我看到有人查官方文档说了,deepseek 默认限制了输出,可以把输出 token 调大一些,但是不要超过模型最大的输出长度 8000 |
关掉消息长度限制和打开设置成4000,8000都会在输出1000多个token的时候输出暂停,用siliconflow的deepseek-70b模型也是一样 |
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
您的问题
相关背景
No response
补充信息
优先级
高 (阻碍工作进行)
The text was updated successfully, but these errors were encountered: