清泛IT社区

标题: 如何实现post访问的流式响应 [打印本页]

作者: kuaileyuzhou    时间: 3 天前
标题: 如何实现post访问的流式响应
用post访问硅基流动的deepseek ri的流式响应时,一次性返回全部信息,如何实现一句一句的显示呀?
deepseek提示可以通过设置整显示速度,修改 TimerInterval 属性:200 毫秒 → 快速逐字1000 毫秒 → 慢速逐句  来实现,但是在哪里能设置呀?图形界面找不到对应的模块

作者: App Inventor 2     时间: 3 天前
deepseek等AI采用SSE推送协议,不能控制原始的推送频率。
可控制的原理应该是回答内容缓存在本地,然后让通过一定的频率推送缓存中的数据。

ai2并不能原生处理sse协议,需要自己处理响应数据。我们的大模型拓展已经实现过了deepseek的接入。

java/python处理sse方便一些,ai2直接处理协议数据我没试过,你可以自己研究看看。




欢迎光临 清泛IT社区 (https://bbs.tsingfun.com/) Powered by Discuz! X3.3