发布在微信、企业微信等渠道响应慢
评论区

发布在微信、企业微信等渠道响应慢

Coze
企业级数字化办公平台,帮助员工随时随地,安全连接内部网络与应用
  • 流式输出差异

    在智能体编排界面是默认使用流式输出,大模型逐tokens进行内容输出,只需要等待一个首响应时间

    微信的部分渠道不支持流式输出,需要等待大模型完整处理后一并发送到微信端,需要等待首响应时间+大模型处理时间。

  • 网络链路差异

    在智能体编排界面进行调试,请求处理均在服务端进行。

    发布渠道后使用,会额外增加用户请求到服务端以及服务端返回数据到客户端的网络链路时间。

0
0
0
0
关于作者
关于作者

文章

0

获赞

0

收藏

0

相关资源
VikingDB:大规模云原生向量数据库的前沿实践与应用
本次演讲将重点介绍 VikingDB 解决各类应用中极限性能、规模、精度问题上的探索实践,并通过落地的案例向听众介绍如何在多模态信息检索、RAG 与知识库等领域进行合理的技术选型和规划。
相关产品
飞连
企业级数字化办公平台,帮助员工随时随地,安全连接内部网络与应用
了解详情 
智能数据洞察 DataWind
一站式大量级数据展示与分析平台
了解详情 
日志服务
日志服务是火山引擎的实时日志平台,提供日志采集、检索分析等功能
了解详情 
评论
未登录
看完啦,登录分享一下感受吧~
正在加载中...