好不容易搭建出一个工作流,却不知不觉消耗太多资源点?3招帮你节省一半的资源点!

大模型向量数据库云存储

大家好,我是灿灿, 专注于AI智能体应用,今天分享三个节省coze资源点的小技巧。

首先,我们来看一下,哪些节点会消耗资源点,以及哪些节点消耗得比较多。

查看官方文档,我们可以看到,在常用的节点中,主要是大模型、插件、语音合成这些需要消耗资源点。大模型功能越强大,输入的文本越长所需要的资源点就越多。但是整体来说,大模型消耗的资源点不算多。再来看图像生成节点,图像生成一次就需要25个资源点。图像生成节点所用的资源点还是比较多的。

picture.image

picture.image

我们以搭建工作流流程为切入点来说明怎么节省资源点,很多人都说coze搭建工作流就像搭积木一样,一块一块搭上去。我倒是觉得coze工作流更像接力比赛,每个人负责跑好自己的跑道,并一个个接力下去。工作流也是这样的,把一个完整的流程拆分成一个个小的功能点,当前面的流程节点完成后,就可以把结果给到下一个节点,依次执行,直到流程结束。

那么在执行工作流过程中, 流程也是一环扣一环的。所以当流程节点多的时候,就可以完成一部分流程就执行一次。这样可以确保当前流程不会报错,并能保证后续的节点的输入是正确的。

如果你一次性全部搭建完,再来测试,节点多的情况下很难排查错误不说,每次执行全流程,就会执行多次相同的流程节点,导致白白耗费很多资源点。

这也就是第一个小技巧。

  1. 分块测试工作流

完成一部分流程,就测试执行一次。

  1. 使用模拟集,减少插件执行次数

前面我们讲了工作流是依次执行的,而使用插件节点的时候就是一个请求服务的过程,每次请求一次服务都会消耗资源点。如果这个时候我们可以把第一次请求成功的数据缓存起来,下次执行直接用缓存数据就好了。插件的模拟集做的就是这个事。

下面我演示下怎么使用模拟集。

我以一个很简单的工作流为例,该工作流接收一个文本字符串,传给语音合成节点,生成一段音频,并在结束节点输出音频链接。

picture.image

点开音频节点,顶部有个下拉框,点开可以看到创建模拟集按钮。

picture.image

在创建之前肯定需要有数据,所以我们需要先执行一遍。

picture.image

把输出数据复制下来,然后点击创建模拟集。

picture.image

把刚才复制的数据粘贴到这里,然后保存即可。

picture.image

  1. 使用提示词,生成少量分镜

生成图片的时候,我们一般会使用大模型生成分镜提示词。然后再根据分镜提示词来批量生成图片。这个时候我们可以让模型只输出两个分镜,那么生图节点就只会执行两次,大大节省了测试时间和资源点。

picture.image

以心理学工作流为例,把描述分镜的部分直接改成仅生成两个分镜即可。具体情况以大家搭建的工作流为准。

好了,今天就讲到这里了,有收获的小伙伴可以 一键三连支持一下picture.image

有问题也可以留言,看到了会回复~

心动不如行动,快试试效果吧!

picture.image

0
0
0
0
关于作者
关于作者

文章

0

获赞

0

收藏

0

相关资源
火山引擎大规模机器学习平台架构设计与应用实践
围绕数据加速、模型分布式训练框架建设、大规模异构集群调度、模型开发过程标准化等AI工程化实践,全面分享如何以开发者的极致体验为核心,进行机器学习平台的设计与实现。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论