Dify应用实战(2) - 联网工具

大模型AI开放平台

本文适用对象:初级水平 目标:Dify通过插件访问联网API的特定服务

Dify应用实战(1) - 知识库检索

Dify应用实战(2) - 联网工具

Dify应用实战(3) - 代码处理

Dify应用实战(4) - 生成语音

Dify应用实战(5) - 使用模版

Dify应用实战(6) - 图片生成(上)

Dify应用实战(7) - 图片生成(下)

Dify应用实战(8) - 对话记忆

Dify应用实战(9) - 问题分类

Dify应用实战(10) - 循环处理

Dify应用实战(11) - 条件分支

Dify应用实战(12) - 数据库查询

Dify应用实战(13) - 工具调用

Dify应用实战(14) - 结果聚合

Dify应用实战(15) - 对象存储

Dify应用实战(16) - 数据可视化

Dify应用实战(17) - 使用MCP服务

Dify应用实战(18) - 发布成MCP服务

Dify应用实战(19) - 邮件配置

Dify应用实战(20) - 插件开发(上)

Dify应用实战(21) - 插件开发(中)

Dify应用实战(22) - 插件开发(下)

上一节Dify应用实战课,让大家知道如何通过知识库的能力,获取指定的结果。这在很多的应用场景是非常有用的能力。

比如依赖有大量规则文档的行业,就会大大减少查找核对的工作。经常看到律师朋友,医生朋友发朋友圈说,AI不行啊,老是"胡说八道",出现幻觉。

这其实是高估了大语言模型的能力,即使是垂直领域做过SFT,也不可能精确的回答准真正匹配规则的内容。并且微调训练成本也不低,不可能随时更新语料(标注数据)。通过RAG的方法,就可以在特定场景下,严格通过给出的文档内的规则,给出结果。

复习了上节课的内容,我们继续AI学习之旅。今天教大家使用插件,进行流程开发。

01. 动手做一做

基于上一节课的流程,在大模型节点后新增一个工具节点,选择搜索"天气",点中"高德天气预报"。

选择这个主要是前面知识库的地区名和code对照表,就是高德的。另外这个接口也比较简单,输入就是一个adcode,输出就是今天该地区的天气结果。 picture.image

添加之后,连接LLM节点和新增节点,再连接新增节点和结束节点。修改参数(一定要先连接),"天气预报"的输入,选择"LLM"的text。然后把结束节点的输出也改为"天气预报"的text。

点击"发布",保存。提示"操作成功"。就可以进行测试了。测试如下: picture.image

02. 工具使用与开发

一个正常应用的流程,其实都是非常复杂的。都需要经历很多步的操作,才能最终完成一项任务。

对于除大模型以外的工作,都需要工具进行配合。比如,大模型不可能直接得到今天某地的天气结果,需要通过API实时查询才行。那么通过LLM和天气预报工具进行结合,便实现了整个过程。

今天的任务,有现成的工具能使用。但是如果没有现有的工具,或者现有工具无法满足需求,就需要进行定制化开发。

基于Dify良好的设计,真要增加插件功能,还不算太难。不过这不是这一篇的重点,大概介绍一下吧。如果有兴趣,后面可以详谈。

通过扩展BuiltinTool类,将处理逻辑封装进"invoke tools"。最后返回create_text_message对象,包含处理后的数据或者异常信息,即可。 picture.image

总结

今天在上次的工作流基础上,进一步增加外部工具获取数据的过程。并简单了解,实现类似功能的方法。为今后自己实际业务的开发奠定基础。

如果你对AI的发展感兴趣,欢迎一键三连。有任何问题可以留言,我们共同探讨。

0
0
0
0
关于作者

文章

0

获赞

0

收藏

0

相关资源
火山引擎大规模机器学习平台架构设计与应用实践
围绕数据加速、模型分布式训练框架建设、大规模异构集群调度、模型开发过程标准化等AI工程化实践,全面分享如何以开发者的极致体验为核心,进行机器学习平台的设计与实现。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论