萌新学AI(二):如何使用LangChain创建一个提示模板(Prompt Templates)

向量数据库大模型云通信

在基础示例中,我们使用了一个messages列表(第二行代码),来作为“提示”,去传递给大模型处理。

  
from langchain_core.messages import HumanMessage, SystemMessage  
  
messages = [  
    SystemMessage(content="Translate the following from English into Italian"),  
    HumanMessage(content="hi!"),  
]  
  
model.invoke(messages)  

可以看出,这个列表中包括SystemMessageHumanMessage两个元素。实际上这两个元素其实是对一个完整的提示进行的一种分解,体现出了类似于基于不同的身份所提出的不同要求:

SystemMessage是站在对模型进行设定的角度,告诉模型需要它完成一个什么样的任务。

HumanMessage是站在用户使用的角度,告诉模型用户输入了什么与完成这个任务相关的补充内容。

但总的来说,上述方式是直接手工将具体的指令写好,然后传给模型处理。

事实上,如果需要模型完成的任务非常标准化,或者说指令的大部分要素都是固定的,只需要根据需要调整其中的小部分要求。

比如,“翻译”是一个标准的任务,翻成意大利语还是汉语,这个可以调整。

那么,我们就可以考虑设计一个提示模板(Prompt Templates),把常规的指令固定下来,把灵活的部分留空待填即可。

接下来,我们就来看看如何在LangChain中,用构造好的,标准化的提示模板,来向模型下达指令,具体步骤如下:

1.引入模块
  
from langchain_core.prompts import ChatPromptTemplate  

ChatPromptTemplate是一个提示模板类,用于构建对话模型的输入结构。我们可以用它来定义对话中不同角色的对话模式。

2.创建提示模板的主要内容
  
system_template = "Translate the following into {language}:"  
  
prompt_template = ChatPromptTemplate.from_messages(  
    [("system", system_template), ("user", "{text}")]  
)  

首先,对原来的SystemMessage进行标准化、格式化,即使用一个system_template变量来储存与任务设定相关的字符串信息。(即示例中的翻译任务)

注意,{language}为占位符形式,意味着后续可以对该部分进行调整。

然后,第二行代码通过from_messages方法来创建提示模板实例并赋值给prompt_template。可以看出,我们向from_messages传入的参数也是一个列表,这个列表包括多个元组,每个元组表示一个角色和对应的消息模板。

至此,一个提示模板prompt_template就创建完成了。

3.使用提示模板
  
result = prompt_template.invoke({"language": "italian", "text": "hi"})  
result.to_messages()  

那么如何使用提示模板呢?

首先,仍然是用invoke方法去处理模板信息,这时需传入一个字典结构的参数,可以看出,这个字典的键,就是我们在模版中用占位符设定的内容,而键值,就是我们根据需要输入的内容。

然后,利用to_messages方法,我们就可以把大模型处理提示模板后的信息,转化成类似本文开篇部分我们直接输入提示的样子。

也就是说,如果把result.to_messages()打印出来,我们就可以获得一个内容为这样的列表对象。

  
[SystemMessage(content='Translate the following into italian:'),   HumanMessage(content='hi')]  

可以看出,这个对象的内容跟本文开篇部分的messages列表,是一模一样的。

4.Chain起来

同样的,我们也可以用|操作符把prompt_template加到chain中,通过调用chain来指挥模型,具体代码如下:

  
chain = prompt_template | model | parser  
chain.invoke({"language": "italian", "text": "hi"})
0
0
0
0
关于作者
关于作者

文章

0

获赞

0

收藏

0

相关资源
高性能存储虚拟化方案 NVMe over Fabric 在火山引擎的演进
在云计算中,虚拟化存储扮演着重要角色,其中 iSCSI 协议在业界开放、流行多年。近年来,拥有更优性能的 NVMe over Fabrics 协议也得到了发展。本次分享介绍了 NVMe over Fabrics 在云原生和虚拟化方向的演进工作和成果。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论