在基础示例中,我们使用了一个messages
列表(第二行代码),来作为“提示”,去传递给大模型处理。
from langchain_core.messages import HumanMessage, SystemMessage
messages = [
SystemMessage(content="Translate the following from English into Italian"),
HumanMessage(content="hi!"),
]
model.invoke(messages)
可以看出,这个列表中包括SystemMessage
和HumanMessage
两个元素。实际上这两个元素其实是对一个完整的提示进行的一种分解,体现出了类似于基于不同的身份所提出的不同要求:
SystemMessage
是站在对模型进行设定的角度,告诉模型需要它完成一个什么样的任务。
HumanMessage
是站在用户使用的角度,告诉模型用户输入了什么与完成这个任务相关的补充内容。
但总的来说,上述方式是直接手工将具体的指令写好,然后传给模型处理。
事实上,如果需要模型完成的任务非常标准化,或者说指令的大部分要素都是固定的,只需要根据需要调整其中的小部分要求。
比如,“翻译”是一个标准的任务,翻成意大利语还是汉语,这个可以调整。
那么,我们就可以考虑设计一个提示模板(Prompt Templates),把常规的指令固定下来,把灵活的部分留空待填即可。
接下来,我们就来看看如何在LangChain中,用构造好的,标准化的提示模板,来向模型下达指令,具体步骤如下:
from langchain_core.prompts import ChatPromptTemplate
ChatPromptTemplate
是一个提示模板类,用于构建对话模型的输入结构。我们可以用它来定义对话中不同角色的对话模式。
system_template = "Translate the following into {language}:"
prompt_template = ChatPromptTemplate.from_messages(
[("system", system_template), ("user", "{text}")]
)
首先,对原来的SystemMessage
进行标准化、格式化,即使用一个system_template
变量来储存与任务设定相关的字符串信息。(即示例中的翻译任务)
注意,{language}
为占位符形式,意味着后续可以对该部分进行调整。
然后,第二行代码通过from_messages
方法来创建提示模板实例并赋值给prompt_template
。可以看出,我们向from_messages
传入的参数也是一个列表,这个列表包括多个元组,每个元组表示一个角色和对应的消息模板。
至此,一个提示模板prompt_template
就创建完成了。
result = prompt_template.invoke({"language": "italian", "text": "hi"})
result.to_messages()
那么如何使用提示模板呢?
首先,仍然是用invoke
方法去处理模板信息,这时需传入一个字典结构的参数,可以看出,这个字典的键,就是我们在模版中用占位符设定的内容,而键值,就是我们根据需要输入的内容。
然后,利用to_messages
方法,我们就可以把大模型处理提示模板后的信息,转化成类似本文开篇部分我们直接输入提示的样子。
也就是说,如果把result.to_messages()
打印出来,我们就可以获得一个内容为这样的列表对象。
[SystemMessage(content='Translate the following into italian:'), HumanMessage(content='hi')]
可以看出,这个对象的内容跟本文开篇部分的messages
列表,是一模一样的。
同样的,我们也可以用|
操作符把prompt_template
加到chain中,通过调用chain来指挥模型,具体代码如下:
chain = prompt_template | model | parser
chain.invoke({"language": "italian", "text": "hi"})