一个大模型结合图谱的知识偏好对齐的问答框架（代码开源）

“ together ai发了一个自家推理加速引擎的博客，说是目前全球最快的推理引擎，博客地址：https://www.together.ai/blog/together-inference-engine-v1

        
          
https://arxiv.org/pdf/2311.06503v1.pdf  
https://github.com/zjukg/KnowPAT  

      

这篇论文提出了一个名为知识偏好对齐（KnowPAT）的框架，用于解决基于大型语言模型（LLM）和领域知识图谱（KG）的领域特定问答任务。KnowPAT主要包括三个关键部分：无监督三元组链接、知识偏好集构建以及知识偏好对齐。

核心观点：

1. 将偏好对齐引入领域特定问答任务，使得LLM能够更好地适应实际应用场景。
2. 提出知识偏好对齐框架，将领域知识图谱融入偏好对齐过程，平衡文本风格和知识使用的需求。

算法原理：

1. 无监督三元组链接：通过计算问题与知识图谱中三元组之间的相似度，为每个问题检索相关的知识三元组。
2. 知识偏好集构建：构建两种类型的偏好集，即风格偏好集和知识偏好集。风格偏好集包含不同LLM生成的答案，而知识偏好集包含具有不同质量知识的答案。
3. 知识偏好对齐：设计一个新的对齐目标，使LLM在训练过程中与人类偏好保持一致，从而生成可靠且用户友好的答案。

结论：通过自动评估指标和人工评估，实验证明KnowPAT相较于15个基线方法具有更优秀的性能，是一个适用于实际场景的领域特定问答框架。