【LLM&Agent】PPTAgent:PPT自动生成Agent框架

向量数据库大模型云通信

来看一个PPT生成思路:PPTAgent。传统的PPT生成方法通常使用端到端的文本生成范式,这种方法 仅关注文本内容,忽略了布局设计和PPT结构 。PPTAgent 采用了一种基于编辑的生成范式,解决处理 空间关系和设计风格 方面的挑战。

传统方法的每个幻灯片

可以用以下公式表示:

其中,

表示幻灯片上的元素数量,

表示由章节和图形组成的源内容。每个元素

由其类型、内容和样式属性(如边框、大小、位置等)定义。

与传统的生成方法相比,PPTAgent 采用了一种基于编辑的生成范式,该方法生成一系列修改现有幻灯片的动作。过程可以用以下公式表示:

其中,

表示生成的动作数量,每个动作

表示一行可执行的代码,

是正在编辑的参考幻灯片。

方法

picture.image

PPTAgent框架

在本文中,PPTAgent 是一个用于自动生成PPT的框架。采用基于编辑的工作流程,分为两个阶段:PPT分析和PPT生成。

阶段 I: PPT分析

主要目标是通过 幻灯片聚类内容schema提取 ,为PPT生成提供结构化和语义化的参考信息。这一阶段的结果将直接影响后续阶段的生成质量和效率。

  1. 幻灯片聚类

幻灯片聚类(层次聚类)是将参考PPT中的幻灯片按照其功能和内容进行分组的过程。幻灯片可以分为两大类:

聚类算法:

picture.image

层次聚类

picture.image

聚类示例

  • 结构性幻灯片 :这些幻灯片主要用于支持演示文稿的结构,例如开场幻灯片、过渡幻灯片和结束幻灯片。对于此类幻灯片,PPTAgent利用LLM推断每个幻灯片的功能角色,并根据这些角色进行分组。这些幻灯片通常具有明显的文本特征。
  • 内容性幻灯片 :这些幻灯片主要用于传达具体的信息,例如包含项目符号、图表和图像的幻灯片。对于此类幻灯片,PPTAgent采用基于图像相似性的层次聚类方法。通过计算幻灯片之间的图像相似度,将相似的幻灯片归为一组。
  • 内容Schema提取

完成幻灯片聚类后,PPTAgent进一步分析每个聚类的内容Schema,以确保编辑的目标一致性。由于现实世界中的幻灯片可能非常复杂且碎片化,PPTAgent利用LLM的上下文感知能力提取多样化的内容Schema。PPTAgent定义了一个内容Schema提取框架,其中每个元素由其 类别模态内容 表示。基于这个框架,PPTAgent通过LLM的指令遵循(原文给出了相关prompts)和结构化输出能力,从每个幻灯片中提取内容Schema。提取过程如下:

  • 类别 :描述元素的类型,例如文本框、图像等。
  • 模态 :描述元素的呈现方式,例如纯文本、带图形的文本等。
  • 内容 :描述元素的具体内容,例如文本内容或图像的替代文本。

阶段 II:PPT生成

picture.image

第二阶段是基于第一阶段的分析结果,生成新的PPT。这一阶段的核心是通过交互式的编辑过程,利用参考幻灯片和输入文档生成目标PPT。步骤包括:生成一个结构化的大纲,指定每个幻灯片的参考幻灯片和相关内容;使用 LLMs迭代编辑 参考幻灯片以生成新幻灯片;实现五个专门的API,允许LLMs编辑、删除和复制文本元素,以及编辑和移除视觉元素。

大纲生成 :大纲生成是根据人类偏好,指导LLM创建一个结构化的大纲。每个条目指定参考幻灯片、相关文档部分索引以及新幻灯片的标题和描述。通过利用LLM的规划和总结能力,结合从参考PPT中提取的语义信息,生成一个连贯且吸引人的大纲,从而指导新PPT的生成过程。

幻灯片生成 :幻灯片生成是在大纲的指导下,通过迭代编辑参考幻灯片来生成新幻灯片的过程。为了实现对幻灯片元素的精确操作,PPTAgent实现了五个专门的API,允许LLM 编辑、删除和复制文本元素,以及编辑和删除视觉元素 。此外,为了增强对幻灯片结构的理解,PPTAgent将幻灯片从 其原始XML格式转换为HTML表示,这种表示形式更易于LLM解释

实验

评价指标,现有的指标包括:

  • 成功率(Success Rate, SR)
  • 困惑度(Perplexity, PPL)
  • Fréchet Inception Distance(FID)

PPTEval指标包括:

  • 内容(Content)
  • 设计(Design)
  • 连贯性(Coherence)
  • 平均分(Avg.)

这些指标用于评估生成的PPT在不同维度上的质量。

picture.image

参考文献

PPTAgent: Generating and Evaluating Presentations Beyond Text-to-Slides,https://arxiv.org/pdf/2501.03936v1

0
0
0
0
关于作者
相关资源
火山引擎大规模机器学习平台架构设计与应用实践
围绕数据加速、模型分布式训练框架建设、大规模异构集群调度、模型开发过程标准化等AI工程化实践,全面分享如何以开发者的极致体验为核心,进行机器学习平台的设计与实现。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论