8.2k Star!Phidata:使用gpt-4o的AI代理团队创建具有记忆、知识和工具的AI智能体

技术

Aitrainee | 公众号:AI进修生

🌟Phidata 为 LLMs 添加了记忆、知识和工具。

⭐️ Phidata: https://git.new/phidata

Phidata 是一个用于构建自主助手 (也称为代理)的框架,这些助手具有长期记忆、上下文知识并能通过功能调用执行操作。

picture.image

推荐一个油管博主WorldofAl的教程视频:

为什么选择 phidata?

问题: 大型语言模型(LLMs)上下文有限,无法执行操作。

解决方案: 增加记忆、知识和工具。

  • 记忆:聊天记录 存储在数据库中,使 LLMs 能进行长期对话。
  • 知识: 将信息存储在向量数据库中,为 LLMs 提供业务上下文
  • 工具: 使 LLMs 能执行操作 ,例如从 API 拉取数据、发送电子邮件或查询数据库。
  • 支持的大模型 : 支持众多主流的LLM提供商
  • picture.image

▲ 支持众多主流的LLM提供商

我要怎么开始使用这个项目?

  • 步骤 1: 创建一个 Assistant
  • 步骤 2: 添加工具(functions)、知识(vectordb)和存储(database)
  • 步骤 3: 使用 Streamlit、FastApi 或 Django 提供服务以构建您的 AI 应用程序

Assistant怎么创建

工具是助手可以运行来完成搜索网络、运行 SQL、发送电子邮件、调用 API 等任务的功能。

picture.image

picture.image

知识库怎么创建

知识库是助手可以搜索以改进其响应的信息数据库。此信息存储在矢量数据库中,并为 LLMs 提供业务上下文,这使它们以上下文感知的方式做出响应。

picture.image

向量数据库怎么创建

向量数据库使我们能够将信息存储为嵌入并搜索与我们的输入查询“相似的结果”。然后将这些结果作为上下文提供给 LLM,以便它可以使用检索增强生成 (RAG) 以上下文感知的方式进行响应。

picture.image

使用上面三个步骤创建的官方例子

我们看这个:黑客新闻助理

助手展示如何使用 LLMs 进行函数调用。该助手可以访问一个函数 get_top_hackernews_stories ,它可以调用该函数来获取 黑客新闻 的头条新闻。

picture.image

下面提供官方的 文档介绍、相关资源、部署教程 等,进一步支撑你的行动,以提升本文的帮助力。

安装


      
          

        pip install -U phidata
      
    

快速开始:可搜索网络的助手

创建一个文件 assistant.py


      
          

        from
         phi.assistant 
        import
         Assistant
          

        from
         phi.tools.duckduckgo 
        import
         DuckDuckGo
          

          

        assistant = Assistant(tools=[DuckDuckGo()], show\_tool\_calls=
        True
        )
          

        assistant.print\_response(
        "法国发生了什么事?"
        , markdown=
        True
        )
      
    

安装库,导出您的 OPENAI_API_KEY 并运行 Assistant


      
          

        pip install openai duckduckgo-search
          

          

        export OPENAI\_API\_KEY=sk-xxxx
          

          

        python assistant.py
      
    

文档和支持

  • • 阅读文档:docs.phidata.com
  • • 在 discord 与我们聊天

示例

  • • LLM OS: 使用 LLMs 作为新兴操作系统的 CPU。
  • • Autonomous RAG: 为 LLMs 提供工具,以搜索其知识、网络或聊天记录。
  • • Local RAG: 使用 Ollama 和 PgVector 的完全本地 RAG。
  • • Investment Researcher: 使用 Llama3 和 Groq 生成股票投资报告。
  • • News Articles: 使用 Llama3 和 Groq 撰写新闻文章。
  • • Video Summaries: 使用 Llama3 和 Groq 的 YouTube 视频摘要。
  • • Research Assistant: 使用 Llama3 和 Groq 撰写研究报告。

可编写和运行 Python 代码的助手

PythonAssistant 可以通过编写和运行 Python 代码完成任务。

  • • 创建文件 python_assistant.py

      
          

        from
         phi.assistant.python 
        import
         PythonAssistant
          

        from
         phi.file.local.csv 
        import
         CsvFile
          

          

        python\_assistant = PythonAssistant(
          

            files=[
          

                CsvFile(
          

                    path=
        "https://phidata-public.s3.amazonaws.com/demo\_data/IMDB-Movie-Data.csv"
        ,
          

                    description=
        "包含关于 IMDB 电影的信息。"
        ,
          

                )
          

            ],
          

            pip\_install=
        True
        ,
          

            show\_tool\_calls=
        True
        ,
          

        )
          

          

        python\_assistant.print\_response(
        "电影的平均评分是多少?"
        , markdown=
        True
        )
      
    
  • • 安装 pandas 并运行 python_assistant.py

      
          

        pip install pandas
          

          

        python python\_assistant.py
      
    

可使用 SQL 进行数据分析的助手

DuckDbAssistant 可以使用 SQL 进行数据分析。

  • • 创建文件 data_assistant.py

      
          

        import
         json
          

        from
         phi.assistant.duckdb 
        import
         DuckDbAssistant
          

          

        duckdb\_assistant = DuckDbAssistant(
          

            semantic\_model=json.dumps({
          

                
        "tables"
        : [
          

                    {
          

                        
        "name"
        : 
        "movies"
        ,
          

                        
        "description"
        : 
        "包含关于 IMDB 电影的信息。"
        ,
          

                        
        "path"
        : 
        "https://phidata-public.s3.amazonaws.com/demo\_data/IMDB-Movie-Data.csv"
        ,
          

                    }
          

                ]
          

            }),
          

        )
          

          

        duckdb\_assistant.print\_response(
        "电影的平均评分是多少?给我看看 SQL。"
        , markdown=
        True
        )
      
    
  • • 安装 duckdb 并运行 data_assistant.py

      
          

        pip install duckdb
          

          

        python data\_assistant.py
      
    

可生成 Pydantic 模型的助手

我们最喜欢的 LLM 功能之一是从文本生成结构化数据(即 Pydantic 模型)。使用此功能提取特征、生成电影剧本、生成假数据等。

让我们创建一个电影助手为我们编写一个 MovieScript

  • • 创建文件 movie_assistant.py

      
          

        from
         typing 
        import
         
        List
          

        from
         pydantic 
        import
         BaseModel, Field
          

        from
         rich.pretty 
        import
         pprint
          

        from
         phi.assistant 
        import
         Assistant
          

          

        class
         
        MovieScript
        (
        BaseModel
        ):
          

            setting: 
        str
         = Field(..., description=
        "为大片提供一个不错的场景。"
        )
          

            ending: 
        str
         = Field(..., description=
        "电影的结尾。如果不可用,请提供一个快乐的结局。"
        )
          

            genre: 
        str
         = Field(..., description=
        "电影的类型。如果不可用,请选择动作、惊悚或浪漫喜剧。"
        )
          

            name: 
        str
         = Field(..., description=
        "给这部电影取一个名字"
        )
          

            characters: 
        List
        [
        str
        ] = Field(..., description=
        "这部电影的角色名称。"
        )
          

            storyline: 
        str
         = Field(..., description=
        "电影的 3 句故事情节。让它变得激动人心!"
        )
          

          

        movie\_assistant = Assistant(
          

            description=
        "你帮助编写电影剧本。"
        ,
          

            output\_model=MovieScript,
          

        )
          

          

        pprint(movie\_assistant.run(
        "纽约"
        ))
      
    
  • • 运行 movie_assistant.py 文件

      
          

        python movie\_assistant.py
      
    
  • • 输出是 MovieScript 类的对象,如下所示:

      
          

        MovieScript(
          

        │   setting='繁华且充满活力的纽约市',
          

        │   ending='主人公拯救了城市并与疏远的家人和解。',
          

        │   genre='动作',
          

        │   name='城市脉动',
          

        │   characters=['亚历克斯·默瑟', '尼娜·卡斯蒂略', '侦探迈克·约翰逊'],
          

        │   storyline='在纽约市的中心,前警察变成的义警亚历克斯·默瑟,与街头聪明的活动家尼娜·卡斯蒂略联手,打倒威胁要摧毁城市的腐败政治人物。他们穿越权力和欺骗的复杂网络,揭示了令人震惊的真相,将他们推到了能力的极限。在时间不多的情况下,他们必须与时间赛跑,拯救纽约并面对自己的恶魔。'
          

        )
      
    

具有知识和存储的 PDF 助手

让我们创建一个 PDF 助手来回答来自 PDF 的问题。我们将使用 PgVector 进行知识和存储。

知识库: 助手可以搜索以改善其响应的信息(使用向量数据库)。

存储: 为助手提供长期记忆(使用数据库)。

    1. 运行 PgVector

安装 docker 桌面版 并使用以下命令在端口 5532 上运行 PgVector


      
          

        docker run -d \
          

          -e POSTGRES\_DB=ai \
          

          -e POSTGRES\_USER=ai \
          

          -e POSTGRES\_PASSWORD=ai \
          

          -e PGDATA=/var/lib/postgresql/data/pgdata \
          

          -v pgvolume:/var/lib/postgresql/data \
          

          -p 5532:5432 \
          

          --name pgvector \
          

          phidata/pgvector:16
      
    
    1. 创建 PDF 助手
  • • 创建文件 pdf_assistant.py

      
          

        import
         typer
          

        from
         rich.prompt 
        import
         Prompt
          

        from
         typing 
        import
         
        Optional
        , 
        List
          

        from
         phi.assistant 
        import
         Assistant
          

        from
         phi.storage.assistant.postgres 
        import
         PgAssistantStorage
          

        from
         phi.knowledge.pdf 
        import
         PDFUrlKnowledgeBase
          

        from
         phi.vectordb.pgvector 
        import
         PgVector2
          

          

        db\_url = 
        
 "postgresql
   

   

 +psycopg://ai:ai@localhost:5532/ai"
 
          

          

        knowledge\_base = PDFUrlKnowledgeBase(
          

            urls=[
        "https://phi-public.s3.amazonaws.com/recipes/ThaiRecipes.pdf"
        ],
          

            vector\_db=PgVector2(collection=
        "recipes"
        , db\_url=db\_url),
          

        )
          

        # 第一次运行时取消注释
          

        knowledge\_base.load()
          

          

        storage = PgAssistantStorage(table\_name=
        "pdf\_assistant"
        , db\_url=db\_url)
          

          

          

        def
         
        pdf\_assistant
        (new: bool = False, user: str = "user"):
          

            run\_id: 
        Optional
        [
        str
        ] = 
        None
          

          

            
        if
         
        not
         new:
          

                existing\_run\_ids: 
        List
        [
        str
        ] = storage.get\_all\_run\_ids(user)
          

                
        if
         
        len
        (existing\_run\_ids) > 
        0
        :
          

                    run\_id = existing\_run\_ids[
        0
        ]
          

          

            assistant = Assistant(
          

                run\_id=run\_id,
          

                user\_id=user,
          

                knowledge\_base=knowledge\_base,
          

                storage=storage,
          

                
        # 在响应中显示工具调用
          

                show\_tool\_calls=
        True
        ,
          

                
        # 使助手能够搜索知识库
          

                search\_knowledge=
        True
        ,
          

                
        # 使助手能够读取聊天记录
          

                read\_chat\_history=
        True
        ,
          

            )
          

            
        if
         run\_id 
        is
         
        None
        :
          

                run\_id = assistant.run\_id
          

                
        print
        (
        
 f"启动运行:
 {run\_id}
 \n"
 
        )
          

            
        else
        :
          

                
        print
        (
        
 f"继续运行:
 {run\_id}
 \n"
 
        )
          

          

            
        # 以 cli 应用程序形式运行助手
          

            assistant.cli\_app(markdown=
        True
        )
          

          

          

        if
         \_\_name\_\_ == 
        "\_\_main\_\_"
        :
          

            typer.run(pdf\_assistant)
      
    
    1. 安装库

      
          

        pip install -U pgvector pypdf "psycopg[binary]" sqlalchemy
      
    
    1. 运行 PDF 助手

      
          

        python pdf\_assistant.py
      
    
  • • 问一个问题:

      
          

        如何制作泰式炒河粉?
      
    
  • • 看助手如何搜索知识库并返回响应。
  • • 消息 bye 退出,再次使用 python pdf_assistant.py 启动助手并询问:

      
          

        我上次的信息是什么?
      
    

看看助手现在如何在会话之间保持存储。

  • • 使用 --new 标志运行 pdf_assistant.py 文件以启动新运行。

      
          

        python pdf\_assistant.py --new
      
    

查看 cookbook 获取更多示例。

下一步

    1. 阅读 基础知识 了解更多关于 phidata 的信息。
    1. 阅读 助手 并了解如何定制它们。
    1. 查看 cookbook 以获取深入的示例和代码。

演示

查看使用 phidata 构建的以下 AI 应用程序:

  • • PDF AI 总结和回答来自 PDF 的问题。
  • • ArXiv AI 使用 ArXiv API 回答关于 ArXiv 论文的问题。
  • • HackerNews AI 总结故事、用户并分享 HackerNews 上的新动态。

教程

picture.image

picture.image

picture.image

picture.image

知音难求,自我修炼亦艰

抓住前沿技术的机遇,与我们一起成为创新的超级个体

(把握AIGC时代的个人力量)

picture.image

点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~

picture.image

0
0
0
0
关于作者
关于作者

文章

0

获赞

0

收藏

0

相关资源
云原生数据库 veDB 核心技术剖析与展望
veDB 是一款分布式数据库,采用了云原生计算存储分离架构。本次演讲将为大家介绍火山引擎这款云原生数据库的核心技术原理,并对未来进行展望。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论