Aitrainee | 公众号:AI进修生
🌟Phidata 为 LLMs 添加了记忆、知识和工具。
⭐️ Phidata: https://git.new/phidata
Phidata 是一个用于构建自主助手 (也称为代理)的框架,这些助手具有长期记忆、上下文知识并能通过功能调用执行操作。
推荐一个油管博主WorldofAl的教程视频:
为什么选择 phidata?
问题: 大型语言模型(LLMs)上下文有限,无法执行操作。
解决方案: 增加记忆、知识和工具。
- • 记忆: 将聊天记录 存储在数据库中,使 LLMs 能进行长期对话。
- • 知识: 将信息存储在向量数据库中,为 LLMs 提供业务上下文 。
- • 工具: 使 LLMs 能执行操作 ,例如从 API 拉取数据、发送电子邮件或查询数据库。
- • 支持的大模型 : 支持众多主流的LLM提供商
▲ 支持众多主流的LLM提供商
我要怎么开始使用这个项目?
- • 步骤 1: 创建一个
Assistant
- • 步骤 2: 添加工具(functions)、知识(vectordb)和存储(database)
- • 步骤 3: 使用 Streamlit、FastApi 或 Django 提供服务以构建您的 AI 应用程序
Assistant怎么创建
工具是助手可以运行来完成搜索网络、运行 SQL、发送电子邮件、调用 API 等任务的功能。
知识库怎么创建
知识库是助手可以搜索以改进其响应的信息数据库。此信息存储在矢量数据库中,并为 LLMs 提供业务上下文,这使它们以上下文感知的方式做出响应。
向量数据库怎么创建
向量数据库使我们能够将信息存储为嵌入并搜索与我们的输入查询“相似的结果”。然后将这些结果作为上下文提供给 LLM,以便它可以使用检索增强生成 (RAG) 以上下文感知的方式进行响应。
使用上面三个步骤创建的官方例子
我们看这个:黑客新闻助理
助手展示如何使用 LLMs 进行函数调用。该助手可以访问一个函数 get_top_hackernews_stories ,它可以调用该函数来获取 黑客新闻 的头条新闻。
下面提供官方的 文档介绍、相关资源、部署教程 等,进一步支撑你的行动,以提升本文的帮助力。
安装
pip install -U phidata
快速开始:可搜索网络的助手
创建一个文件 assistant.py
from
phi.assistant
import
Assistant
from
phi.tools.duckduckgo
import
DuckDuckGo
assistant = Assistant(tools=[DuckDuckGo()], show\_tool\_calls=
True
)
assistant.print\_response(
"法国发生了什么事?"
, markdown=
True
)
安装库,导出您的 OPENAI_API_KEY
并运行 Assistant
pip install openai duckduckgo-search
export OPENAI\_API\_KEY=sk-xxxx
python assistant.py
文档和支持
- • 阅读文档:docs.phidata.com
- • 在 discord 与我们聊天
示例
- • LLM OS: 使用 LLMs 作为新兴操作系统的 CPU。
- • Autonomous RAG: 为 LLMs 提供工具,以搜索其知识、网络或聊天记录。
- • Local RAG: 使用 Ollama 和 PgVector 的完全本地 RAG。
- • Investment Researcher: 使用 Llama3 和 Groq 生成股票投资报告。
- • News Articles: 使用 Llama3 和 Groq 撰写新闻文章。
- • Video Summaries: 使用 Llama3 和 Groq 的 YouTube 视频摘要。
- • Research Assistant: 使用 Llama3 和 Groq 撰写研究报告。
可编写和运行 Python 代码的助手
PythonAssistant
可以通过编写和运行 Python 代码完成任务。
- • 创建文件
python_assistant.py
from
phi.assistant.python
import
PythonAssistant
from
phi.file.local.csv
import
CsvFile
python\_assistant = PythonAssistant(
files=[
CsvFile(
path=
"https://phidata-public.s3.amazonaws.com/demo\_data/IMDB-Movie-Data.csv"
,
description=
"包含关于 IMDB 电影的信息。"
,
)
],
pip\_install=
True
,
show\_tool\_calls=
True
,
)
python\_assistant.print\_response(
"电影的平均评分是多少?"
, markdown=
True
)
- • 安装 pandas 并运行
python_assistant.py
pip install pandas
python python\_assistant.py
可使用 SQL 进行数据分析的助手
DuckDbAssistant
可以使用 SQL 进行数据分析。
- • 创建文件
data_assistant.py
import
json
from
phi.assistant.duckdb
import
DuckDbAssistant
duckdb\_assistant = DuckDbAssistant(
semantic\_model=json.dumps({
"tables"
: [
{
"name"
:
"movies"
,
"description"
:
"包含关于 IMDB 电影的信息。"
,
"path"
:
"https://phidata-public.s3.amazonaws.com/demo\_data/IMDB-Movie-Data.csv"
,
}
]
}),
)
duckdb\_assistant.print\_response(
"电影的平均评分是多少?给我看看 SQL。"
, markdown=
True
)
- • 安装 duckdb 并运行
data_assistant.py
pip install duckdb
python data\_assistant.py
可生成 Pydantic 模型的助手
我们最喜欢的 LLM 功能之一是从文本生成结构化数据(即 Pydantic 模型)。使用此功能提取特征、生成电影剧本、生成假数据等。
让我们创建一个电影助手为我们编写一个 MovieScript
。
- • 创建文件
movie_assistant.py
from
typing
import
List
from
pydantic
import
BaseModel, Field
from
rich.pretty
import
pprint
from
phi.assistant
import
Assistant
class
MovieScript
(
BaseModel
):
setting:
str
= Field(..., description=
"为大片提供一个不错的场景。"
)
ending:
str
= Field(..., description=
"电影的结尾。如果不可用,请提供一个快乐的结局。"
)
genre:
str
= Field(..., description=
"电影的类型。如果不可用,请选择动作、惊悚或浪漫喜剧。"
)
name:
str
= Field(..., description=
"给这部电影取一个名字"
)
characters:
List
[
str
] = Field(..., description=
"这部电影的角色名称。"
)
storyline:
str
= Field(..., description=
"电影的 3 句故事情节。让它变得激动人心!"
)
movie\_assistant = Assistant(
description=
"你帮助编写电影剧本。"
,
output\_model=MovieScript,
)
pprint(movie\_assistant.run(
"纽约"
))
- • 运行
movie_assistant.py
文件
python movie\_assistant.py
- • 输出是
MovieScript
类的对象,如下所示:
MovieScript(
│ setting='繁华且充满活力的纽约市',
│ ending='主人公拯救了城市并与疏远的家人和解。',
│ genre='动作',
│ name='城市脉动',
│ characters=['亚历克斯·默瑟', '尼娜·卡斯蒂略', '侦探迈克·约翰逊'],
│ storyline='在纽约市的中心,前警察变成的义警亚历克斯·默瑟,与街头聪明的活动家尼娜·卡斯蒂略联手,打倒威胁要摧毁城市的腐败政治人物。他们穿越权力和欺骗的复杂网络,揭示了令人震惊的真相,将他们推到了能力的极限。在时间不多的情况下,他们必须与时间赛跑,拯救纽约并面对自己的恶魔。'
)
具有知识和存储的 PDF 助手
让我们创建一个 PDF 助手来回答来自 PDF 的问题。我们将使用 PgVector
进行知识和存储。
知识库: 助手可以搜索以改善其响应的信息(使用向量数据库)。
存储: 为助手提供长期记忆(使用数据库)。
-
- 运行 PgVector
安装 docker 桌面版 并使用以下命令在端口 5532 上运行 PgVector :
docker run -d \
-e POSTGRES\_DB=ai \
-e POSTGRES\_USER=ai \
-e POSTGRES\_PASSWORD=ai \
-e PGDATA=/var/lib/postgresql/data/pgdata \
-v pgvolume:/var/lib/postgresql/data \
-p 5532:5432 \
--name pgvector \
phidata/pgvector:16
-
- 创建 PDF 助手
- • 创建文件
pdf_assistant.py
import
typer
from
rich.prompt
import
Prompt
from
typing
import
Optional
,
List
from
phi.assistant
import
Assistant
from
phi.storage.assistant.postgres
import
PgAssistantStorage
from
phi.knowledge.pdf
import
PDFUrlKnowledgeBase
from
phi.vectordb.pgvector
import
PgVector2
db\_url =
"postgresql
+psycopg://ai:ai@localhost:5532/ai"
knowledge\_base = PDFUrlKnowledgeBase(
urls=[
"https://phi-public.s3.amazonaws.com/recipes/ThaiRecipes.pdf"
],
vector\_db=PgVector2(collection=
"recipes"
, db\_url=db\_url),
)
# 第一次运行时取消注释
knowledge\_base.load()
storage = PgAssistantStorage(table\_name=
"pdf\_assistant"
, db\_url=db\_url)
def
pdf\_assistant
(new: bool = False, user: str = "user"):
run\_id:
Optional
[
str
] =
None
if
not
new:
existing\_run\_ids:
List
[
str
] = storage.get\_all\_run\_ids(user)
if
len
(existing\_run\_ids) >
0
:
run\_id = existing\_run\_ids[
0
]
assistant = Assistant(
run\_id=run\_id,
user\_id=user,
knowledge\_base=knowledge\_base,
storage=storage,
# 在响应中显示工具调用
show\_tool\_calls=
True
,
# 使助手能够搜索知识库
search\_knowledge=
True
,
# 使助手能够读取聊天记录
read\_chat\_history=
True
,
)
if
run\_id
is
None
:
run\_id = assistant.run\_id
print
(
f"启动运行:
{run\_id}
\n"
)
else
:
print
(
f"继续运行:
{run\_id}
\n"
)
# 以 cli 应用程序形式运行助手
assistant.cli\_app(markdown=
True
)
if
\_\_name\_\_ ==
"\_\_main\_\_"
:
typer.run(pdf\_assistant)
-
- 安装库
pip install -U pgvector pypdf "psycopg[binary]" sqlalchemy
-
- 运行 PDF 助手
python pdf\_assistant.py
- • 问一个问题:
如何制作泰式炒河粉?
- • 看助手如何搜索知识库并返回响应。
- • 消息
bye
退出,再次使用python pdf_assistant.py
启动助手并询问:
我上次的信息是什么?
看看助手现在如何在会话之间保持存储。
- • 使用
--new
标志运行pdf_assistant.py
文件以启动新运行。
python pdf\_assistant.py --new
查看 cookbook 获取更多示例。
下一步
-
- 阅读 基础知识 了解更多关于 phidata 的信息。
-
- 阅读 助手 并了解如何定制它们。
-
- 查看 cookbook 以获取深入的示例和代码。
演示
查看使用 phidata 构建的以下 AI 应用程序:
- • PDF AI 总结和回答来自 PDF 的问题。
- • ArXiv AI 使用 ArXiv API 回答关于 ArXiv 论文的问题。
- • HackerNews AI 总结故事、用户并分享 HackerNews 上的新动态。
教程
知音难求,自我修炼亦艰
抓住前沿技术的机遇,与我们一起成为创新的超级个体
(把握AIGC时代的个人力量)
— 完 —
点这里👇关注我,记得标星哦~
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~