Aitrainee | 公众号:AI进修生
🌟Gollama 是一种 Ollama 模型/LLM 管理器,具有交互性且易于使用。它允许你以交互方式管理 Ollama 模型,并对其执行多项操作,如删除、复制、运行、列出等。
Hi,这里是Aitrainee,欢迎阅读本期新文章。
Ollama 是 本地 AI 场景 中最有用的工具之一。它让使用本地 AI 模型变得超级容易。你可以通过一个命令轻松设置任何本地模型,并使用他们的服务器开始使用。
不仅如此,它还提供 API 端点,你可以使用任何第三方软件来以不同方式利用这些大型语言模型。
我非常推崇它,这也是为什么在我的很多文章中都可以看到它的身影,甚至经常出现在标题里。
我已经涵盖了利用它的许多复杂方式,但这显然并不意味着它是完美的。Ollama 有多个细微差别,比如管理模型、卸载模型、删除模型、内存管理等等。
在 Ollama 上安装模型非常容易,你只需复制一个命令,粘贴到你的终端中,然后开始使用它。
但是,当你稍后需要运行这些模型时,你要么必须记住所有模型及其名称,如果你有 相同模型的不同版本,那么你还必须记住参数或其他区分点 。卸载和删除这些模型比记住模型名称更加困难。
总体来说,管理 Ollama 模型是一个很大的问题,尽管 Ollama 提供了单独的命令来列出模型等,但没有一个交互界面可以让你轻松管理所有内容,这可能会变得非常烦人且难以管理。
但今天我有一些东西可以解决这种烦恼,那就是 Gollama 。
https://github.com/sammcj/gollama
Gollama 是一个用于管理 Ollama 模型的工具。Gollama 为列出、检查、删除、复制和推送 Ollama 模型提供了一个文本用户界面 (TUI)。
它允许您使用热键交互选择模型、排序、过滤、编辑、运行、卸载并对它们执行操作。
▲ TUI界面
它是用 Go 构建的,因此得名 Gollama。通过这个工具,您可以在不记住令人讨厌的模型名称的情况下卸载、删除、复制、排序模型及执行多种其他操作,这真的很酷。
如果您不喜欢 TUI,还可以将其作为 CLI 工具使用,您可以获得多个选项,比如列出模型、删除模型等。
让我们安装它
要安装它,您需要安装 Go。如果您没有安装,可以转到 Go 的安装页面,点击下载链接并获取适用于您操作系统的安装文件。
完成后,只需按照操作系统的安装说明进行操作。安装完 Go 后,只需运行这个命令,Gollama 就会安装完成。
go install github.com/sammcj/gollama@HEAD
完成后,我们现在可以使用它了。
顺便说一句,在运行这个命令之前,确保您已经安装了 Ollama。我已经安装了它,并且也安装了多个模型,比如 53、Qwen 2、Deep Seek 和 Llama 3。
那么现在我们可以使用它了。如果您运行 Gollama 命令: ./golla ma ,你将看到这个 TUI,在这里您可以看到您所有 Ollama 模型的列表。
现在让我告诉您在这里可以做些什么。首先,如果您按 I 键,您可以检查模型,查看有关模型的所有详细信息,包括模型名称、量化、大小等。
这是一个很酷的选项,可以了解您的模型的一切。如果您按回车键,您可以使用聊天界面与模型聊天。
如果您想退出 Ollama 聊天界面并返回 Gollama 界面,只需键入 SL 退出,您将返回 Gollama 界面。
然后使用 Shift + D 选项可以删除模型,如果您想删除任何模型,这也是一个很酷的选项。
您可以按 C 复制一个模型并命名为其他名称,如果您想重命名模型或类似的事情,这也是一个很好的选择。
使用 Shift + U 选项,您可以从内存中卸载所有模型,这是完成 Ollama 任务后释放 VRAM 的一个很酷的选项。
接下来使用 Shift + P 选项,您可以将模型推送到 Ollama,如果您出于某种原因想要这样做的话。
对于排序,您可以使用 N 键按名称排序,也可以使用 S 键按大小排序,可以使用 M 键按修改日期排序,还可以使用 K 键按量化排序,并且可以使用 F 键按系列排序。因此,您几乎可以按任何方式对其进行排序。这些是您可以使用的主要方法。
如果您不想使用 TUI,但仍然想使用它,那么您还可以使用 CLI 工具,它也可以进行排序、删除、更新和大多数 TUI 可以做的事情。
您可以使用这些命令行参数,使用 L 操作符列出模型,使用 S 操作符搜索模型,使用 E 操作符编辑模型文件,使用 U 操作符从内存中卸载所有模型。还有许多其他选项,您可以链接您的模型到 LM Studio 等等。
还有一些其他的键绑定,您可以与 TUI 一起使用,这些都列在这里。
您还可以从它们的配置文件中配置多种其他内容。您可以更改服务器 URL,如果您的 Ollama 服务器在其他地方,您还可以设置日志文件、列等。这也非常酷。
总的来说,我非常喜欢这个项目。这是一个非常有用的工具,可以管理 Ollama 模型,它消除了管理 Ollama 模型的所有麻烦部分,使其变得超级容易。
此外,你还可以获得有关所使用模型的更多详细信息,并且总体上你会获得更好的模型管理界面。
我认为这对于那些使用 Ollama 的人来说是必须的,尽管我希望它也能提供通过图形界面拉取模型的选项,但总体来说,这还是非常酷的。
视频教程
https://www.youtube.com/watch?v=T4uiTnacyhI
参考链接:
[1]https://github.com/sammcj/gollama?tab=readme-ov-file
知音难求,自我修炼亦艰
抓住前沿技术的机遇,与我们一起成为创新的超级个体
(把握AIGC时代的个人力量)
点这里👇关注我,记得标星哦~
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~