Unsloth AI 刚发布了 Docker 镜像版本,直接解决了本地训练大模型最头疼的环境配置问题。拉个镜像就能开始训练,所有依赖和示例 notebook 都打包好了。
具体使用很简单。先安装 Docker 和 NVIDIA Container Toolkit,然后一行命令启动:
docker run -d -e JUPYTER\_PASSWORD="mypassword" \
-p 8888:8888 -p 2222:22 \
-v $(pwd)/work:/workspace/work \
--gpus all \
unsloth/unsloth
打开浏览器访问 localhost:8888,就能看到预装好的 Jupyter Lab 环境。
镜像里包含了所有 Unsloth 的示例 notebook,涵盖模型微调和强化学习等内容。数据通过 volume 挂载保存,容器删除后数据不会丢失。还支持 SSH 连接,方便使用自己熟悉的编辑器。
从社区反馈看,目前的限制主要有:
- 暂不支持 Mac 系统
- 不支持多 GPU 训练
- AMD 显卡支持有限
针对 Blackwell 和 RTX 50 系列显卡,Unsloth 提供了专门的镜像 unsloth/unsloth-blackwell
。没有 GPU 的用户可以尝试 Docker 的 Offload 功能。
Docker 化确实降低了使用门槛,特别适合团队协作、云端部署和教学演示等场景。对于想尝试本地训练大模型的开发者来说,这个 Docker 镜像提供了一个快速上手的方案。虽然还有一些功能限制,但至少在单卡 NVIDIA GPU 的场景下,已经能让大部分人避开环境配置的坑了。
关注公众号回复“进群”入群讨论。