第一波中文版Llama 3已经开源，太卷了！

距离Llama3发布不到一天，就相继有中文版Llama 3开源了，应该是都想争个首发，下面收集了第一波开源的中文版Llama 3（具体谁是第一个大家来理一下 ）

UnicomAI / Unichat-llama3-Chinese

• 中国联通AI创新中心发布业界第一个llama3中文指令微调模型，2024年4月19日22点
• 本模型以Meta Llama 3为基础,增加中文数据进行训练,实现llama3模型高质量中文问答
• 模型上下文保持原生长度8K，支持长度64K版本将于后续发布
• 陆续发布700亿参数中文微调版本，长文本版本和加入中文二次预训练版
• 基础模型 Meta-Llama-3-8B

CrazyBoyM / llama3-Chinese-chat

• first version of llama3 in Chinese (首个llama3 中文版)
• 训练数据：firefly-train-1.1M、shareAI/CodeChat、shareAI/ShareGPT-Chinese-English-90k、ruozhiba、COIG-CQIA
• 注意由于只训练了常见对话，base + sft版有可能会出现不符合预期的回复 （尤其是对于一些非常见回答），本教程更多用于优质资源整理（包含如何对llama3进行中文微调，怎样制作中文对话数据集，角色扮演、agent能力增强，扩充上下文长度，如何进行网页部署和量化，手机、电脑cpu推理部署等），将会逐渐整理补充进来。

BoyangZ/llama3-chinese

• It's not a chat model, just using Wizard-LM-Chinese-instruct-evol datesets training with several steps for test the model typical Chinese skill， this is version1, will release version2 for more long context windows and Chat model

jackdawboy/llama3-8b-Chinese-ft

• This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.
• Finetuned from model : unsloth/llama-3-8b-bnb-4bit

中文版Llama3对话效果

          
UnicomAI/Unichat-llama3-Chinese：
          
  https://hf-mirror.com/UnicomLLM/Unichat-llama3-Chinese-8B
          
CrazyBoyM/llama3-Chinese-chat：
          
  OpenCSG满速下载：https://opencsg.com/models/shareAI/llama3-Chinese-chat-8b
          
  WiseModel满速下载：https://wisemodel.cn/models/shareAI/llama3-Chinese-chat-8b
          
BoyangZ/llama3-chinese：
          
  https://hf-mirror.com/BoyangZ/llama3-chinese
          
jackdawboy/llama3-8b-Chinese-ft：
          
  https://hf-mirror.com/jackdawboy/llama3-8b-Chinese-ft
      

推荐阅读

• • 对齐LLM偏好的直接偏好优化方法：DPO、IPO、KTO
• • 2024：ToB、Agent、多模态
• • TA们的RAG真正投产了吗？（上）
• • Agent到多模态Agent再到多模态Multi-Agents系统的发展与案例讲解（1.2万字，20+文献，27张图）

---

欢迎关注我的公众号“ PaperAgent ”， 每天一篇大模型（LLM）文章来锻炼我们的思维，简单的例子，不简单的方法，提升自己。