Code Llama 70B 来了！

Meta 发布最新编程辅助模型： Code Llama 70B

， 这是Code Llama的最新也是最大的迭代版本！Code Llama 70B在HumanEval上达到了 67.8% 的得分，达到了GPT-4的初始性能！

Code Llama 70B分为三个版本：

• CodeLlama - 70B，基础代码模型；
• CodeLlama - 70B - Python，专门用于Python；
• Code Llama - 70B - Instruct 70B，为理解自然语言指令进行了微调。

Code Llama 70B的特点包括：

• 在1T+ Tokens上训练
• 允许商业用途和学术研究
• 最大16384个上下文窗口，模型能提供稳定的生成效果
• 可在huggingface上获取，提供四种不同大小的模型（7B、13B、34B、70B），可以免费下载试用

        
            

          https://huggingface.co/codellama/CodeLlama-70b-hf
        
      

• 即将集成到Hugging Chat
• 支持多种流行编程语言，包括Python、C++、Java、PHP、Typescript（Javascript）、C#和Bash。

---

推荐阅读

• • TinyGPT-V：小而强大，轻量级骨架打造高效多模态大语言模型
• • 2024：ToB、Agent、多模态
• • TA们的RAG真正投产了吗？（上）
• • 2023年最新LLM发展时间线一览（ChatGPT、LLaMA等）

---

欢迎关注我的公众号“ PaperAgent ”， 每天一篇大模型（LLM）文章来锻炼我们的思维，简单的例子，不简单的方法，提升自己。