Meta 公司的 Llama 3 是開放取得的 Llama 系列的最新版本,現已在 Hugging Face 平台發布。看到 Meta 持續致力於開放 AI 領域的發展令人振奮,我們也非常高興地全力支持此次發布,並實現了與 Hugging Face 生態系統的深度集成。
Llama 3 提供兩個版本:8B 版本適合在消費級 GPU 上高效部署和開發;70B 版本則專為大規模 AI 應用設計。每個版本都包括基礎和指令調優兩種形式。此外,基於 Llama 3 8B 微調後的 Llama Guard 新版本也已作為 Llama Guard 2(安全微調版本)發布。
我們與 Meta 密切合作,確保其產品能夠無縫集成進 Hugging Face 的生態系統。在 Hub 上,您可以找到這五個開放取得的模型(包括兩個基礎模型、兩個微調模型以及 Llama Guard)。
本次發布的主要特性和集成功能包括:
Hub 上的模型,並提供了模型卡片和許可證信息
🤗 Transformers 的集成
針對 Meta Llama 3 70B 的 Hugging Chat 集成
推理功能集成到推理端點、Google Cloud 和 Amazon SageMaker
在單個 GPU 上對 Llama 3 8B 進行微調的示例,採用 🤗 TRL
演示:https://huggingface.co/chat/models/meta-llama/Meta-Llama-3-70B-instruct