在技术革新的浪潮中，「开源」正成为一股不可小觑的力量！Meta，作为开源领域的佼佼者，其最新推出的Llama 3模型无疑再次证明了其在这一领域的领导地位。近日，Meta（原 Facebook）开源了他们公司的新一代大模型 Llama 3，虽然目前只放出了 8B 和 70B 两个版本，但是在评估结果上已经优于 Claude 3 Sonnet、Mistral Medium 和 GPT-3.5 等大模型。Meta 官方还表示，这些只是开胃菜，更强的 400B 参数的模型已经在训练中了，预计几个月后将和大家见面（开源与否尚不明确）。

➤Llama 3模型究竟有何过人之处？

以下是Llama 3的几大亮点和特性：

• 基于超过15T token的海量训练，数据量是Llama 2的7倍有余；
• 训练效率较Llama 2提升了3倍；
• 支持8K长文本处理，搭载128K token的改进型tokenizer，性能显著提升；
• 在众多关键基准测试中均展现出行业领先水平；
• 推理和编码能力得到显著增强；
• 安全性方面取得重大进展，引入了Llama Guard 2、Code Shield和CyberSec Eval 2等新一代信任与安全工具，错误拒绝率大幅降低。
  

➤Llama 3虽强，但并非无敌

尽管Llama 3在性能上超越了其他开源模型，但其优势并非压倒性。从官方公布的基准测试结果来看，Llama 3 8B在MMLU、ARC、DROP等多个权威评测中均取得了领先成绩。然而，当我们深入分析这些数据时，会发现Llama 3 8B虽然在得分上领先，但与其对比的Mistral 7B和Gemma 7B并非业界最前沿的模型，这种领先更像是在中等水平模型中的较量，并没有形成绝对的竞争优势。

在MMLU、HumanEval和GSM-8K等测试中，Llama 3 70B成功超越了Gemini 1.5 Pro。虽然未能匹敌Anthropic的顶尖模型Claude 3 Opus，但其性能已经超越了Claude 3系列的中等型号Sonnet。

➤开源，开启AI竞赛的新篇章

时至今日，开源技术的成熟度和开源理念的普及度都在不断提升，越来越多的创新者投身于开源生态的建设。在这一领域，涌现出了众多性能卓越的开源模型，如Grok-1、Gemma 7B、Mistral 7B、GLM-130B等。尽管业界最前沿的GPT-4是闭源模型，但这并不妨碍我们选择开源大模型的道路。展望未来，开源大模型是实现AI技术普惠化的关键途径。大多数开源大模型都是在前人的基础上进一步发展而来，它们不仅有助于推动人工智能技术的普及，也便于开发者进行模型调整，从而构建更加繁荣的应用生态。

回顾过去一年，大模型的热潮由ChatGPT点燃，而Llama 2等开源成果的出现，则将其推向了一个更加实用、便捷的新时代。随着Meta推出Llama 3，开源社区的力量日益壮大，开源与闭源大模型之间的竞争愈发激烈，但实际上这种竞争是在相互促进中共同推动了大模型生态的发展。

➤Llama 3的快速免费体验及免费API接口调用方法说明

Llama 3的新闻已经铺天盖地，它被吹捧得神乎其神。但耳听为虚，眼见为实，亲自体验一番才是王道。如果能将其集成到自己的应用中，实现商业变现，那更是锦上添花。

一、免费体验方法

方法一：访问英伟达的模型体验平台：

https://build.nvidia.com/explore/discover

在这里，你可以选择70B（700亿参数版本）和8B（80亿参数版本）的模型进行对话体验。

方法二：利用huggingface的聊天功能，选择llama3-70B模型进行体验：

https://huggingface.co/chat/

二、如何通过代码免费调用API

前期准备：

1.登录华为云官方账号：

点击右上角“控制台”，搜索栏输入“ModelArts”

点击“开发环境”-“notebook”,“创建”：

进入创建notebook，名称“notebook-LangChain”,选择GPU规格，“GPU: 1*T4(16GB)|CPU: 8核 32GB”，点击“立即创建”，磁盘规格选择“50G”,点击“创建”

点击返回“任务中心”，点击notebook进入

代码示例：

from openai import OpenAI

client = OpenAI(
  base_url = "https://integrate.api.nvidia.com/v1", 
  api_key = "xxxxxxxxx"
)

completion = client.chat.completions.create(
  model="meta/llama3-70b",
  messages=[{"role":"user","content":"你的问题"}],
  temperature=0.5,
  top_p=1,
  max_tokens=1024,
  stream=True
)

for chunk in completion:
  if chunk.choices[0].delta.content is not None:
    print(chunk.choices[0].delta.content, end="")

如何获取API KEY：

注册英伟达账号并完成邮箱验证后，你将迅速获得API KEY，整个过程比注册ChatGPT更为简便，无需手机号验证。

三、Llama3问题测试

提问：一个人如何变得非常出色？请用中文回答。

Llama3（70B模型）的回答：

要成为一个非常出色的人，并非一朝一夕之功，但以下步骤或许能为你指明方向：

1. **明确目标**：首先，你需要清楚自己想要成为怎样的人，是想成为某个领域的专家，还是掌握特定技能，或是拥有良好的人际关系？只有目标明确，你才能有方向地努力。

2. **持续学习**：学习是通往出色的必经之路。无论是阅读书籍、参加课程、实际操作还是寻找导师，都是学习的方式。学习不仅是为了获取知识，更是为了掌握新的技能、思想和方法。

3. **实践与行动**：将学习所得付诸实践是成为出色的关键。只有通过实践，你才能将知识和技能转化为真正的能力。

4. **坚持不懈**：所有出色的人都是通过长期的努力和坚持来实现目标的。面对困难时，不要轻言放弃，要持续前进。

5. **自我反省与调整**：在追求出色的道路上，你需要不断自我反省，分析自己的优势和不足，并据此调整策略和方法。

6. **保持好奇心和开放性**：出色的人总是对新思想和挑战持开放态度，愿意接受新事物。

7. **建立良好的人际关系**：良好的人际关系可以为你带来更多的资源和机会，这对于成为出色的人至关重要。

8. **保持自信和积极态度**：自信和积极的心态是实现目标的重要心理基础。相信自己的能力和潜力，保持积极向上。

9. **从失败中学习**：失败和挫折是通往成功的必经之路。从失败中吸取教训，总结经验，然后继续前进。

10. **保持健康的生活方式**：健康的身体和心理状态是长期奋斗的基础。只有身心健康，才能持续保持高效的工作和学习状态。

记住，成为一个出色的人是一个长期的过程，需要不懈的努力和坚持。💪

参考链接：
https://www.zhihu.com/question/653431092/answer/3473010182
https://blog.csdn.net/luwei42768/article/details/137998245