【编译】开源生态强强联合:百度飞桨PaddlePaddle全面接入Hugging Face Hub生态
【摘要】 本文详细介绍了百度飞桨(PaddlePaddle)与全球知名机器学习社区Hugging Face的深度集成与开源协同。通过将飞桨工业级模型库全面接入Hugging Face Hub,开发者可直接调用包括ERNIE 3.0、UIE、PaddleOCR在内的多模态顶尖模型,并结合Inference API及Spaces快速构建AI应用。
## 深度学习工业级生态与全球开源社区的协同演进
开源协同始终是加速人工智能算法迭代、降低产业级落地门槛的核心引擎。百度飞桨(PaddlePaddle)与全球领先的模型托管与协作社区 Hugging Face 正式达成深度开源合作,基于双方“通过开源推进并普惠 AI”的共同愿景,推动本土工业级模型生态与全球开源开发者的双向互通。
作为百度于 2016 年完全自主研发并开源的端到端深度学习平台,PaddlePaddle 在兼顾动态图灵活性与静态图高性能执行的同时,沉淀了极为丰富的全栈套件与工程工具链。平台在产业界建立了深厚的生态壁垒:截至 2022 年第四季度,飞桨已累计凝聚超 535 万开发者,服务企业逾 20 万家,长期稳居中国深度学习平台综合市场占有率第一。
飞桨生态拥有众多在产业界被广泛验证的顶级开源项目:
- **核心框架**:支持动静统一、自动微分、超大规模分布式训练的 Paddle 核心引擎;
- **领域套件**:涵盖自然语言处理套件 `PaddleNLP`、通用目标检测库 `PaddleDetection`、工业级光学字符识别系统 `PaddleOCR` 以及全栈语音算法库 `PaddleSpeech`;
- **落地工具链**:模型压缩工具 `PaddleSlim` 与跨平台高并发推理部署套件 `FastDeploy`。
本次合作以自然语言处理套件 `PaddleNLP` 为先锋,全面启动飞桨全套技术栈向 Hugging Face Hub 的深度原生整合。
---
## 全模态核心预训练模型全面上线 Hugging Face Hub
通过此次生态打通,开发者无需复杂的环境配置与权重转换,即可在 Hugging Face Model Hub 中通过筛选 `PaddlePaddle` 标签直接检索并加载预训练资产。目前首批已有超过 75 个工业级核心模型完成上架,覆盖文本、图像、语音、跨模态及结构化文档等多个前沿技术方向。
```
https://huggingface.co/models?library=paddlepaddle
```
### 重点上线模型矩阵解析
1. **通用信息抽取模型序列(UIE,Universal Information Extraction)**:
UIE 提出了统一的结构化生成架构,打破了命名实体识别(NER)、关系抽取(RE)、事件抽取(EE)及细粒度情感分析的割裂范式。开发者仅需输入 Prompt 定义抽取 Schema,即可通过零样本(Zero-Shot)或少样本(Few-Shot)方式实现端到端结构化信息解析。
2. **ERNIE 3.0 预训练大模型序列**:
作为中文 NLP 领域的代表性 SOTA 模型,ERNIE 3.0 基于知识图谱与海量无监督文本的融合蒸馏技术,在诸如阅读理解、自然语言推理、文本分类等通用语言理解基准评测中保持领先性能,并兼顾工程推理时延。
3. **多模态文档理解架构 ERNIE-Layout**:
针对发票、表单、研报等富文本视觉文档,ERNIE-Layout 将跨模态的文本、图像布局位置信息深度融合于全流程预训练任务中,具备卓越的键值对提取(KVE)与复杂表格重构能力。
此外,开发者可直接访问飞桨官方组织主页(`https://huggingface.co/PaddlePaddle`)检索全部模型,并通过 Spaces 体验包括文生图大模型 **ERNIE-ViLG**、跨模态多语言抽取系统 **UIE-X** 以及多语言 OCR 套件 **PaddleOCR** 在内的在线交互式 Demo。
---
## 开发者接入与工程实践范式
为了给全球开发者提供无缝的调用体验,Hugging Face 平台全面适配了 PaddlePaddle 的模型格式与运行链路。
### 1. 云端轻量推理:Inference API 原生支持
所有托管在 Hub 上的飞桨模型均原生接入了 Hugging Face 的托管推理系统(Inference API)。开发者无需在本地分配 GPU 算力,可通过标准 HTTP 协议直接发送推理请求:
```bash
# 示例:通过 cURL 快速验证 PaddleNLP 文本分类/抽取推理能力
curl https://api-inference.huggingface.co/models/PaddlePaddle/ernie-3.0-base-zh \
-X POST \
-d '{"inputs": "百度飞桨正式入驻 Hugging Face Hub,加速全球开源协同。"}' \
-H "Authorization: Bearer YOUR_HF_TOKEN"
```
针对支持标准推理任务的模型,Model Hub 页面直接嵌入了交互式 Widget,开发者可在浏览器端即时输入文本/图像等测试样本,实时观察置信度与推理结果。
### 2. 代码级加载机制:Use in PaddleNLP
在模型页面点击 **"Use in paddlenlp"** 按钮后,系统将自动生成标准化的加载代码片段。开发者在本地环境中仅需极简代码即可拉取 Hub 权重:
```python
from paddlenlp.transformers import AutoModel, AutoTokenizer
# 直接通过 Hugging Face Hub 模型仓库标识符拉取权重与分词配置
repo_id = "PaddlePaddle/ernie-3.0-base-zh"
tokenizer = AutoTokenizer.from_pretrained(repo_id)
model = AutoModel.from_pretrained(repo_id)
# 编码与正向传播
inputs = tokenizer("基于飞桨框架的高效NLP建模实践", return_tensors="pd")
outputs = model(**inputs)
```
### 3. 本地模型双向分发:Push to Hub 机制
飞桨开源套件深度集成了 Hub 交互协议。以 PaddleNLP 为例,开发者完成下游任务的微调训练后,仅需调用 `save_to_hf_hub` 接口,即可将微调后的权重、分词器词表及模型卡片(Model Card)一键发布至个人或组织名下的 Hugging Face Hub:
```python
# 保存并自动推送微调模型至 Hugging Face Hub
model.save_to_hf_hub(repo_id="your-username/ernie-fine-tuned-sentiment")
tokenizer.save_to_hf_hub(repo_id="your-username/ernie-fine-tuned-sentiment")
```
---
## 总结与未来展望
源自中国工业产业实践的 PaddlePaddle 与连接全球 AI 极客的 Hugging Face 的生态融合,标志着本土深度学习平台在国际化与开源开放维度迈出了坚实的一步。
后续,飞桨将持续推动视觉套件(PaddleDetection/PaddleOCR)、语音套件(PaddleSpeech)等更多跨模态工业级算法矩阵全面上云,并深度对接 Hugging Face 的 Transformers、Datasets 等上下游工具链,为全球 AI 开发者带来更具工程价值的高性能基础设施。
---
> 声明:本文系编译转载自国内外知名人工智能实验室公开技术成果,仅供国内开发者个人技术交流与学术学习。
> 原文机构:Hugging Face 官方技术专栏
> 原文标题:Welcome PaddlePaddle to the Hugging Face Hub
> 原文链接:https://huggingface.co/blog/paddlepaddle
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)