作者小头像 Lv.1
更多个人资料
36 成长值
1 关注
1 粉丝
+ 关注 私信

个人介绍

这个人很懒,什么都没有留下

感兴趣或擅长的领域

暂无数据
个人勋章
TA还没获得勋章~
成长雷达
30
6
0
0
0

个人资料

个人介绍

这个人很懒,什么都没有留下

感兴趣或擅长的领域

暂无数据

达成规则

以上满足项可达成此勋章

  • 博客
  • 关注
  • 粉丝
  • 论坛
全部时间
全部时间
最近三天
最近一周
最近一月
  • 全部
  • verl
使用transformers的peft对大模型进行微调
PEFT(Parameter-Efficient Fine-Tuning)是一种对大模型部分参数进行调整的方法,训练快消耗少。通过PEFT在特定领域提升大模型的能力。假设有这样题目:“一组数字 [19, 36, 55, 7],要求通过加减乘除最后得出65”,让我们看看QWen2.5-0.5B的模型会不会做。from transformers import pipelinepipe = pip...
机器学习
作者小头像 kexiaodong 2025-07-31 20:54:43
268
0
0
2025-07-31 20:54:43
268
0
0
用pytorch和transformers对模型训练
大模型的训练里面要搞懂3个名词:模型、数据集、权重。模型(Model)模型是一个数学框架或算法结构,定义了数据的处理逻辑和计算流程。核心结构是多层神经元(或注意力机制、卷积层等)组成的层级结构、计算规则等。数据集(Dataset)数据集是模型训练的 “原材料”,由大量结构化或非结构化数据组成,用于让模型学习规律、形成 “认知”。权重(Weights)权重是模型训练过程中学习到的参数,是模型 ...
机器学习
作者小头像 kexiaodong 2025-07-31 19:57:02
389
1
0
2025-07-31 19:57:02
389
1
0
verl的依赖
包名开发者 / 维护者主要用途GitHub 仓库地址accelerateHugging Face简化深度学习模型的分布式训练,支持多 GPU、TPU 等设备https://github.com/huggingface/acceleratecodetimingReal Python 团队轻量级 Python 计时器库,通过类、上下文管理器或装饰器为代码片段计时,用于性能测试和优化https:/...
Python 机器学习
作者小头像 kexiaodong 2025-07-23 09:06:02
215
0
0
2025-07-23 09:06:02
215
0
0
https://www.baidu.com/s?ie=utf-8&f=3&rsv_bp=0&rsv_idx=1&tn=baidu&wd=sed%20%E6%9B%BF%E6%8D%A2%E5%AD%97%E7%AC%A6%E4%B8%B2&rsv_pq=c7db61a600035dc5&rsv_t=5e19yEsbV9N5fIvdlGRU
作者小头像
作者小头像
快速交付
+ 关注