迁移学习进阶

举报
龙腾亚太 发表于 2022/04/23 17:31:36 2022/04/23
【摘要】 时间安排2022年05月27日 — 2022年05月30日   No.1 第一天  一、​ ​机器学习​​简介与经典机器学习算法介绍什么是机器学习?机器学习框架与基本组成机器学习的训练步骤机器学习问题的分类经典机器学习算法介绍章节目标:机器学习是​ ​人工智能​​的重要技术之一,详细了解机器学习的原理、机制和方法,为学习深度学习与迁移学习打下坚实的基础。  二、深度学习简介与经典网络结构介绍...

时间安排

2022年05月27日 — 2022年05月30日   

No.1 第一天

  一、​ ​机器学习​​简介与经典机器学习算法介绍

什么是机器学习?

机器学习框架与基本组成

机器学习的训练步骤

机器学习问题的分类

经典机器学习算法介绍

章节目标:机器学习是​ ​人工智能​​的重要技术之一,详细了解机器学习的原理、机制和方法,为学习深度学习与迁移学习打下坚实的基础。

  二、深度学习简介与经典网络结构介绍

神经网络简介

神经网络组件简介

神经网络训练方法

卷积神经网络介绍

经典网络结构介绍

章节目标:深入了解神经网络的组成、训练和实现,掌握深度空间特征分布等关键概念,为深度迁移学习奠定知识基础

三、迁移学习基础

迁移学习绪论

基于样本的迁移学习

基于特征的迁移学习

基于分类器适配的迁移学习

章节目标:掌握迁移学习的思想与基本形式,了解传统迁移学习的基本方法,对比各种方法的优缺点,掌握迁移学习的适用范围。

四、深度迁移学习介绍

深度迁移学习概述

基于距离函数的深度迁移学习

基于对抗网络的深度迁移学习

深度异构迁移学习方法介绍

深度领域泛化学习介绍

章节目标:掌握深度迁移学习的思想与组成模块,学习深度迁移学习的各种方法,对比各种方法的优缺点,掌握深度迁移学习的适用范围。

No.2 第二天

五、迁移学习前沿方法介绍  

深度迁移网络结构设计

深度迁移学习目标函数设计

全新场景下的迁移学习

章节目标:掌握深度迁移学习的网络结构设计、目标函数设计的前沿方法,了解迁移学习在PDA、Source-Free DA上的应用。

六、迁移学习前沿应用  

迁移学习在语义分割中的应用

迁移学习在目标检测中的应用

迁移学习在行人重识别中的应用

图片与视频风格迁移

章节目标:掌握深度迁移学习在语义分割、目标检测、行人重识别等任务中的应用,学习图像/视频风格迁移方法,了解风格迁移在实际生活中的应用。

七、小样本学习、Transformer等前沿方法与应用   

小样本学习概念与基本方法介绍

小样本学习应用

Transformer概念与基本方法介绍

Transformer在图像领域的应用

章节目标:掌握小样本学习、Transformer等前沿方法和基本思想,了解小样本学习、Transformer等在实际场景下的应用。

No.3 第三天

八、实验实操之实操环境搭建  

硬件准备:GPU显存11GB以上

软件准备:Linux​ ​操作系统​​(Ubuntu16.04以上),显卡驱动安装(512.54),CUDA Toolkit(10.1)和cuDNN加速库(7.6.4),VS Code编辑器安装,Jupyter Notebook

编程语言和框架:Python3.8.5、torch==1..07、torchvision==0.8.2、mmcv-full==1.3.7、opencv-python==4.4.0、matplotlib==3.4.2、numpy==1.19.2、Pillow==8.3.1、scikit-learn==1.0.2

数据集准备:Office-31、IRVI、GTA5、Cityscapes、Foggy cityscapes等

注:硬件准备由主办方提供云服务器

九、实验实操之深度迁移学习实践  

掌握PyTorch中的基本原理和编程思想。

理解在一个新的场景或数据集下,何时以及如何进行迁移学习。

利用PyTorch加载数据、搭建模型、训练网络以及进行网络微调操作。

给定迁移场景,利用daib库和生成对抗技术独立完成图像分类中的领域适配。

迁移效果的可视化,利用机器学习库scikit-learn中的t-SNE对迁移过后的高维数据进行可视化。

十、实验实操之图片与视频风格迁移实践  

掌握基于生成对抗网络的风格迁移技术。

图像/视频风格迁移网络的搭建,重点掌握​ ​编码器​​和解码器的内在逻辑和不同损失函数的运用。

实践​ ​红外​​视频转换到可见光视频的风格迁移。

十一、实验实操之自动驾驶中的跨域语义分割实践   

掌握语义分割发展现状及代表性工作,如FCN,DeepLab系列等。

了解常用的语义分割评价指标(PA、mPA、mIoU、FWIoU)和常见数据集(PASCAL VOC2012,ADE20K、BDD100K、Cityscapes、GTA5、Dark Zurich)。

语义分割工具箱MMSegmentaion的认识和使用。

设计一个分割模型能够从​ ​仿真​​环境中得到的数据迁移到真实场景下产生的数据。

十二、实验实操之目标检测实践  

掌握目标检测算法的基本框架以及目标检测中的经典模型,如R-CNN系列的两阶段检测模型和YOLO系列的单阶段检测模型。

掌握目标检测模型的评测指标(IOU和mAP)、标准评测数据集(Pascal VOC,MS COCO和Cityscapes)以及检测模型中的一些训练技巧,如数据增强、多尺度训练/​ ​测试​​、预测框微调/投票法、在线难例挖掘、软化非极大抑制、RoI对齐和集成。

实践基于Transformer的​ ​端到端​​目标检测框架的搭建,并在新的数据集上与基于CNN的网络进行迁移性能的对比。

【微信号:AI_longteng,微信公众号:​ ​人工​​智能技术与咨询】欢迎添加咨询!

工作号二维码.jpg

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。