用领域知识让神经网络进行不带标签的监督学习

举报
jaaaaack丶666 发表于 2021/06/30 17:36:02 2021/06/30
【摘要】 在许多机器学习应用中,带标签的数据数量稀少,要获得更多的标签造价昂贵。我们引入了一种新的神经网络监督学习方法,不是直接给出输入-输出对的直接示例,而是指定在输出空间上能够成立的约束。这些约束来源于先前的特定领域知识(domain knowledge),如已知物理定律。我们展示了这种方法在真实世界和模拟计算机视觉任务上的有效性。使用这种方法,我们在没有任何带标签的训练样本的情况下,成功训练了一个卷积

论文名称

Label-Free Supervision of Neural Networks with Physics and Domain Knowledge

 用物理和特定领域知识让神经网络进行不带标签的监督学习

https://ojs.aaai.org/index.php/AAAI/article/view/10934

介绍

论文引入了一种新的神经网络监督学习方法,不是直接给出输入-输出对的直接示例,而是指定在输出空间上能够成立的约束。这些约束来源于先前的特定领域知识(domain knowledge),如已知物理定律。

 

本文对问题的定义为

 

试验

Tracking an object in free fall

在第一个实验中,记录了视频中一个物体在我们视野中投出去的画面,目标是学习物体每一帧的高度。不是用标签直接监督网络,而是监督网络以找到一个服从自由落体的基本物理的物体。

物体在重力作用下的固定加速度为a = -9.8m / s2,随着时间的推移,物体的高度将形成一个抛物线:

 

Tracking the position of a walking man

追踪一个行人的位置,预测行人的横坐标

 

Detecting objects with causal relationships

用因果关系检测对象

 在之前的实验中,我们用的都是物理领域的知识。原则上, 其他领域的知识也可以用于在学习中提供监督处理。例如,已经投入了大量的努力在过去的几十年中建设大型知识库(Lenat 1995; Bollacker等2008)。 这个知识通常是使用基于逻辑和约束的形式化编码。因此,在这第三个实验中,我们探讨了学习单一图像的逻辑约束的可能性。更具体地说,我们问是否可以学习因果现象。

 

结论

网络可以从约束条件中学习,这些约束条件对具有潜在复杂逻辑规则的离散集合进行操作 删除约束将导致学习失败。 因此,实验还表明,复杂的充足条件可以成为从约束中学习的关键。

 

 

 

 

 

 

 

Reference

https://blog.csdn.net/BVL10101111/article/details/77996225?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522162073122216780264015044%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&request_id=162073122216780264015044&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~baidu_landing_v2~default-1-77996225.pc_search_result_before_js&utm_term=Label-Free+Supervision+of+Neural+Networks+with+Physics+and+Domain+Knowledge

 

https://blog.csdn.net/m0_38098373/article/details/84325687?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522162073122216780264015044%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&request_id=162073122216780264015044&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~baidu_landing_v2~default-2-84325687.pc_search_result_before_js&utm_term=Label-Free+Supervision+of+Neural+Networks+with+Physics+and+Domain+Knowledge

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。