【论文笔记】Eidetic 3D LSTM: A Model for Video Prediction and Beyond

举报
避尘 发表于 2020/04/14 11:12:19 2020/04/14
【摘要】 Eidetic 3D LSTM: A Model for Video Prediction and Beyond (ICLR 2019)。如何为其它视频理解和推理任务学习有效的特征表示?

Eidetic 3D LSTM: A Model for Video Prediction and Beyond (ICLR 2019)

Yunbo Wang, Lu Jiang, Ming-Hsuan Yang, Li-Jia Li, Mingsheng Long, Li Fei-Fei

代码:https://github.com/google/e3d_lstm


问题:时空预测学习 Spatiotemporal Predictive Learning

如何为其它视频理解和推理任务学习有效的特征表示?


视频预测:输入历史视频帧,预测未来视频帧

  • 无监督/自监督:不需要人工标注 → 特征学习

  • 未来:确定性(物理规律等),随机性和不确定性

  • 两类任务:单帧预测,多帧预测

类似任务

  • 视频重构 Reconstruction

  • 视频插帧 Interpolation


两类视频建模方法:

  • 循环神经网络:在视频预测上效果优异

  • 三维卷积神经网络:在动作分类上更胜一筹


RNN结合3D卷积

image.png

E3D-LSTM序列建模

  • 短期信息:3D卷积

  • 长期信息:基于自注意力的“回忆”机制


image.png

image.png

image.png

image.png

image.png


多任务学习:

  • 像素级任务:视频预测

  • 视频级任务:动作分类

image.png

image.png


ICLR 2019 Meta-Review

image.png


系列工作


Memory In Memory: A Predictive Neural Network for Learning Higher-Order Non-Stationarity from Spatiotemporal Dynamics

Yunbo Wang, Jianjin Zhang, Hongyu Zhu, Mingsheng Long, Jianmin Wang, Philip S. Yu

CVPR, 2019


Eidetic 3D LSTM: A Model for Video Prediction and Beyond

Yunbo Wang, Lu Jiang, Ming-Hsuan Yang, Li-Jia Li, Mingsheng Long, Li Fei-Fei

ICLR, 2019


PredRNN++: Towards A Resolution of the Deep-in-Time Dilemma in Spatiotemporal Predictive Learning

Yunbo Wang, Zhifeng Gao, Mingsheng Long, Jianmin Wang, Philip S. Yu

ICML, 2018 


PredCNN: Predictive Learning with Cascade Convolutions

{Ziru Xu, Yunbo Wang}, Mingsheng Long, Jianmin Wang

IJCAI, 2018 


PredRNN: Recurrent Neural Networks for Predictive Learning Using Spatiotemporal LSTMs

Yunbo Wang, Mingsheng Long, Jianmin Wang, Zhifeng Gao, Philip S. Yu

NIPS, 2017 


Spatiotemporal Pyramid Network for Video Action Recognition

Yunbo Wang, Mingsheng Long, Jianmin Wang, Philip S. Yu

CVPR, 2017


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。