数据清洗 Chapter06 | 数据缺失概述

举报
不温卜火 发表于 2021/01/07 20:06:23 2021/01/07
【摘要】   大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语—不温不火,本意是希望自己性情温和。作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己所犯的错误希望能够帮助到很多和自己一样处于起步阶段的萌新。但由于水平有限,博客中难免会有一些错误出现,有纰漏之处恳请各位大佬不吝赐教!暂时只有csdn这一个平台,博客...

  大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语—不温不火,本意是希望自己性情温和。作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己所犯的错误希望能够帮助到很多和自己一样处于起步阶段的萌新。但由于水平有限,博客中难免会有一些错误出现,有纰漏之处恳请各位大佬不吝赐教!暂时只有csdn这一个平台,博客主页:https://buwenbuhuo.blog.csdn.net/

这篇文章讲述的是数据缺失概述。希望这篇数据清洗的文章对您有所帮助!如果您有想学习的知识或建议,可以给作者留言~

Chapter06 | 数据缺失概述


2

1、数据缺失的原因

数据采集过程可能会造成数据缺失
数据通过网络等渠道进行传输时可能出现数据丢失或出错,造成数据丢失
在数据整合过程中也可能引入缺失值

2、缺失值表示

  • 1、数据集对于缺失值有不同的表示

取决于数据收集,数据录入流程中的设定
如:字符的缺失值有missing,空格等;数字为999,-600等

  • 2、常见的表示缺失值的字符

null,missing,nan
自定义字符,比如unkown

3、缺失值的表示格式
1

  • 4、在Python语言的Numpy库的缺失值:

表示:numpy.nan/numpy.NaN
类型:浮点(float)型

import numpy as np

print('np.nan的属性为:'+str(type(np.nan)))
print('np.NaN的属性为:'+str(type(np.NaN)))

  
 
  • 1
  • 2
  • 3
  • 4

2

在Python语言的Pandas库中,缺失值默认使用numpy.nan表示
Pandas库可以用其他字符来代替nan,如missing,NA等
下列代码生成含有默认缺失值的Series数组example_data

import numpy as np
import pandas as pd
example_data =pd.Series([1,2,3,np.nan,4])
example_data

  
 
  • 1
  • 2
  • 3
  • 4

3

  • 5、反过来

如果给定数据中的缺失值是用其他字符来表示的,我们可以用NaN进行替换,由于numpy.nan为float型,再将数据转换为浮点型即可。

example_data1 =pd.Series([1,2,3,‘missing’,4])
example_data1

# 替换
example_data1.replace('missing',np.NaN)

  
 
  • 1
  • 2
  • 3
  • 4
  • 5

4
5

  本次的分享就到这里了,


11

  好书不厌读百回,熟读课思子自知。而我想要成为全场最靓的仔,就必须坚持通过学习来获取更多知识,用知识改变命运,用博客见证成长,用行动证明我在努力。
  如果我的博客对你有帮助、如果你喜欢我的博客内容,请“点赞” “评论”“收藏”一键三连哦!听说点赞的人运气不会太差,每一天都会元气满满呦!如果实在要白嫖的话,那祝你开心每一天,欢迎常来我博客看看。
  码字不易,大家的支持就是我坚持下去的动力。点赞后不要忘了关注我哦!

13
12

文章来源: buwenbuhuo.blog.csdn.net,作者:不温卜火,版权归原作者所有,如需转载,请联系作者。

原文链接:buwenbuhuo.blog.csdn.net/article/details/105444128

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。