玩数据必备 Python 库:Numpy 使用详解

举报
橘座 发表于 2019/11/02 16:42:10 2019/11/02
【摘要】 作者:魏溪含 涂铭 张修鹏转自:大数据(ID:hzdashuju)Numpy(Numerical Python的简称)是高性能科学计算和数据分析的基础包,其提供了矩阵运算的功能。本文带你了解Numpy的一些核心知识点。Numpy提供的主要功能具体如下:ndarray——一个具有向量算术运算和复杂广播能力的多维数组对象。用于对数组数据进行快速运算的标准数学函数。用于读写磁盘数据的工具以及用于操...
作者:魏溪含 涂铭 张修鹏


转自:大数据(ID:hzdashuju)

Numpy(Numerical Python的简称)是高性能科学计算和数据分析的基础包,其提供了矩阵运算的功能。本文带你了解Numpy的一些核心知识点。


640?wx_fmt=jpeg&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


Numpy提供的主要功能具体如下:


  • ndarray——一个具有向量算术运算和复杂广播能力的多维数组对象。

  • 用于对数组数据进行快速运算的标准数学函数。

  • 用于读写磁盘数据的工具以及用于操作内存映射文件的工具。

  • 非常有用的线性代数,傅里叶变换和随机数操作。

  • 用于集成C /C++和Fortran代码的工具。


除了明显的科学计算用途之外,Numpy还可以用作通用数据的高效多维容器,定义任意的数据类型。这些都使得Numpy能够无缝、快速地与各种数据库集成。


提示:这里提到的“广播”可以这么理解:当两个维度不同的数组(array)运算的时候,可以将低维的数组复制成高维数组参与运算(因为Numpy运算的时候需要结构相同)。


在学习图像识别的过程中,需要将图片转换为矩阵。即将对图片的处理简化为向量空间中的向量运算。基于向量运算,我们就可以实现图像的识别。



01 创建数组


现在就来关注下Numpy中的一些核心知识点。在Numpy中,最核心的数据结构是ndarray, ndarray代表的是多维数组,数组指的是数据的集合。为了方便理解,我们下面列举一个小例子。


一个班级里学生的学号可以通过一维数组来表示,数组名为a,数组a中存储的是数值类型的数据,分别是1,2,3,4。


索引

学号

0

1

1

2

2

3

3

4


其中,a[0]代表的是第一个学生的学号1,a[1]代表的是第二个学生的学号2,以此类推。


一个班级里学生的学号和姓名,可以用二维数组来表示,数组名为b。


1

Tim

2

Joey

3

Johnny

4

Frank


类似的,其中b[0,0]代表的就是1(学号),b[0,1]代表的就是Tim(学号为1的学生的名字),以此类推b[1,0]代表的是2(学号)等。


借用线性代数的说法,一维数组通常称为向量(vector),二维数组通常称为矩阵(matrix)。


当我们安装完Anaconda之后,默认情况下Numpy已经在库中了,所以不需要额外安装。下面我们来写一些语句简单测试下Numpy库。


1)在Anaconda的Notebook里输入


import numpy as np


之后,通过键盘按住Shift+Enter执行,如果没有报错,则说明Numpy已被正常引入,如图2-7所示。


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

▲图2-7 在Notebook中引入Numpy


稍微解释下这条语句:通过import关键字将Numpy库引入,然后通过as为其取一个别名np,别名的作用是为了便于后续引用。


2)Numpy中的array()可以直接导入向量,代码如下:


vector = np.array([1,2,3,4])


3)numpy.array()方法也可以导入矩阵,代码如下:


matrix = np.array([[1,'Tim'],[2,'Joey'],[3,'Johnny'],[4,'Frank']])



02 创建Numpy数组


我们可以通过创建Python列表(list)的方式来创建Numpy矩阵,比如输入


nparray = np.array([i for i in range(10)])


可以看到返回的结果是


array([ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9])


同样,也可以通过Python列表的方式来修改值,比如输入


nparray[0] = 10


再来观察nparray的向量内容就会发现返回的结果是


array([ 10, 1, 2, 3, 4, 5, 6, 7, 8, 9])


Numpy数组还封装了其他方法来创建矩阵。首先,我们介绍第一个方法np.zeros(从命名规则来看,这个方法就是用来创建数值都为0的向量),比如,我们输入:


a = np.zeros(10)


可以看到结果为:


array([ 0.,  0.,  0.,  0.,  0.,  0.,  0.,  0.,  0.,  0.])


从上述结果可以看出,每一个0后面都有一个小数点,调用a.dtype会发现我们创建的这个向量的类型为dtype(‘float64’)。值得注意的是:在大部分图像识别算法开发中,我们使用的都是float64这个类型。如果希望在创建Numpy矩阵的时候强制规定一种类型,那么我们可以使用以下代码:


np.zeros(10,dtype=int)


这样,返回的结果在矩阵中的数据就都是整型0了。介绍完使用zeros方法创建向量之后,再来看看如何创建一个多维矩阵。我们可以使用传入元组的方式,代码如下:


np.zeros(shape=(3,4)) #代表创建的是三行四列的矩阵并且其数据类型为float64


返回的结果为:


array([[ 0.,  0.,  0.,  0.],
       [ 0.,  0.,  0.,  0.],
       [ 0.,  0.,  0.,  0.]])


与np.zeros方法相似的还有np.ones方法,顾名思义,np.ones方法创建的矩阵的数值都为1。我们来举个例子:


np.ones((3,4))


返回的结果如下:


array([[ 1.,  1.,  1.,  1.],
       [ 1.,  1.,  1.,  1.],
       [ 1.,  1.,  1.,  1.]])


读者可能会比较好奇,既然我们可以创建数值全为0的矩阵,也可以创建数值全为1的矩阵,那么Numpy是否提供了一个方法可以让我们自己指定值呢?答案是肯定的,这个方法就是np.full方法,我们来看一个例子,代码如下:


np.full((3,5),121) #这个方法的意思是我们创建了一个三行五列的矩阵,默认值为121


返回的结果是:


array([[121, 121, 121, 121, 121],
       [121, 121, 121, 121, 121],
       [121, 121, 121, 121, 121]])


我们也可以使用np.arange方法来创建Numpy的矩阵。示例代码如下:


np.arange(0,20,2) #arange接收三个参数,与Python中的range方法相似,arange也是前闭后开的方法,第一个参数为向量的第一个值0,第二个参数为最后一个值20,因为是后开所以取的是18,第三个参数为步长,默认为1,本例中设置为2,所以最后一个值是18。


返回的结果是:


array([ 0,  2,  4,  6,  8, 10, 12, 14, 16, 18])


我们可以使用np.linspace方法(前闭后闭)来对Numpy矩阵进行等分,比如将0~10等分为5份的代码如下:


np.linspace(0,10,5)


返回的结果是:


array([  0. ,   2.5,   5. ,   7.5,  10. ])


下面通过几个例子再来看看在Numpy矩阵中如何生成随机数矩阵。


1)生成一个长度为10的向量,里面每一个数值都是介于0~10之间的整数,代码如下:


import numpy as np
np.random.randint(0,10,10)


2)如果不确定每个参数代表的意思,则加上参数名size,代码如下:


np.random.randint(0,5,size=5)  #注意是前闭后开,永远取不到5


3)我们也可以生成一个三行五列的整数矩阵,代码如下


np.random.randint(4,9,size=(3,5))


4)seed的作用:如果不希望每次生成的随机数都不固定,那么我们可以使用np.random.seed(1),随机种子使用数字1记录,这以后只要是用随机种子1生成的随机数就都是固定的。


5)我们也可以生成介于0~1之间的浮点数的向量或者矩阵,代码如下:


np.random.random(10)        #生成0~1之间的浮点数,向量的长度为10
np.random.random((2,4))        #生成0~1之间的浮点数,二行四列的矩阵


6)np.random.normal()表示的是一个正态分布,normal在这里是正态的意思。numpy.random.normal(loc=0,scale=1,size=shape)的意义如下:


  • 参数loc(float):正态分布的均值,对应这个分布的中心。loc=0说明这是一个以Y轴为对称轴的正态分布。

  • 参数scale(float):正态分布的标准差,对应分布的宽度,scale越大,正态分布的曲线越矮胖,scale越小,曲线越高瘦。

  • 参数size(int或者整数元组):输出的值赋在shape里,默认为None。



03 获取Numpy属性


首先,我们通过Numpy中的一个方法arange(n),生成0到n-1的数组。比如,我们输入


np.arange(15)


可以看到返回的结果是


array([ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14])


然后,再通过Numpy中的reshape(row,column)方法,自动构架一个多行多列的array对象。


比如,我们输入:


a = np.arange(15).reshape(3,5)        #代表3行5列


可以看到结果:


array([[ 0,  1,  2,  3,  4],
       [ 5,  6,  7,  8,  9],
       [10, 11, 12, 13, 14]])


有了基本数据之后,我们就可以通过Numpy提供的shape属性获取Numpy数组的行数与列数,示例代码如下:


print(a.shape)


可以看到返回的结果是一个元组(tuple),第一个3代表的是3行,第二个5代表的是5列:


(3, 5)


我们可以通过.ndim来获取Numpy数组的维度,示例代码如下:


importnumpy as np
x = np.arange(15)
print(x.ndim)        #输出x向量的维度,这时能看到的维度是1维
X = x.reshape(3,5)    #将x向量转为三行五列的二维矩阵
Print(X.ndim)        #输出X矩阵的维度,这时能看到的维度是2维
reshape方法的特别用法
如果只关心需要多少行或者多少列,其他由计算机自己来算,那么这个时候我们可以使用如下方法:
x.reshape(15,-1)    #我关心的是我只要15行,列由计算机自己来算
x.reshape(-1,15)    #我关心的是我只要15列,行由计算机自己来算



04 Numpy数组索引


Numpy支持类似list的定位操作,示例代码如下:


import numpy as np
matrix = np.array([[1,2,3],[20,30,40]])
print(matrix[0,1])


得到的结果是2。


上述代码中的matrix[0,1],0代表的是行,在Numpy中,0代表起始的第一个,所以取的是第1行,之后的1代表的是列,所以取的是第2列。那么,最后的输出结果是取第一行第二列,也就是2这个值了。



05 切片


Numpy支持类似list的切片操作,示例代码如下:


import numpy as np 
matrix = np.array([
[51015], 
 [202530],
 [354045]
 ])
print(matrix[:,1])
print(matrix[:,0:2])
print(matrix[1:3,:])
print(matrix[1:3,0:2])


上述的代码中


  • print(matrix[:,1])语法代表选择所有的行,而且列的索引是1的数据,因此返回的结果是10,25,40。

  • print(matrix[:,0:2])代表的是选取所有的行,而且列的索引是0和1的数据。

  • print(matrix[1:3,:])代表的是选取所有的列,而且行的索引值是1和2的数据。

  • print(matrix[1:3,0:2])代表的是选取行的索引是1和2,而且列的索引是0和1的所有数据。



06 Numpy中的矩阵运算


矩阵运算(加、减、乘、除),在本书中将严格按照数学公式来进行演示,即两个矩阵的基本运算必须具有相同的行数与列数。本例只演示两个矩阵相减的操作,其他的操作读者可以自行测试。示例代码如下:


import numpy as np
myones = np.ones([3,3])
myeye = np.eye(3)        #生成一个对角线的值为1,其余值都为0的三行三列矩阵
print(myeye)
print(myones-myeye)


输出结果如下:


[[ 1.  0.  0.]
0.  1.  0.]
0.  0.  1.]]
[[ 0.  1.  1.]
1.  0.  1.]
1.  1.  0.]]


提示:numpy.eye(N, M=None, k=0, dtype=<type 'float'>)中第一个参数输出矩阵(行数=列数),第三个参数默认情况下输出的是对角线的值全为1,其余值全为0。


除此之外,Numpy还预置了很多函数,使用这些函数可以作用于矩阵中的每个元素。


Numpy预置函数及说明:


  • np.sin(a):对矩阵a中的每个元素取正弦,sin(x)

  • np.cos(a)对矩阵a中的每个元素取余弦,cos(x)

  • np.tan(a)对矩阵a中的每个元素取正切,tan(x)

  • np.sqrt(a)对矩阵a中的每个元素开根号

  • np.abs(a)对矩阵a中的每个元素取绝对值


1. 矩阵之间的点乘


矩阵真正的乘法必须满足第一个矩阵的列数等于第二个矩阵的行数,矩阵乘法的函数为dot。示例代码如下:


import numpy as np
mymatrix = np.array([[1,2,3],[4,5,6]])
a = np.array([[1,2],[3,4],[5,6]])
print(mymatrix.shape[1] == a.shape[0])
print(mymatrix.dot(a))


其输出结果如下:


[[22 28]
 [49 64]]


上述示例代码的原理是将mymatrix的第一行[1,2,3]与a矩阵的第一列[1,3,5]相乘然后相加,接着将mymatrix的第一行[1,2,3]与a矩阵的第二列[2,4,6]相乘然后相加,以此类推。


2. 矩阵的转置


矩阵的转置是指将原来矩阵中的行变为列。示例代码如下:


import numpy as np
a = np.array([[1,2,3],[4,5,6]])
print(a.T)


输出结果如下:


[[1 4]
 [2 5]
 [3 6]]


3. 矩阵的逆


需要首先导入numpy.linalg,再用linalg的inv函数来求逆,矩阵求逆的条件是矩阵的行数和列数必须是相同的。示例代码如下:


import numpy as np
import numpy.linalg as lg
A = np.array([[0,1],[2,3]])
invA = lg.inv(A)
print(invA)
print(A.dot(invA))


输出结果如下:


[[-1.5  0.5]
[ 1.   0. ]]


逆矩阵就是,原矩阵A.dot(invA)以及逆矩阵invA.dot(A)的结果都为单位矩阵。并不是所有的矩阵都有逆矩阵。



07 数据类型转换


Numpy ndarray数据类型可以通过参数dtype进行设定,而且还可以使用参数astype来转换类型,在处理文件时该参数会很实用。注意,astype调用会返回一个新的数组,也就是原始数据的备份。


比如,将String转换成float。示例代码如下:


vector = numpy.array(["1""2""3"])
vector = vector.astype(float)


注意:在上述例子中,如果字符串中包含非数字类型,那么从string转换成float就会报错。


关于作者:魏溪含 ,爱丁堡大学人工智能硕士,阿里巴巴达摩院算法专家,在计算机视觉、大数据领域有8年以上的算法架构和研发经验。
涂铭,阿里巴巴数据架构师,对大数据、自然语言处理、图像识别、Python、Java相关技术有深入的研究,积累了丰富的实践经验。
张修鹏,毕业于中南大学,阿里巴巴技术发展专家,长期从事云计算、大数据、人工智能与物联网技术的商业化应用,在阿里巴巴首次将图像识别技术引入工业,并推动图像识别产品化、平台化。



【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

举报
请填写举报理由
0/200