ubuntu16.04 安装cuda9.0+cudnn7.0.5+tensorflow+nvidia-docker配置GPU服务

举报
Edison 发表于 2018/10/15 18:46:01 2018/10/15
【摘要】 docker很好用,但是在GPU服务器上使用docker却比较复杂,需要一些技巧,下面将介绍一下在ubuntu16.04环境下的GPU-docker环境搭建过程。

第一步:

删除之前的nvidia驱动:sudo apt-get purge nvidia-*

安装nvidia-<version> 此处version为396

n

此处需先配置ppa源,速度较慢,慢慢等吧,这里还没想出好办法解决。

sudo add-apt-repository ppa:graphics-drivers/ppa

更新源,运行 sudo apt-get update

查询nvidia驱动可用版本,运行sudo apt-cache search nvidia-* 查询相应版本

安装驱动,运行 sudo apt-get install nvidia-396

第二步:

安装cuda9.0

地址:https://developer.nvidia.com/cuda-90-download-archive 选择相应版本,我这里用的ubuntu16.04 64x

wget https://developer.nvidia.com/compute/cuda/9.0/Prod/local_installers/cuda-repo-ubuntu1604-9-0-local_9.0.176-1_amd64-deb

根据提示安装:

  1. `sudo dpkg -i cuda-repo-ubuntu1604-9-0-local_9.0.176-1_amd64-deb`

  2. `sudo apt-key add /var/cuda-repo-9-0-local/7fa2af80.pub`

  3. `sudo apt-get update`

  4. `sudo apt-get install cuda`

这里有坑:遇到一些奇怪问题,总结如下:

(1)当遇到旧版本删除不够彻底时,会报

 下载 file:/var/cuda-repo-9-1-local/./nvidia-387-dev_387.26-0ubuntu1_amd64.deb  无法找到文件 - /var/cuda-repo-9-1-local/./nvidia-387-dev_387.26-0ubuntu1_amd64.deb (2: 没有那个文件或目录) 失败

错误,此时是判断为key错误,之前的9-1版本卸载后,key也删掉了,

使用命令`sudo apt-key add /var/cuda-repo-9-1-local/7fa2af80.pub`解决

(2)内核存在旧版本时,报错

正在处理用于 ureadahead (0.100.0-19) 的触发器 ...

在处理时有错误发生:

 initramfs-tools

E: Sub-process /usr/bin/dpkg returned an error code (1)

此时需要删除系统旧内核:

sudo vi /etc/default/grub

dpkg --get-selections|grep linux

 image.png

选中旧版本,删除:

sudo apt-get remove linux-image-4.4.0-119-generic

再次查看版本:

image.png

看起来旧版本已经被删除了,

看一下系统内核版本:

uname -a

更新系统解决(initramfs-tools)问题:

sudo apt-get update

sudo apt-get upgrade  

重启电脑:

 sudo shutdown -r now

再次查看nvidia能够正常识别:

cat /proc/driver/nvidia/version

nvcc -V

nvidia-smi

(3nvidia-smi报错

重装nvidia device

nvidia-smi

NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver. Make sure that the latest NVIDIA driver is installed and running.

测试cuda(正确显示):

nvidia-smi

image.png

第三步安装cudnn:

此处有坑,英伟达用国内ip登不上去,要翻墙登录后再下载,有些同学给了镜像,我这里下载的是:

libcudnn7_7.0.5.15-1+cuda9.0_amd64.deb

用runtime library

安装步骤与cuda相似:

chmod 777 ibcudnn7_7.0.5.15-1+cuda9.0_amd64.deb

sudo dpkg -i libcudnn7_7.0.5.15-1+cuda9.0_amd64.deb

等待安装,就好了

第四步:tensorflow-gpu安装

pip install tensorflow-gpu

安装完成 tensorflow-gpu,可以测试一下

进入ipython(以下为测试正常启动gpu画面)

import tensorflow as tf

hello = tf.constant('Hello, TensorFlow!’)

sess = tf.Session()

image.png

接下来,要安装nvidia-docker了:

第五步:nvidia-docker

参考:https://github.com/NVIDIA/nvidia-docker

#如果你安装了nvidia-docker 1.0:我们需要删除它和所有现有的GPU容器

docker volume ls -q -f driver = nvidia-docker | xargs -r -I {} -n1 docker ps -q -a -f volume = {} | xargs -r docker rm -f

sudo apt-get purge -y nvidia-docker

#添加软件包仓库

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | \

  sudo apt-key add  -

distribution = $( ./ etc/os-release ; echo $ ID $ VERSION_ID

curl -s -L https://nvidia.github.io/nvidia-docker/ $ distribution /nvidia-docker.list | \

  sudo tee /etc/apt/sources.list.d/nvidia-docker.list

sudo apt-get update

#安装nvidia-docker2并重新加载Docker守护进程配置

sudo apt-get install -y nvidia-docker2

sudo pkill -SIGHUP dockerd

#使用最新官方CUDA图像

docker run --runtime=nvidia --rm nvidia/cuda nvidia-smi


**下面是一些报错信息的修正方法:**


6.安装完成后,docker下载速度慢,报错:

error pulling image configuration: Gethttps://dseasb33srnrn.cloudfront.net/registry-v2/docker/registry/v2/blobs/sha256/97/9782c71c14b7960794c9141f66721f7fff873d4de027b726c696ac1d54a99ce2/data?Expires=1524001324&Signature=EpbapfSa3ftVsuyhEHYwJjJILAzQhyf0iN4YQ1QpwXU9ITPlUhhIExWb6Efh~6ya3BkI44p3XvEI~SnrPPDyRYvsNRLbCc2qHhERV13J6BC7Ksylk54l75aKsigSHSFlmddvdR7Q1YszgKPEBFTAyMWzQ2GADaDKgMXjfN4W1Qk_&Key-Pair-Id=APKAJECH5M7VWIS5YZ6Q: net/http: TLS handshake timeout

 这是因为安装nvidia-docker会覆盖原来的/etc/docker/daemon.json文件

如果文件夹不存在:

sudo mkdir -p /etc/docker

打开 /etc/docker/daemon.json;

sudo mkdir -p /etc/docker

sudo tee /etc/docker/daemon.json <<-'EOF'

{

  "registry-mirrors": ["https://4x0vrhen.mirror.aliyuncs.com"]

}

EOF

sudo systemctl daemon-reload

sudo systemctl restart docker

问题解决


7.在安装nvidia-docker2的时候,报错:

$ sudo apt-get install -y nvidia-docker2

正在读取软件包列表... 完成

正在分析软件包的依赖关系树      

正在读取状态信息... 完成      

有一些软件包无法被安装。如果您用的是 unstable 发行版,这也许是

因为系统无法达到您要求的状态造成的。该版本中可能会有一些您需要的软件

包尚未被创建或是它们已被从新到(Incoming)目录移出。

下列信息可能会对解决问题有所帮助:

下列软件包有未满足的依赖关系:

 nvidia-docker2 : 依赖: docker-ce (= 18.03.0~ce-0~ubuntu) 但无法安装它 或

                          docker-ee (= 18.03.0~ee-0~ubuntu) 但无法安装它

E: 无法修正错误,因为您要求某些软件包保持现状,就是它们破坏了软件包间的依赖关系。

首先打开清华源:

https://mirrors.tuna.tsinghua.edu.cn/

有两个镜像:docker和docker-ce

这里用docker-ce,因为nvidia-docker是基于docker-ce的:

最重要的几条命令:

删掉原来的docker:

sudo apt-get remove docker docker-enginedocker.io

sudo apt-get install apt-transport-https ca-certificates curl gnupg2 software-properties-common

这里注意了:

网上大部分的策略是:

curl -fsSLhttps://download.docker.com/linux/debian/gpg | sudo apt-key add -

这句话没办法运行,因为被墙掉了:

改用清华的gpg:curl -fsSLhttps://mirrors.tuna.tsinghua.edu.cn/docker-ce/linux/ubuntu/gpg | sudo apt-key add -

sudo add-apt-repository \

   "deb [arch=amd64]https://mirrors.tuna.tsinghua.edu.cn/docker-ce/linux/ubuntu \

   $(lsb_release -cs) \

   stable"

sudo apt-get update

安装docker-ce和nvidia-docker2:

sudo apt-get install docker-ce

sudo apt-get install -y nvidia-docker2

 sudo pkill -SIGHUP dockerd



8.报如下错误时:

docker: Error response from daemon: OCI runtime create failed: container_linux.go:348: starting container process caused "process_linux.go:402: container init caused \"process_linux.go:385: running prestart hook 1 caused \\\"error running hook: exit status 1, stdout: , stderr: exec command: [/usr/bin/nvidia-container-cli --load-kmods configure --ldconfig=@/sbin/ldconfig.real --device=all --compute --utility --require=cuda>=9.0 --pid=24351 /var/lib/docker/aufs/mnt/085a2f9697d8b4dfbf269d413e032b46e948fa619e82f7a50b0dbac97e716be6]\\\\nnvidia-container-cli: initialization error: cuda error: no cuda-capable device is detected\\\\n\\\"\"": unknown.

可能是nvidia driver/cuda/nvidia-docker2之间出了问题;

将三者彻底删除

apt-get purge nvidia driver-* cuda-* nvidia-docker2

apt-get update

重新安装cuda-9-0,会自动安装相应的nvidia driver-384 就用默认的版本

测试nvidia-smi通过

重新安装nvidia-docker2,

测试 docker run --runtime=nvidia --rm nvidia/cuda nvidia-smi通过

 

问题解决

到这里,就完成了ubuntu16.04 安装cuda9.0+cudnn7.0.5+tensorflow+nvidia-docker配置GPU服务器


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

举报
请填写举报理由
0/200