人脸动漫化——AnimeGAN快速上手

举报
zstar 发表于 2022/08/06 02:05:00 2022/08/06
【摘要】 最近看到Github上有个项目很火,于是尝试clone下玩玩。 项目名:animegan2-pytorch 项目地址:https://github.com/bryandlee/animegan2-p...

最近看到Github上有个项目很火,于是尝试clone下玩玩。
项目名:animegan2-pytorch
项目地址:https://github.com/bryandlee/animegan2-pytorch

项目简介

AnimeGAN是来自武汉大学和湖北工业大学的一项研究,采用的是神经风格迁移 + 生成对抗网络(GAN)的组合。

AnimeGAN从去年就已经提出,使用的是Tensorflow框架,目前该项目已开发出了第二代版本,支持pytroch框架。

原论文:AnimeGAN: A Novel Lightweight GAN for Photo Animation
https://github.com/TachibanaYoshino/AnimeGAN/blob/master/doc/Chen2020_Chapter_AnimeGAN.pdf

网络结构(图片节选自原论文,原理暂不细究):
在这里插入图片描述

该项目可以实现将真人头像动漫化,例如下面的动图所示:

在这里插入图片描述

项目上手

文件预览

由于国外服务器下载较慢,本项目所有文件以及所需下载的其它文件我均做了备份。获取方式可以跳转到文末。
在这里插入图片描述
samples:用来放置一些示例图片
weghts:权重文件
colab_demo/demo.ipynb:两个使用案例
convert_weights.py:用来将权重文件夹里的tensorflow模型转换成pytorch模型文件
hubconf.py:在Pytorch.Hub上获取预加载模型

在使用中,只需要用到两个文件:
1、demo.ipynb
2、weights文件夹(内含四个模型,对应不同图片大小、美化程度、鲁棒性等…)

环境安装

首先在jupyter lab中打开demo.ipynb,然后根据import来配置环境。

Pytorch 安装

项目需要使用Pytorch框架,框架的安装可以看我之前的博文:
超简单的pytorch(GPU版)安装教程(亲测有效)

cmake安装

在进行dlib库安装时,直接安装会报错:

CMake must be installed to build the following extensions: dlib

  
 
  • 1

在此之前,需先进行cmake安装。
安装方式:

pip install cmake

  
 
  • 1

face_recognition安装

安装完cmake后,先别急着装dlib,先安装face_recognition,这里面包含了一个版本的dlib。
安装方式:

pip install face_recognition

  
 
  • 1

dlib检查与安装

安装好face_recognition之后,内部自带了一个dlib,此时可尝试运行demo中的第二段程序,如果dlib无报错,可不进行下面的步骤。
若报错,则可能是dlib的版本与python的版本不匹配,需卸载重装。
卸载方式:

pip uninstall dlib

  
 
  • 1

若使用pip进行dlib的安装,大概率会报错,因此需将dlib的包下载下来本地安装。

下面是dlib不同版本和python版本的对应关系

python3.5版本:19.4.0版本
python3.6版本:19.6.0版本;
python3.7版本:19.14.0版本
python3.8版本:19.19.0版本;

我的安装的python版本为3.8,因此我需要下载dlib的19.19.0版本。
下载链接:https://pypi.org/project/dlib/19.19.0/#files

下载的是.tar.gz格式的文件:
下载好后需进行解压,在命令行切换到解压后的文件夹,运行:

python setup.py

  
 
  • 1

运行好之后,相应的dlib版本就安装完毕。

scipy安装

scipy是科学工具包,内含很多计算公式,后面有用到,安装比较简单:

pip install scipy

  
 
  • 1

requests安装(可选)

玩过爬虫的都知道requests可以很方便的向服务器发送请求,后面测试图片如果需要获取网络资源,则需安装此库,本地图片加载可不用安装。
安装方式:

pip install  requests

  
 
  • 1

特征点检测数据库下载

前面安装过的dlib可用来检测人脸特征,但库本身并不带特征点检测库,运行时会报错:

Unable to open shape_predictor_68_face_landmarks.dat

  
 
  • 1

解决方式:
将shape_predictor_68_face_landmarks.dat该文件放置在项目同文件夹下即可。
该文件在文末我备份的文件中已添加。

权重文件放置

运行代码第一段,它会用torch.hub.load来下载模型文件,如果你的网速不快,很可能会下载中断,产生报错。其实,下载的文件和克隆的项目文件一样,只不过会在C盘的缓冲区进行额外添加。
添加位置如图所示:
在这里插入图片描述
它会在相应文件夹下生成两个文件夹:
在这里插入图片描述
下载失败没关系,只要把项目内的相应文件拷贝进去即可。
第一个文件内容(即项目文件)
在这里插入图片描述
第二个文件内容(存放权重文件)
在这里插入图片描述
放好之后,在此运行第一段代码,就不会联网去下载,而会提示文件已存在。

代码功能解读

第一段代码,主要用来设置环境。

#@title Load Face2Paint model

import torch 
from PIL import Image

device = "cuda" if torch.cuda.is_available() else "cpu"
model = torch.hub.load("bryandlee/animegan2-pytorch:main", "generator", device=device).eval()
face2paint = torch.hub.load("bryandlee/animegan2-pytorch:main", "face2paint", device=device, side_by_side=True)

  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

第二段代码,核心代码,通过dlib将人脸部分进行裁切,并检测出所有人脸特征点,进行标注,产生图片。

#@title Face Detector & FFHQ-style Alignment

# https://github.com/woctezuma/stylegan2-projecting-images

import os
import dlib
import collections
from typing import Union, List
import numpy as np
from PIL import Image
import matplotlib.pyplot as plt


def get_dlib_face_detector(predictor_path: str = "shape_predictor_68_face_landmarks.dat"):

    if not os.path.isfile(predictor_path):
        model_file = "shape_predictor_68_face_landmarks.dat.bz2"
        os.system(f"wget http://dlib.net/files/{model_file}")
        os.system(f"bzip2 -dk {model_file}")

    detector = dlib.get_frontal_face_detector()
    shape_predictor = dlib.shape_predictor(predictor_path)

    def detect_face_landmarks(img: Union[Image.Image, np.ndarray]):
        if isinstance(img, Image.Image):
            img = np.array(img)
        faces = []
        dets = detector(img)
        for d in dets:
            shape = shape_predictor(img, d)
            faces.append(np.array([[v.x, v.y] for v in shape.parts()]))
        return faces
    
    return detect_face_landmarks


def display_facial_landmarks(
    img: Image, 
    landmarks: List[np.ndarray],
    fig_size=[15, 15]
):
    plot_style = dict(
        marker='o',
        markersize=4,
        linestyle='-',
        lw=2
    )
    pred_type = collections.namedtuple('prediction_type', ['slice', 'color'])
    pred_types = {
        'face': pred_type(slice(0, 17), (0.682, 0.780, 0.909, 0.5)),
        'eyebrow1': pred_type(slice(17, 22), (1.0, 0.498, 0.055, 0.4)),
        'eyebrow2': pred_type(slice(22, 27), (1.0, 0.498, 0.055, 0.4)),
        'nose': pred_type(slice(27, 31), (0.345, 0.239, 0.443, 0.4)),
        'nostril': pred_type(slice(31, 36), (0.345, 0.239, 0.443, 0.4)),
        'eye1': pred_type(slice(36, 42), (0.596, 0.875, 0.541, 0.3)),
        'eye2': pred_type(slice(42, 48), (0.596, 0.875, 0.541, 0.3)),
        'lips': pred_type(slice(48, 60), (0.596, 0.875, 0.541, 0.3)),
        'teeth': pred_type(slice(60, 68), (0.596, 0.875, 0.541, 0.4))
    }

    fig = plt.figure(figsize=fig_size)
    ax = fig.add_subplot(1, 1, 1)
    ax.imshow(img)
    ax.axis('off')

    for face in landmarks:
        for pred_type in pred_types.values():
            ax.plot(
                face[pred_type.slice, 0],
                face[pred_type.slice, 1],
                color=pred_type.color, **plot_style
            )
    plt.show()



# https://github.com/NVlabs/ffhq-dataset/blob/master/download_ffhq.py

import PIL.Image
import PIL.ImageFile
import numpy as np
import scipy.ndimage


def align_and_crop_face(
    img: Image.Image,
    landmarks: np.ndarray,
    expand: float = 1.0,
    output_size: int = 1024, 
    transform_size: int = 4096,
    enable_padding: bool = True,
):
    # Parse landmarks.
    # pylint: disable=unused-variable
    lm = landmarks
    lm_chin          = lm[0  : 17]  # left-right
    lm_eyebrow_left  = lm[17 : 22]  # left-right
    lm_eyebrow_right = lm[22 : 27]  # left-right
    lm_nose          = lm[27 : 31]  # top-down
    lm_nostrils      = lm[31 : 36]  # top-down
    lm_eye_left      = lm[36 : 42]  # left-clockwise
    lm_eye_right     = lm[42 : 48]  # left-clockwise
    lm_mouth_outer   = lm[48 : 60]  # left-clockwise
    lm_mouth_inner   = lm[60 : 68]  # left-clockwise

    # Calculate auxiliary vectors.
    eye_left     = np.mean(lm_eye_left, axis=0)
    eye_right    = np.mean(lm_eye_right, axis=0)
    eye_avg      = (eye_left + eye_right) * 0.5
    eye_to_eye   = eye_right - eye_left
    mouth_left   = lm_mouth_outer[0]
    mouth_right  = lm_mouth_outer[6]
    mouth_avg    = (mouth_left + mouth_right) * 0.5
    eye_to_mouth = mouth_avg - eye_avg

    # Choose oriented crop rectangle.
    x = eye_to_eye - np.flipud(eye_to_mouth) * [-1, 1]
    x /= np.hypot(*x)
    x *= max(np.hypot(*eye_to_eye) * 2.0, np.hypot(*eye_to_mouth) * 1.8)
    x *= expand
    y = np.flipud(x) * [-1, 1]
    c = eye_avg + eye_to_mouth * 0.1
    quad = np.stack([c - x - y, c - x + y, c + x + y, c + x - y])
    qsize = np.hypot(*x) * 2

    # Shrink.
    shrink = int(np.floor(qsize / output_size * 0.5))
    if shrink > 1:
        rsize = (int(np.rint(float(img.size[0]) / shrink)), int(np.rint(float(img.size[1]) / shrink)))
        img = img.resize(rsize, PIL.Image.ANTIALIAS)
        quad /= shrink
        qsize /= shrink

    # Crop.
    border = max(int(np.rint(qsize * 0.1)), 3)
    crop = (int(np.floor(min(quad[:,0]))), int(np.floor(min(quad[:,1]))), int(np.ceil(max(quad[:,0]))), int(np.ceil(max(quad[:,1]))))
    crop = (max(crop[0] - border, 0), max(crop[1] - border, 0), min(crop[2] + border, img.size[0]), min(crop[3] + border, img.size[1]))
    if crop[2] - crop[0] < img.size[0] or crop[3] - crop[1] < img.size[1]:
        img = img.crop(crop)
        quad -= crop[0:2]

    # Pad.
    pad = (int(np.floor(min(quad[:,0]))), int(np.floor(min(quad[:,1]))), int(np.ceil(max(quad[:,0]))), int(np.ceil(max(quad[:,1]))))
    pad = (max(-pad[0] + border, 0), max(-pad[1] + border, 0), max(pad[2] - img.size[0] + border, 0), max(pad[3] - img.size[1] + border, 0))
    if enable_padding and max(pad) > border - 4:
        pad = np.maximum(pad, int(np.rint(qsize * 0.3)))
        img = np.pad(np.float32(img), ((pad[1], pad[3]), (pad[0], pad[2]), (0, 0)), 'reflect')
        h, w, _ = img.shape
        y, x, _ = np.ogrid[:h, :w, :1]
        mask = np.maximum(1.0 - np.minimum(np.float32(x) / pad[0], np.float32(w-1-x) / pad[2]), 1.0 - np.minimum(np.float32(y) / pad[1], np.float32(h-1-y) / pad[3]))
        blur = qsize * 0.02
        img += (scipy.ndimage.gaussian_filter(img, [blur, blur, 0]) - img) * np.clip(mask * 3.0 + 1.0, 0.0, 1.0)
        img += (np.median(img, axis=(0,1)) - img) * np.clip(mask, 0.0, 1.0)
        img = PIL.Image.fromarray(np.uint8(np.clip(np.rint(img), 0, 255)), 'RGB')
        quad += pad[:2]

    # Transform.
    img = img.transform((transform_size, transform_size), PIL.Image.QUAD, (quad + 0.5).flatten(), PIL.Image.BILINEAR)
    if output_size < transform_size:
        img = img.resize((output_size, output_size), PIL.Image.ANTIALIAS)

    return img

  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55
  • 56
  • 57
  • 58
  • 59
  • 60
  • 61
  • 62
  • 63
  • 64
  • 65
  • 66
  • 67
  • 68
  • 69
  • 70
  • 71
  • 72
  • 73
  • 74
  • 75
  • 76
  • 77
  • 78
  • 79
  • 80
  • 81
  • 82
  • 83
  • 84
  • 85
  • 86
  • 87
  • 88
  • 89
  • 90
  • 91
  • 92
  • 93
  • 94
  • 95
  • 96
  • 97
  • 98
  • 99
  • 100
  • 101
  • 102
  • 103
  • 104
  • 105
  • 106
  • 107
  • 108
  • 109
  • 110
  • 111
  • 112
  • 113
  • 114
  • 115
  • 116
  • 117
  • 118
  • 119
  • 120
  • 121
  • 122
  • 123
  • 124
  • 125
  • 126
  • 127
  • 128
  • 129
  • 130
  • 131
  • 132
  • 133
  • 134
  • 135
  • 136
  • 137
  • 138
  • 139
  • 140
  • 141
  • 142
  • 143
  • 144
  • 145
  • 146
  • 147
  • 148
  • 149
  • 150
  • 151
  • 152
  • 153
  • 154
  • 155
  • 156
  • 157
  • 158
  • 159
  • 160
  • 161
  • 162

第三段代码,设置图片导入方式(第一种网络读取图片,第二种本地加载),之后调用第二段中定义的算法,产生结果输出。

import requests

# img = Image.open(requests.get("https://upload.wikimedia.org/wikipedia/commons/8/85/Elon_Musk_Royal_Society_%28crop1%29.jpg", stream=True).raw).convert("RGB")
img = Image.open(r"C:\Users\hp\Desktop\bidao.png").convert("RGB")

face_detector = get_dlib_face_detector()
landmarks = face_detector(img)

display_facial_landmarks(img, landmarks, fig_size=[5, 5])

for landmark in landmarks:
    face = align_and_crop_face(img, landmark, expand=1.3)
    display(face2paint(model=model, img=face, size=512))

  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13

查看效果

好了,经历漫长和复杂的环境配置后,导入图片就能看到效果了。
我这里以毕导的图片为例:
原图:
在这里插入图片描述

人脸提取标注后:
在这里插入图片描述
动漫化对比:
在这里插入图片描述
结果非常Amazing啊!
不过,由于原图分辨率不高,动漫化好像并不彻底,比如耳朵部分仍保留着三次元特征,和真正的二次元还有点距离。

资源获取

本项目的文件我已打包放在了我的微信公众号“我有一计”上,回复“动漫”即可获取。

文章来源: zstar.blog.csdn.net,作者:zstar-_,版权归原作者所有,如需转载,请联系作者。

原文链接:zstar.blog.csdn.net/article/details/121584740

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。