cupy 加速

这个本质是cuda计算，训练的时候gpu是紧缺资源，这个也需要gpu，所以gpu冲突了。

import cupy as cp

def to_cupy(tensor):
    """Convert PyTorch tensor to CuPy array.
    """
    return cp.fromDlpack(to_dlpack(tensor))

def to_tensor(cp_array):
    """Convert CuPy array to PyTorch tensor.
    """
    return from_dlpack(cp_array.toDlpack())

合并拼接：

cp_data=cp.hstack((cp_data, cp_data))

numpy 与cupy互转:

      import cupy as cp
      import numpy as np
      x_cpu = np.random.randn(100, 100).astype(np.float32)
      x_gpu = cp.asarray(x_cpu)
      n_data = cp.asnumpy(x_gpu)
      print(n_data)
      x_cpu*x_cpu
      2.41 µs ± 19.7 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
      %%timeit
      x_gpu*x_gpu
      14.3 µs ± 53.4 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
      import torch
      x_tensor = torch.from_numpy(x
  
 

文章来源: blog.csdn.net，作者：网奇，版权归原作者所有，如需转载，请联系作者。

原文链接：blog.csdn.net/jacke121/article/details/102420041