All input tensors must be on the same device

All input tensors must be on the same device

RuntimeError: All input tensors must be on the same device. Received cuda:0 and cpu #18

RuntimeError: All input tensors must be on the same device. Received cuda:2 and cuda:0

pytorch在进行计算时，

张量必须在同一设备，都在cpu上，或者都在指定的gpu上，不同gpu之间也不能实时计算。

举例：

      class DCRNN(torch.nn.Module):
      def _set_hidden_state(self, X, H):
      if H is None:
       H = torch.zeros(X.shape[0], self.out_channels)
      return H
  
 

这个例子中，H是新创建Tensor变量，如果X也为Tensor变量，分配gpu或者cpu后，H没有分配gpu或cpu资源

所以可能报错。

解决方法：

H.to(X.device)

当然，X也需要是tensor数据类型。

      class DCRNN(torch.nn.Module):
      def _set_hidden_state(self, X, H):
      if H is None:
       H = torch.zeros(X.shape[0], self.out_channels)
      return H.to(X.device)
  
 

顺便提一下：

tensor.cuda()默认分配到第0块gpu上

分配第2块gpu卡：

tensor.cuda(2)

解决方法和文章是我自己耗费精力所做，如果解决了您的问题，麻烦点赞加个关注，更多干货知识与您第一时间分享!

文章来源: blog.csdn.net，作者：网奇，版权归原作者所有，如需转载，请联系作者。

原文链接：blog.csdn.net/jacke121/article/details/115348963