pytorch Default process group is not initialized

风吹稻花香 发表于 2022/06/28 00:33:55 2022/06/28
【摘要】 报错:Default process group is not initialized 报错代码,yolov5训练时不报错, 参数配置错了, with torch_distributed_zero_first(rank): dataset = LoadImagesAndLabels(path, imgsz, b...

报错:Default process group is not initialized

报错代码,yolov5训练时不报错, 参数配置错了,


  
  1. with torch_distributed_zero_first(rank):
  2. dataset = LoadImagesAndLabels(path, imgsz, batch_size, augment=augment, # augment images
  3. hyp=hyp, # augmentation hyperparameters
  4. rect=rect, # rectangular training
  5. cache_images=cache, single_cls=opt.single_cls, stride=int(stride), pad=pad, image_weights=image_weights, prefix=prefix,data_type=data_type)
  6. @contextmanager
  7. def torch_distributed_zero_first(local_rank: int):
  8. """
  9. Decorator to make all processes in distributed training wait for each local_master to do something.
  10. """
  11. if local_rank not in [-1, 0]:
  12. torch.distributed.barrier()
  13. yield
  14. if local_rank == 0:

文章来源: blog.csdn.net,作者:AI视觉网奇,版权归原作者所有,如需转载,请联系作者。

原文链接:blog.csdn.net/jacke121/article/details/125476898

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:cloudbbs@huaweicloud.com进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。