10G 大文件、秒传、断点续传、分片上传

民工哥 发表于 2022/06/16 23:36:43 2022/06/16
【摘要】 点击下方“Java编程鸭”关注并标星 更多精彩 第一时间直达 超大文件上传是一个老生常谈的话题了,在文件相对比较小的情况下,可以直接把文件转化为字节流上传到服务器,但在文件比较大的情况下,用普通的方式进行上传,这可不是一个好的办法,毕竟很少有人会忍受,当文件上传到一半中断后,继续上传却只能重头开始上传,这种让人不爽的体验。 ...

点击下方“Java编程鸭”关注并标星

更多精彩 第一时间直达

超大文件上传是一个老生常谈的话题了,在文件相对比较小的情况下,可以直接把文件转化为字节流上传到服务器,但在文件比较大的情况下,用普通的方式进行上传,这可不是一个好的办法,毕竟很少有人会忍受,当文件上传到一半中断后,继续上传却只能重头开始上传,这种让人不爽的体验。

那有没有比较好的上传体验呢,答案有的,就是下边要介绍的几种上传方式

1、什么是秒传

通俗的说,你把要上传的东西上传,服务器会先做MD5校验,如果服务器上有一样的东西,它就直接给你个新地址,其实你下载的都是服务器上的同一个文件,想要不秒传,其实只要让MD5改变,就是对文件本身做一下修改(改名字不行),例如一个文本文件,你多加几个字,MD5就变了,就不会秒传了

2、本文实现的秒传核心逻辑

a、利用redis的set方法存放文件上传状态,其中key为文件上传的md5,value为是否上传完成的标志位,

b、当标志位true为上传已经完成,此时如果有相同文件上传,则进入秒传逻辑。如果标志位为false,则说明还没上传完成,此时需要在调用set的方法,保存块号文件记录的路径,其中key为上传文件md5加一个固定前缀,value为块号文件记录路径

分片上传

1、什么是分片上传

分片上传,就是将所要上传的文件,按照一定的大小,将整个文件分隔成多个数据块(我们称之为Part)来进行分别上传,上传完之后再由服务端对所有上传的文件进行汇总整合成原始的文件。

2、分片上传的场景

1、大文件上传

2、网络环境环境不好,存在需要重传风险的场景

断点续传

1、什么是断点续传

断点续传是在下载或上传时,将下载或上传任务(一个文件或一个压缩包)人为的划分为几个部分,每一个部分采用一个线程进行上传或下载,如果碰到网络故障,可以从已经上传或下载的部分开始继续上传或者下载未完成的部分,而没有必要从头开始上传或者下载。本文的断点续传主要是针对断点上传场景。

2、应用场景

断点续传可以看成是分片上传的一个衍生,因此可以使用分片上传的场景,都可以使用断点续传。

3、实现断点续传的核心逻辑

在分片上传的过程中,如果因为系统崩溃或者网络中断等异常因素导致上传中断,这时候客户端需要记录上传的进度。在之后支持再次上传时,可以继续从上次上传中断的地方进行继续上传。

为了避免客户端在上传之后的进度数据被删除而导致重新开始从头上传的问题,服务端也可以提供相应的接口便于客户端对已经上传的分片数据进行查询,从而使客户端知道已经上传的分片数据,从而从下一个分片数据开始继续上传。

4、实现流程步骤

a、方案一,常规步骤

b、方案二、本文实现的步骤

  • 前端(客户端)需要根据固定大小对文件进行分片,请求后端(服务端)时要带上分片序号和大小

  • 服务端创建conf文件用来记录分块位置,conf文件长度为总分片数,每上传一个分块即向conf文件中写入一个127,那么没上传的位置就是默认的0,已上传的就是Byte.MAX_VALUE 127(这步是实现断点续传和秒传的核心步骤)

  • 服务器按照请求数据中给的分片序号和每片分块大小(分片大小是固定且一样的)算出开始位置,与读取到的文件片段数据,写入文件。

5、分片上传/断点上传代码实现

a、前端采用百度提供的webuploader的插件,进行分片。因本文主要介绍服务端代码实现,webuploader如何进行分片,具体实现可以查看如下链接:

http://fex.baidu.com/webuploader/getting-started.html

b、后端用两种方式实现文件写入,一种是用RandomAccessFile,如果对RandomAccessFile不熟悉的朋友,可以查看如下链接:

https://blog.csdn.net/dimudan2015/article/details/81910690

另一种是使用MappedByteBuffer,对MappedByteBuffer不熟悉的朋友,可以查看如下链接进行了解:

https://www.jianshu.com/p/f90866dcbffc

后端进行写入操作的核心代码

a、RandomAccessFile实现方式


   
  1. @UploadMode(mode = UploadModeEnum.RANDOM_ACCESS)  
  2. @Slf4j  
  3. public class RandomAccessUploadStrategy extends SliceUploadTemplate {  
  4.   
  5.   @Autowired  
  6.   private FilePathUtil filePathUtil;  
  7.   
  8.   @Value("${upload.chunkSize}")  
  9.   private long defaultChunkSize;  
  10.   
  11.   @Override  
  12.   public boolean upload(FileUploadRequestDTO param) {  
  13.     RandomAccessFile accessTmpFile = null;  
  14.     try {  
  15.       String uploadDirPath = filePathUtil.getPath(param);  
  16.       File tmpFile = super.createTmpFile(param);  
  17.       accessTmpFile = new RandomAccessFile(tmpFile, "rw");  
  18.       //这个必须与前端设定的值一致  
  19.       long chunkSize = Objects.isNull(param.getChunkSize()) ? defaultChunkSize * 1024 * 1024  
  20.           : param.getChunkSize();  
  21.       long offset = chunkSize * param.getChunk();  
  22.       //定位到该分片的偏移量  
  23.       accessTmpFile.seek(offset);  
  24.       //写入该分片数据  
  25.       accessTmpFile.write(param.getFile().getBytes());  
  26.       boolean isOk = super.checkAndSetUploadProgress(param, uploadDirPath);  
  27.       return isOk;  
  28.     } catch (IOException e) {  
  29.       log.error(e.getMessage(), e);  
  30.     } finally {  
  31.       FileUtil.close(accessTmpFile);  
  32.     }  
  33.    return false;  
  34.   }  
  35.   
  36. }

b、MappedByteBuffer实现方式


   
  1. @UploadMode(mode = UploadModeEnum.MAPPED_BYTEBUFFER)  
  2. @Slf4j  
  3. public class MappedByteBufferUploadStrategy extends SliceUploadTemplate {  
  4.   
  5.   @Autowired  
  6.   private FilePathUtil filePathUtil;  
  7.   
  8.   @Value("${upload.chunkSize}")  
  9.   private long defaultChunkSize;  
  10.   
  11.   @Override  
  12.   public boolean upload(FileUploadRequestDTO param) {  
  13.   
  14.     RandomAccessFile tempRaf = null;  
  15.     FileChannel fileChannel = null;  
  16.     MappedByteBuffer mappedByteBuffer = null;  
  17.     try {  
  18.       String uploadDirPath = filePathUtil.getPath(param);  
  19.       File tmpFile = super.createTmpFile(param);  
  20.       tempRaf = new RandomAccessFile(tmpFile, "rw");  
  21.       fileChannel = tempRaf.getChannel();  
  22.   
  23.       long chunkSize = Objects.isNull(param.getChunkSize()) ? defaultChunkSize * 1024 * 1024  
  24.           : param.getChunkSize();  
  25.       //写入该分片数据  
  26.       long offset = chunkSize * param.getChunk();  
  27.       byte[] fileData = param.getFile().getBytes();  
  28.       mappedByteBuffer = fileChannel  
  29. .map(FileChannel.MapMode.READ_WRITE, offset, fileData.length);  
  30.       mappedByteBuffer.put(fileData);  
  31.       boolean isOk = super.checkAndSetUploadProgress(param, uploadDirPath);  
  32.       return isOk;  
  33.   
  34.     } catch (IOException e) {  
  35.       log.error(e.getMessage(), e);  
  36.     } finally {  
  37.   
  38.       FileUtil.freedMappedByteBuffer(mappedByteBuffer);  
  39.       FileUtil.close(fileChannel);  
  40.       FileUtil.close(tempRaf);  
  41.   
  42.     }  
  43.   
  44.     return false;  
  45.   }  
  46.   
  47. }

c、文件操作核心模板类代码


   
  1. @Slf4j  
  2. public abstract class SliceUploadTemplate implements SliceUploadStrategy {  
  3.   
  4.   public abstract boolean upload(FileUploadRequestDTO param);  
  5.   
  6.   protected File createTmpFile(FileUploadRequestDTO param) {  
  7.   
  8.     FilePathUtil filePathUtil = SpringContextHolder.getBean(FilePathUtil.class);  
  9.     param.setPath(FileUtil.withoutHeadAndTailDiagonal(param.getPath()));  
  10.     String fileName = param.getFile().getOriginalFilename();  
  11.     String uploadDirPath = filePathUtil.getPath(param);  
  12.     String tempFileName = fileName + "_tmp";  
  13.     File tmpDir = new File(uploadDirPath);  
  14.     File tmpFile = new File(uploadDirPath, tempFileName);  
  15.     if (!tmpDir.exists()) {  
  16.       tmpDir.mkdirs();  
  17.     }  
  18.     return tmpFile;  
  19.   }  
  20.   
  21.   @Override  
  22.   public FileUploadDTO sliceUpload(FileUploadRequestDTO param) {  
  23.   
  24.     boolean isOk = this.upload(param);  
  25.     if (isOk) {  
  26.       File tmpFile = this.createTmpFile(param);  
  27.       FileUploadDTO fileUploadDTO = this.saveAndFileUploadDTO(param.getFile().getOriginalFilename(), tmpFile);  
  28.       return fileUploadDTO;  
  29.     }  
  30.     String md5 = FileMD5Util.getFileMD5(param.getFile());  
  31.   
  32.     Map<Integer, String> map = new HashMap<>();  
  33.     map.put(param.getChunk(), md5);  
  34.     return FileUploadDTO.builder().chunkMd5Info(map).build();  
  35.   }  
  36.   
  37.   /**  
  38.    * 检查并修改文件上传进度  
  39.    */  
  40.   public boolean checkAndSetUploadProgress(FileUploadRequestDTO param, String uploadDirPath) {  
  41.   
  42.     String fileName = param.getFile().getOriginalFilename();  
  43.     File confFile = new File(uploadDirPath, fileName + ".conf");  
  44.     byte isComplete = 0;  
  45.     RandomAccessFile accessConfFile = null;  
  46.     try {  
  47.       accessConfFile = new RandomAccessFile(confFile, "rw");  
  48.       //把该分段标记为 true 表示完成  
  49.       System.out.println("set part " + param.getChunk() + " complete");  
  50.       //创建conf文件文件长度为总分片数,每上传一个分块即向conf文件中写入一个127,那么没上传的位置就是默认0,已上传的就是Byte.MAX_VALUE 127  
  51.       accessConfFile.setLength(param.getChunks());  
  52.       accessConfFile.seek(param.getChunk());  
  53.       accessConfFile.write(Byte.MAX_VALUE);  
  54.   
  55.       //completeList 检查是否全部完成,如果数组里是否全部都是127(全部分片都成功上传)  
  56.       byte[] completeList = FileUtils.readFileToByteArray(confFile);  
  57.       isComplete = Byte.MAX_VALUE;  
  58.       for (int i = 0; i < completeList.length && isComplete == Byte.MAX_VALUE; i++) {  
  59.         //与运算, 如果有部分没有完成则 isComplete 不是 Byte.MAX_VALUE  
  60.         isComplete = (byte) (isComplete & completeList[i]);  
  61.         System.out.println("check part " + i + " complete?:" + completeList[i]);  
  62.       }  
  63.   
  64.     } catch (IOException e) {  
  65.       log.error(e.getMessage(), e);  
  66.     } finally {  
  67.       FileUtil.close(accessConfFile);  
  68.     }  
  69.  boolean isOk = setUploadProgress2Redis(param, uploadDirPath, fileName, confFile, isComplete);  
  70.     return isOk;  
  71.   }  
  72.   
  73.   /**  
  74.    * 把上传进度信息存进redis  
  75.    */  
  76.   private boolean setUploadProgress2Redis(FileUploadRequestDTO param, String uploadDirPath,  
  77.       String fileName, File confFile, byte isComplete) {  
  78.   
  79.     RedisUtil redisUtil = SpringContextHolder.getBean(RedisUtil.class);  
  80.     if (isComplete == Byte.MAX_VALUE) {  
  81.       redisUtil.hset(FileConstant.FILE_UPLOAD_STATUS, param.getMd5(), "true");  
  82.       redisUtil.del(FileConstant.FILE_MD5_KEY + param.getMd5());  
  83.       confFile.delete();  
  84.       return true;  
  85.     } else {  
  86.       if (!redisUtil.hHasKey(FileConstant.FILE_UPLOAD_STATUS, param.getMd5())) {  
  87.         redisUtil.hset(FileConstant.FILE_UPLOAD_STATUS, param.getMd5(), "false");  
  88.         redisUtil.set(FileConstant.FILE_MD5_KEY + param.getMd5(),  
  89.             uploadDirPath + FileConstant.FILE_SEPARATORCHAR + fileName + ".conf");  
  90.       }  
  91.   
  92.       return false;  
  93.     }  
  94.   }  
  95. /**  
  96.    * 保存文件操作  
  97.    */  
  98.   public FileUploadDTO saveAndFileUploadDTO(String fileName, File tmpFile) {  
  99.   
  100.     FileUploadDTO fileUploadDTO = null;  
  101.   
  102.     try {  
  103.   
  104.       fileUploadDTO = renameFile(tmpFile, fileName);  
  105.       if (fileUploadDTO.isUploadComplete()) {  
  106.         System.out  
  107.             .println("upload complete !!" + fileUploadDTO.isUploadComplete() + " name=" + fileName);  
  108.         //TODO 保存文件信息到数据库  
  109.   
  110.       }  
  111.   
  112.     } catch (Exception e) {  
  113.       log.error(e.getMessage(), e);  
  114.     } finally {  
  115.   
  116.     }  
  117.     return fileUploadDTO;  
  118.   }  
  119. /**  
  120.    * 文件重命名  
  121.    *  
  122.    * @param toBeRenamed 将要修改名字的文件  
  123.    * @param toFileNewName 新的名字  
  124.    */  
  125.   private FileUploadDTO renameFile(File toBeRenamed, String toFileNewName) {  
  126.     //检查要重命名的文件是否存在,是否是文件  
  127.     FileUploadDTO fileUploadDTO = new FileUploadDTO();  
  128.     if (!toBeRenamed.exists() || toBeRenamed.isDirectory()) {  
  129.       log.info("File does not exist: {}", toBeRenamed.getName());  
  130.       fileUploadDTO.setUploadComplete(false);  
  131.       return fileUploadDTO;  
  132.     }  
  133.     String ext = FileUtil.getExtension(toFileNewName);  
  134.     String p = toBeRenamed.getParent();  
  135.     String filePath = p + FileConstant.FILE_SEPARATORCHAR + toFileNewName;  
  136.     File newFile = new File(filePath);  
  137.     //修改文件名  
  138.     boolean uploadFlag = toBeRenamed.renameTo(newFile);  
  139.   
  140.     fileUploadDTO.setMtime(DateUtil.getCurrentTimeStamp());  
  141.     fileUploadDTO.setUploadComplete(uploadFlag);  
  142.     fileUploadDTO.setPath(filePath);  
  143.     fileUploadDTO.setSize(newFile.length());  
  144.     fileUploadDTO.setFileExt(ext);  
  145.     fileUploadDTO.setFileId(toFileNewName);  
  146.   
  147.     return fileUploadDTO;  
  148.   }  
  149. }

总结

在实现分片上传的过程,需要前端和后端配合,比如前后端的上传块号的文件大小,前后端必须得要一致,否则上传就会有问题。其次文件相关操作正常都是要搭建一个文件服务器的,比如使用fastdfs、hdfs等。

本示例代码在电脑配置为4核内存8G情况下,上传24G大小的文件,上传时间需要30多分钟,主要时间耗费在前端的md5值计算,后端写入的速度还是比较快。如果项目组觉得自建文件服务器太花费时间,且项目的需求仅仅只是上传下载,那么推荐使用阿里的oss服务器,其介绍可以查看官网:

https://help.aliyun.com/product/31815.html

阿里的oss它本质是一个对象存储服务器,而非文件服务器,因此如果有涉及到大量删除或者修改文件的需求,oss可能就不是一个好的选择。

END


   
  1. 看完本文有收获?请转发分享给更多人
  2. 关注「Java编程鸭」,提升Java技能
  3. 关注Java编程鸭微信公众号,后台回复:码农大礼包 可以获取最新整理的技术资料一份。涵盖Java 框架学习、架构师学习等!
  4. 文章有帮助的话,在看,转发吧。
  5. 谢谢支持哟 (*^__^*)

文章来源: mingongge.blog.csdn.net,作者:民工哥,版权归原作者所有,如需转载,请联系作者。

原文链接:mingongge.blog.csdn.net/article/details/125307763

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:cloudbbs@huaweicloud.com进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。