老大加需求：做一个支持超大文件 HTTP 断点续传的上传服务，我懵逼了~ ...

作者: 大飞飞鱼
来源: blog.csdn.net/ababab12345/article/details/80490621
Part1前言

最近由于笔者所在的研发集团产品需要，需要支持高性能的大文件（大都数是4GB以上）的http上传，并且要求支持http断点续传。笔者在以前的博客如何实现支持大文件的高性能HTTP文件上传服务器已经介绍了实现大文件上传的一些基本概念，其实非常简单，这里在简要归纳一下，方便记忆：
服务器端由C语言实现，而不是用java、PHP这种解释型语言来实现；服务器端即时写入硬盘，因此无需再次调用move_uploaded_file、InputStreamReader 这种需要缓存的技术来避免服务器内存占用与浏览器请求超时；支持HTML5与IFRAME（针对老浏览器），并且支持获取文件上传进度。为了更好的适应当前的移动互联网，要求对上传服务支持断点续传，断线重连。因为移动互联网并不非常稳定；再者，上传一个大文件发生异常掉线的可能性非常大，为了避免重新上传，支持断点续传就变得非常必要了。
推荐一个开源免费的 Spring Boot 实战项目：

https://github.com/javastacks/spring-boot-best-practice

Part2实现思路

支持断点续传的思路是：

• 客户端（通常是浏览器）向服务器端上传某个文件，服务器端不断记录上传的进度，如果一旦掉线或发生其它异常，客户端可以向服务器查询某个文件已经上传的状态，从上次上传的文件位置接着上传。
  
• 网上也有大师采用分片文件上传方式来实现大文件上传，方法是将文件切成小片，例如4MB一个片段，服务器端每次接收一小片文件保存成一个临时文件，等待所有片段传输完毕后，再执行合并。笔者认为，如果原始文件足够小，这种方式是可以的，但一旦文件有几百兆或者几个GB或者几十个GB，则合并文件的时间会非常长，常常导致浏览器响应超时或服务器阻塞。
  

如果自己实现独立客户端（或浏览器的ActiveX插件）来上传文件，则支持断点续传将是一件非常简单的事情，只需在客户端记录文件上传状态。而支持浏览器断点续传（无需安装第三方插件）一般来说是要比自己做独立客户端上传难度大一些，但也不难。
我的实现思路如下：

浏览器在上传某个文件时候，先给这个文件生成一个HASH值，必须在浏览器端生成这个HASH值。
不能单循地依据文件名来查询文件上传记录，文件名的重复性很大，文件名 + 文件尺寸组成的值重复性缩小，如果再加上文件修改时间，则重复性进一步缩小，如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算，但计算量极大（其实也没有必要这么做），过多的耗时会影响上传的体验。
基于上述理由，我的HASH值计算思路如下：

• 首先给浏览器赋予一个ID，这个ID保存在Cookie里；
  
• 浏览器的 ID+ 文件的修改时间 + 文件名 + 文件尺寸 的结果进行MD5来计算一个文件的HASH值；
  
• 浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。
  

1. //简单的Cookie帮助函数
2. function setCookie(cname,cvalue,exdays)
3. {
4. var d = new Date();
5. d.setTime(d.getTime()+(exdays*24*60*60*1000));
6. var expires = "expires="+d.toGMTString();
7. document.cookie = cname + "=" + cvalue + "; " + expires;
8. }
10. function getCookie(cname)
11. {
12. var name = cname + "=";
13. var ca = document.cookie.split(';');
14. for(var i=0; i<ca.length; i++)
15. {
16. var c = ca[i].trim();
17. if (c.indexOf(name)==0) return c.substring(name.length,c.length);
18. }
19. return "";
20. }
21. //
22. //简单的文件HASH值计算，如果您不是十分考究，应该可以用于产品。
23. //由于计算文件HASH值用到了多种数据，因此在HYFileUploader系统范围内发生HASH冲突的可能性应该非常小，应该可以放心使用。
24. //获取文件的ID可以用任何算法来实现，只要保证做到同一文件的ID是相同的即可，获取的ID长度不要超过32字节
25. //
26. function getFileId (file)
27. {
28. //给浏览器授予一个唯一的ID用于区分不同的浏览器实例（不同机器或者相同机器不同厂家的浏览器）
29. var clientid = getCookie("HUAYIUPLOAD");
30. if (clientid == "") {
31. //用一个随机值来做浏览器的ID，将作为文件HASH值的一部分
32. var rand = parseInt(Math.random() * 1000);
33. var t = (new Date()).getTime();
34. clientid =rand+'T'+t;
36. setCookie("HUAYIUPLOAD",clientid,365);
37. }
39. var info = clientid;
40. if (file.lastModified)
41.     info += file.lastModified;
42. if (file.name)
43.     info += file.name;
44. if (file.size)
45.     info += file.size;
46. //https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js
47. var fileid = md5(info);
48. return fileid;
49. }

复制代码

为了验证文件断点续传，笔者做了一个简单的界面，用于显示文件上传的过程中的状态信息，界面如下：

通过HTML可以计算文件上传的进度，文件已经上传的尺寸，文件上传的位率等信息，如果在上传过程中出现任何异常，则重新上传即可，已经上传的部分将不需要重新上传。
Part3验证

为了验证HTML5断点续传，可以通过 github来下载 这个文件上传服务器来进行测试。
https://github.com/wenshui2008/UploadServer
近期热文推荐：
1.1,000+ 道 Java面试题及答案整理(2022最新版)
2.劲爆！Java 协程要来了。。。
3.Spring Boot 2.x 教程，太全了！
4.别再写满屏的爆爆爆炸类了，试试装饰器模式，这才是优雅的方式！！
5.《Java开发手册（嵩山版）》最新发布，速速下载！
觉得不错，别忘了随手点赞+转发哦！

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！