防微杜渐,未雨绸缪,百度网盘(百度云盘)接口API自动化备份上传以及开源发布, ...

打印 上一主题 下一主题

主题 913|帖子 913|积分 2739

奉行长期主义的开发者都有一个共识:对于服务器来说,数据备份非常重要,因为服务器上的数据通常是无价的,如果丢失了这些数据,可能会导致严重的后果,伴随云时代的发展,备份技术也让千行百业看到了其“云基因”的成长与进化,即基于云存储的云备份。
本次我们使用Golang1.18完成百度网盘(百度云盘)接口API自动化备份上传功能,以及演示如何将该模块进行开源发布。
百度网盘API接入授权

如果希望golang服务可以访问并且上传用户的百度网盘,则需要经过用户同意,这个流程被称为“授权”。百度网盘开放平台基于 OAuth2.0 接入授权。OAuth2.0 是一种授权协议,通过该协议用户可以授权开发者应用访问个人网盘信息与文件。
用户同意授权后,开发者应用会获取到一个 Access Token,该 Access Token 是用户同意授权的凭证。开发者应用需要依赖 Access Token 凭证调用百度网盘公开API,实现访问用户网盘信息与授权资源。
基本流程和三方登录差不多,需要跳转百度网盘授权页进行授权动作,随后授权码(code)会发送到回调网址,再用授权码换取Access Token。但不一样的是,百度官网提供一种相对简单的获取code方式,即oob,所谓oob就是直接在线请求后在表单中复制授权码即可,不需要回调网址的参与。
首先根据官网文档:https://pan.baidu.com/union/doc/ol0rsap9s 创建应用,创建好之后,将应用id拼接位oob授权网址:
  1. https://openapi.baidu.com/oauth/2.0/authorize?client_id=你的应用id&response_type=code&redirect_uri=oob&scope=basic+netdisk
复制代码
在线访问复制授权码:

注意授权码一次性有效并且会在10分钟后过期,随后编写代码获取token:
  1. package bdyp  
  2.   
  3. import (  
  4.         "fmt"  
  5.         "net/http"  
  6.         "net/url"  
  7. )  
  8.   
  9. type Bcloud struct {  
  10.         app_key      string  
  11.         app_secret   string  
  12.         accessToken  string  
  13.         refreshToken string  
  14.         logger       Logger  
  15. }  
  16.   
  17. type tokenResp struct {  
  18.         *Token  
  19.         ErrorDescription string `json:"error_description"`  
  20. }  
  21.   
  22. type Token struct {  
  23.         AccessToken  string `json:"access_token"`  
  24.         RefreshToken string `json:"refresh_token"`  
  25.         ExpiresIn    int    `json:"expires_in"`  
  26. }  
  27.   
  28. func (r *Bcloud) GetToken(code, redirectURI, app_key, app_secret string) (*Token, error) {  
  29.         uri := fmt.Sprintf("https://openapi.baidu.com/oauth/2.0/token?"+  
  30.                 "grant_type=authorization_code&"+  
  31.                 "code=%s&"+  
  32.                 "client_id=%s&"+  
  33.                 "client_secret=%s&"+  
  34.                 "redirect_uri=%s",  
  35.                 url.QueryEscape(code),  
  36.                 url.QueryEscape(app_key),  
  37.                 url.QueryEscape(app_secret),  
  38.                 redirectURI)  
  39.         resp := new(tokenResp)  
  40.   
  41.         err := r.requestJSON(http.MethodGet, uri, nil, resp)  
  42.         if err != nil {  
  43.                 return nil, err  
  44.         } else if resp.ErrorDescription != "" {  
  45.                 return nil, fmt.Errorf(resp.ErrorDescription)  
  46.         }  
  47.   
  48.         r.app_key = app_key  
  49.         r.app_secret = app_secret  
  50.         r.accessToken = resp.AccessToken  
  51.         r.refreshToken = resp.RefreshToken  
  52.   
  53.         return resp.Token, nil  
  54. }
复制代码
这里分别创建网盘结构体和秘钥结构体,通过官方接口将oob方式获取的code交换token,分别为accessToken和refreshToken,refreshToken用于刷新 Access Token, 有效期为10年。
这里最好将token写入文件或者存入数据库,本文只讨论授权和上传逻辑,故不加入数据库的相关操作。
至此,百度网盘的授权操作就完成了。
服务器本地文件上传至百度网盘

根据官网文档描述:https://pan.baidu.com/union/doc/3ksg0s9ye,上传流程是指,用户将本地文件上传到百度网盘云端服务器的过程。文件上传分为三个阶段:预上传、分片上传、创建文件。第二个阶段分片上传依赖第一个阶段预上传的结果,第三个阶段创建文件依赖第一个阶段预上传和第二阶段分片上传的结果,串行完成这三个阶段任务后,本地文件成功上传到网盘服务器。
说白了,有点像HTTP连接的三次握手,目的就是为了保证上传数据的完整性,强制串行的原子操作也有利于保证上传任务的可靠性。
首先构建预上传函数:
  1. func (r *Bcloud) FileUploadSessionStart(req *FileUploadSessionStartReq) (*FileUploadSessionStartResp, error) {  
  2.         token, err := r.getAuthToken()  
  3.         if err != nil {  
  4.                 return nil, err  
  5.         }  
  6.   
  7.         req.Method = "precreate"  
  8.         req.AccessToken = token  
  9.   
  10.         req_, err := req.to()  
  11.         if err != nil {  
  12.                 return nil, err  
  13.         }  
  14.   
  15.         resp := new(FileUploadSessionStartResp)  
  16.   
  17.         err = r.requestURLEncode(http.MethodPost, "https://pan.baidu.com/rest/2.0/xpan/file", req_, resp)  
  18.         if err != nil {  
  19.                 return nil, err  
  20.         } else if err := resp.Err(); err != nil {  
  21.                 return nil, err  
  22.         }  
  23.   
  24.         if len(resp.BlockList) == 0 {  
  25.                 resp.BlockList = []int64{0}  
  26.         }  
  27.   
  28.         return resp, nil  
  29. }
复制代码
这里参数为预上传参数的结构体:
  1. type FileUploadSessionStartReq struct {  
  2.         Method      string `query:"method"`  
  3.         AccessToken string `query:"access_token"`  
  4.         Path        string `json:"path"`  
  5.         File        io.Reader  
  6.         RType       *int64 `json:"rtype"`  
  7. }
复制代码
随后是分片上传逻辑:
  1. func (r *Bcloud) FileUploadSessionAppend(req *FileUploadSessionAppendReq) error {  
  2.         token, err := r.getAuthToken()  
  3.         if err != nil {  
  4.                 return err  
  5.         }  
  6.   
  7.         req.Method = "upload"  
  8.         req.AccessToken = token  
  9.         req.Type = "tmpfile"  
  10.   
  11.         resp := new(fileUploadSessionAppendResp)  
  12.   
  13.         err = r.requestForm(http.MethodPost, "https://d.pcs.baidu.com/rest/2.0/pcs/superfile2", req, resp)  
  14.         if err != nil {  
  15.                 return err  
  16.         } else if err := resp.Err(); err != nil {  
  17.                 return err  
  18.         } else if resp.ErrorMsg != "" {  
  19.                 return fmt.Errorf(resp.ErrorMsg)  
  20.         }  
  21.   
  22.         return nil  
  23. }  
  24.   
  25. type FileUploadSessionAppendReq struct {  
  26.         Method      string    `query:"method"` // 本接口固定为precreate  
  27.         AccessToken string    `query:"access_token"`  
  28.         Type        string    `query:"type"`     // 固定值 tmpfile  
  29.         Path        string    `query:"path"`     // 需要与上一个阶段预上传precreate接口中的path保持一致  
  30.         UploadID    string    `query:"uploadid"` // 上一个阶段预上传precreate接口下发的uploadid  
  31.         PartSeq     int64     `query:"partseq"`  // 文件分片的位置序号,从0开始,参考上一个阶段预上传precreate接口返回的block_list  
  32.         File        io.Reader `file:"file"`      // 是                RequestBody参数        上传的文件内容  
  33. }
复制代码
对于总体积大于4mb的文件,通过切片的方式进行上传。
总后是合并文件写入文件逻辑:
  1. func (r *Bcloud) FileUploadSessionFinish(req *FileUploadSessionFinishReq) error {  
  2.         token, err := r.getAuthToken()  
  3.         if err != nil {  
  4.                 return err  
  5.         }  
  6.   
  7.         req.Method = "create"  
  8.         req.AccessToken = token  
  9.   
  10.         req_, err := req.to()  
  11.         if err != nil {  
  12.                 return err  
  13.         }  
  14.   
  15.         resp := new(fileUploadSessionFinishResp)  
  16.   
  17.         err = r.requestURLEncode(http.MethodPost, "https://pan.baidu.com/rest/2.0/xpan/file", req_, resp)  
  18.         if err != nil {  
  19.                 return err  
  20.         } else if err := resp.Err(); err != nil {  
  21.                 return err  
  22.         }  
  23.   
  24.         return nil  
  25. }  
  26.   
  27. type FileUploadSessionFinishReq struct {  
  28.         Method      string    `query:"method"`  
  29.         AccessToken string    `query:"access_token"`  
  30.         Path        string    `json:"path"`  
  31.         File        io.Reader `json:"-"`  
  32.         UploadID    string    `json:"uploadid"`  
  33.         RType       *int64    `json:"rtype"`  
  34. }
复制代码
至此,完成了文件上传的三个阶段:预上传、分片上传、创建文件。
开源发布Publish

我们知道在 Golang的项目中,可以 import 一个托管在远程仓库的模块,这个模块在我们使用 go get 的时候,会下载到本地。既然是放在远程仓库上,意味着所有人都可以发布,并且所以人也都可以使用,所以为了让乡亲们更方便地上传数据到百度网盘,让我们把这个项目开源。
先在你的 Github 上新建一个仓库,记得选 Public(公开项目),随后将项目代码推送到Github上面:
  1. echo "# bdyp_upload_golang" >> README.md  
  2. git init  
  3. git add README.md  
  4. git commit -m "first commit"  
  5. git branch -M main  
  6. git remote add origin https://github.com/zcxey2911/bdyp_upload_golang.git  
  7. git push -u origin main
复制代码
在项目根目录使用go mod init 命令进行初始化,注意这里的模块名,填写我们的git仓库名称,但是不要带着.git:
  1. go mod init github.com/zcxey2911/bdyp_upload_golang
复制代码
再次推送项目模块代码:
  1. git add -A  
  2. git commit -m "Add a go mod file"
  3. git push -u origin main
复制代码
全部完成以后,刷新我们的仓库,就可以看到我们的刚刚上传的项目代码了,点击 release 发布一个版本即可。
最后,通过go get命令安装发布之后的模块:
  1. go get github.com/zcxey2911/bdyp_upload_golang
复制代码
完整的调用流程:
  1. package main  
  2.   
  3. import (  
  4.         "fmt"  
  5.         bdyp "github.com/zcxey2911/bdyp_upload_golang"  
  6.         "os"  
  7. )  
  8.   
  9. func main() {  
  10.   
  11.         var bcloud = bdyp.Bcloud{}  
  12.   
  13.         // 获取token  
  14.         res, err := bcloud.GetToken("oob获取的code", "oob", "应用appkey", "应用appsecret")  
  15.   
  16.         fmt.Println(res)  
  17.   
  18.         if err != nil {  
  19.                 fmt.Println("err", err)  
  20.         } else {  
  21.                 fmt.Printf("接口的token是: %#v\n", res.AccessToken)  
  22.         }  
  23.         // 读取文件  
  24.         f, err := os.Open("/Users/liuyue/Downloads/ju1.webp")  
  25.         if err != nil {  
  26.                 fmt.Println("err", err)  
  27.                 return  
  28.         }  
  29.         defer f.Close()  
  30.   
  31.         // 上传文件  
  32.         print(bcloud.Upload(&bdyp.FileUploadReq{  
  33.                 Name:  "/apps/云盘备份/ju2.webp",  
  34.                 File:  f,  
  35.                 RType: nil,  
  36.         }))  
  37.   
  38. }
复制代码
查看上传的数据:

简单快速,一气呵成。
结语

当然了百度云盘备份也不是没有缺陷,将数据存储在云端可能会存在安全性和隐私性问题,与此同时,数据量很大或者数据分布在不同地点的情况下,恢复数据所需的时间会比较长。不差钱的同学也可以选择磁盘快照服务,最后奉上项目地址,与君共勉:https://github.com/zcxey2911/bdyp_upload_golang

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

西河刘卡车医

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表