MinIO分布式文件存储

商道如狼道  论坛元老 | 2024-12-13 12:48:03 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题
楼主

主题 1032|帖子 1032|积分 3096

一、分布式文件体系

问题引出



  • 对于一个网站体系，若为降低资本投入，将文件存储服务和网站体系摆设在同一台服务器中，访问量不大，基本不会有问题，但访问量渐渐升高，网站文件资源读取渐渐频繁，单机服务器可能难以承载较大的请求量，可能会出现网站打不开，乃至体系异常等问题。
  • 解决方案：采用云存储服务，将访问很频繁的文件资源服务，由本地改成云厂商提供的文件存储服务，比如阿里云 OSS、腾讯云、等等，迁移之后，网站的访问压力会得到极大的释放，服务也会变得更加稳定。
  • 采用免费开源的 fastDFS 工具来作为文件存储服务器，虽然性能不错，但软件安装环境非常复杂，且没有完整的技能文档，大部分都是公司大概网友自己总结的文档，维护起来非常困难。
  • 问题：云存储服务大部分都是收费的，日积月累也是一笔巨款。
分布式文件体系

定义：分布式文件体系（Distributed File System，DFS）是一种允许文件通过网络在多台主机上共享的文件体系，它通过盘算机网络将多少盘算机构造起来共同存储海量文件，并接收海量用户的请求‌。‌
   优点：‌
  

  • 高性能‌：文件的数据分片允许体系并行读写数据，进步数据访问性能。多个节点同时处理不同的数据块，加速数据的传输和处理速度。
  • 可扩展性‌：分布式存储在多个节点上分布存储文件块，当必要增长存储容量时，可以简单地添加更多的节点，实现体系的无缝扩展。
  • 容错性‌：数据的冗余备份包管了体系的容错性。纵然某个节点发生故障，文件的数据仍然可以从其他节点中恢复，确保数据的可用性和完整性。
  二、MinIO简介

1、官方定义

MinIO 是一种高性能、S3 （Simple Storage Service）（亚马逊，类似与国内的oss）兼容的对象存储。它专为大规模 AI/ML、数据湖和数据库工作负载而构建，并且它是由软件定义的存储。不必要购买任何专有硬件，就可以在云上和普通硬件上拥有分布式对象存储。MinIO拥有开源 GNU AGPL v3 (开源许可证)和商业企业许可证的双重许可。
2、MinIO特点


  • 简单
    简单性是百万兆次级数据基础办法的基础 - 无论是在技能上还是在操作上。MinIO使用和摆设非常简单，没有其他对象存储可以让您在最快的时间内实现下载到生产环境的摆设。
  • 高性能
    MinIO 是世界上最快的对象存储，没有之一。在 32 个 NVMe 驱动器节点和 100Gbe 网络上发布的 GET/PUT 效果高出 325 GiB/秒和 165 GiB/秒。
  • Kubernetes云原生
    通过原生 Kubernetes 运营商集成，MinIO 支持公共云、私有云和边沿云上所有主要的 Kubernetes 发行版。
三、SpringBoot集成MinIO

1、Linux环境摆设MinIO


  • 下载可实行文件：wget https://dl.minio.io/server/minio/release/linux-amd64/minio
    或wget https://dl.minio.org.cn/server/minio/release/linux-amd64/minio
  • 赋予可实行权限：chmod +x minio
  • 启动MinIO服务：
启动方式1：
MINIO_ROOT_USER=admin MINIO_ROOT_PASSWORD=password ./minio server /mnt/data --console-address ":9001"
   MINIO_ROOT_USER 指定minio用户名
MINIO_ROOT_PASSWORD 指定minio暗码
/mnt/data 数据上传的数据目录
–console-address “:9001” minio控制台监听的地址和端口，ip可以省略
  启动方式2：
./minio server /mnt/data --console-address “:9001”
   默认的暗码是：minioadmin、minioadmin
  启动方式3：（后台启动）
./minio server /mnt/data --console-address “:9001” &
可能出现的问题
   问题①WARN: Detected Linux kernel version older than 4.0 release, there are some known potential performance problems with this kernel version. MinIO recommends a minimum of 4.x linux kernel version for best performance
警告：检测到的Linux内核版本早于4.0版本，此内核版本存在一些已知的潜在性能问题。MinIO建议至少使用4.x linux内核版本以获得最佳性能。
问题②打不开minio管理页面的缘故原由：未对端口开放防火墙
解决办法：关闭防火墙大概开放端口
放行端口：firewall-cmd --zone=public --add-port=9001/tcp --permanent
查看端口开放环境：firewall-cmd --list-ports
重新加载防火墙：firewall-cmd --reload（放行后要重新加载防火墙）
  关闭NinIO服务

  • 前台启动：ctrl+c关闭
  • 后台启动：查看正在运行的minio进程信息：ps -ef | grep minio
    kill 进程
2、docker环境摆设MinIO


  • 拉取Minio镜像：docker pull minio/minio
  • 启动minio服务：
    docker run -p 9000:9000 --name minio \ -p 9001:9001 \ -e "MINIO_ACCESS_KEY=minio" \ -e "MINIO_SECRET_KEY=minio123" \ -v /opt/minio/data:/data \ -v /opt/minio/config:/root/.minio \ minio/minio server /data \ --console-address ":9001"
3、SpringBoot集成MinIO

1. 导入minio依靠：
  1.     <dependency>
  2.         <groupId>io.minio</groupId>
  3.         <artifactId>minio</artifactId>
  4.         <version>8.5.14</version>
  5.     </dependency>
复制代码
maven堆栈地址：https://mvnrepository.com/
2. 设置Minio客户端信息
MinioConfig类
  1. @Configuration
  2. public class MinioConfig {
  3.     @Bean
  4.     public MinioClient minioClient() {
  5.         return MinioClient.builder()
  6.                 .endpoint("http://ip:9000")
  7.                 .credentials("minio", "minio123")
  8.                 .build();
  9.     }
  10. }
复制代码
3. 对bucket(文件夹)的操作
1、判断一个bucket是不是存在，返回true或false
minioClient.bucketExists(BucketExistsArgs.builder().bucket("bucket发的名字").build());
2、创建一个bucket，创建失败会抛出异常
minioClient.makeBucket(MakeBucketArgs.builder().bucket("文件夹的名称").build());
3、查看所有的bucket
List<Bucket> buckets = minioClient.listBuckets(); buckets.forEach(bucket -> { System.out.println(bucket.name() + "-----" + bucket.creationDate()); });
4、删除bucket，删除失败会抛异常
minioClient.removeBucket(RemoveBucketArgs.builder().bucket("bucket名字").build());
注意事项：
   minIO时间与主机时间不一致导致bug :
The difference between the request time and the current time is too large
date 查看当前的时间
客户端和服务端时间同步：
安装 utpdate yum install ntpdate -y
通过命令举行同步 nptdate pool.ntp.org
或通过修改时区让时间同步
实行两条命令：
cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
hwclock
  

  • 对object（文件）常见的操作
  1. 1、上传一个文件
  2. minioClient.putObject(PutObjectArgs.builder().
  3.         bucket("bucket的名字").
  4.         object(filename).         //这里的file为MultipartFile类型的文件
  5.         //文件流，文件的大小，缓冲区填-1
  6.         stream(file.getInputStream(), file.getSize(), -1).
  7.         build();//上传文件           
  8. //第二种方法上传文件              
  9. minioClient.uploadObject(UploadObjectArgs.builder().                             bucket("bucket桶的名称").object("文件名称").filename("文件url").build())
  10. 2、检查文件的状态，判断文件是不是存在指定的bucket中，不存在就报错
  11. minioClient.statObject(StatObjectArgs.builder()
  12.                 .bucket("test")
  13.                 .object("testFile2.jpg")
  14.                 .build());
  15. 3、生成可以访问的路径，带后缀的签名串
  16. 如果bucket是私有的，要是想访问就要加上后缀签名，不然不能访问
  17. String presignedObjectUrl = minioClient.getPresignedObjectUrl(GetPresignedObjectUrlArgs.builder()
  18.    .bucket("")
  19.    .object("")
  20.    .expiry(10, TimeUnit.SECONDS)//设置10秒内有效
  21.   //.method必须带上，不然报错                                         
  22.    .method(Method.GET)
  23.    .build());
  24. 4、下载指定bucket中的文件，GetObjectResponse 就是一个输入流
  25. GetObjectResponse object = minioClient.getObject(GetObjectArgs.builder()
  26.                 .bucket("test")
  27.                 .object("testFile2.jpg")
  28.                 .build());
  29. 5、删除指定bucket中的文件
  30. minioClient.removeObject(RemoveObjectArgs.builder()
  31.                 .bucket("test")
  32.                 .object("testFile2.jpg")
  33.                 .build());//删除指定bucket中的object
复制代码
四、MinIO集群摆设

Minio集群搭建步骤：
   1、准备4台机器（至少4台机器，根据minio的架构筹划，只要有N/2个节点在正常，可以读数据，(N/2)+1个节点正常可以写数据。这里用4台虚拟机。使用xshell连上4台虚拟机。
  


   2、每台机器添加一块磁盘（minio不能使用linux的root磁盘）
  

   3、将添加的磁盘举行格式化为xfs格式：mkfs.xfs /dev/sdb
使用lsblk命令查看磁盘环境，可以看到4台机器都有/dev/sdb磁盘，实行格式化命令mkfs.xfs /dev/sdb
  

   4、挂载磁盘（mount将sdb磁盘挂载到minio的存储目录）
mkdir -p /opt/minio/data 创建文件夹
mount /dev/sdb /opt/minio/data 挂载磁盘
lsblk 查看是不是乐成
  

如果不挂载背面会报错：
Error: Drive http://192.168.80.145:9000/opt/minio/data/data2 returned an unexpected error: major: 8: minor: 3: drive is part of root drive, will not be used, please investigate - drive will be offline (*fmt.wrapError)
   5、每台机器安装好minio（安装在/usr/local/minio目录下）
  参考上面linux的安装命令
   6、编写shell脚本(确保/opt/minio/data/data1和data2存在)
  

  1. #!/bin/bash
  2. export MINIO_ROOT_USER=minioadmin
  3. export MINIO_ROOT_PASSWORD=minioadmin
  4. /usr/local/minio/minio server  --config-dir /etc/minio --address ":9000" --console-address ":9001" \
  5. http://192.168.80.145/opt/minio/data/data1 \
  6. http://192.168.80.145/opt/minio/data/data2 \
  7. http://192.168.80.132/opt/minio/data/data1 \
  8. http://192.168.80.132/opt/minio/data/data2 \
  9. http://192.168.80.134/opt/minio/data/data1 \
  10. http://192.168.80.134/opt/minio/data/data2 \
  11. http://192.168.80.147/opt/minio/data/data1 \
  12. http://192.168.80.147/opt/minio/data/data2
复制代码
脚本内容复制到start.sh中，并赋予start.sh可实行权限，chmod +x start.sh

注意事项：
   1、防火墙要开放9001端口（大概关闭防火墙）
systemctl status firewalld 查看防火墙的状态
systemctl stop firewalld 关闭防火墙
start.sh文件脚本的内容不能出现错误
    7、运行脚本
在/opt/minio目录下实行 ./start.sh命令启动脚本
  

启动乐成，可以访问这四个控制台。

整体的架构就是这样的:


免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看，没有账号？立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览
返回列表

快速回复

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

商道如狼道

论坛元老
这个人很懒什么都没写!

楼主热帖

标签云

AI 运维 CIO 存储 服务器
微信订阅号
微信服务号
微信客服
小程序
H5
关于我们 商务合作 网站地图
©Copyright 2022-2024 杭州祥升科技有限公司 版权所有 浙ICP备20004199号
快速回复 返回顶部 返回列表