docker-compose快速部署elasticsearch-8.x集群+kibana

嚴華  金牌会员 | 2023-8-31 01:01:15 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题
楼主

主题 911|帖子 911|积分 2733

欢迎访问我的GitHub

这里分类和汇总了欣宸的全部原创(含配套源码)：https://github.com/zq2599/blog_demos
本篇概览


  • 前文《Docker下elasticsearch8部署、扩容、基本操作实战(含kibana)》介绍了用docker快速部署es和kibana的过程，然而整个过程人工操作步骤还是多了点，能不能更简单些呢？毕竟很多时候大家关注的是使用，不愿在部署上费太多时间
  • 借助docker-compose，可以将es集群+kibana的安装过程可以进一步简化，精简后的步骤如下图，已经省的不能再省了...

  • 本文会按照上述流程进行实战，一共实战两次：第一次部署带证书账号密码的安全版本，第二次部署没有任何安全检查的版本，装好直接访问使用
  • 请注意docker部署ElasticSearch的适用场景：我这边只在开发过程中使用，此种方式在生产环境是否适合是有待商榷的，用于生产环境时请您慎重考虑
  • 本篇由以下内容构成

  • 介绍我这边实战的环境供您参考
  • Linxu用户需要额外注意的地方
  • 编写配置文件
  • 启动
  • 验证
环境信息


  • 以下是本次实战的环境信息，可以作为参考

  • 操作系统：macOS Monterey（M1 Pro芯片的MacBook Pro，16G内存）
  • Docker：Docker Desktop 4.7.1 (77678)
  • ElasticSearch：8.2.2
  • Kibana：8.2.2
Linux用户请注意


  • 如果您的环境是Linux，注意要做以下操作，否则es可能会启动失败

  • 用编辑工具打开文件/etc/sysctl.conf
  • 在尾部添加一行配置vm.max_map_count = 262144，如果已存在就修改，数值不能低于262144
  • 修改保存，然后执行命令sudo sysctl -p使其立即生效
编写配置文件


  • 再次确认接下来工作的目标：用docker-compose快速部署es集群+kibana，这个集群是带安全检查的（自签证书+账号密码）
  • 找个干净目录，新建名为.env的文件，内容如下，这是给docker-compose用到的配置文件每个配置项都有详细注释说明
  1. # elastic账号的密码 (至少六个字符)
  2. ELASTIC_PASSWORD=123456
  4. # kibana_system账号的密码 (至少六个字符)，该账号仅用于一些kibana的内部设置，不能用来查询es
  5. KIBANA_PASSWORD=abcdef
  7. # es和kibana的版本
  8. STACK_VERSION=8.2.2
  10. # 集群名字
  11. CLUSTER_NAME=docker-cluster
  13. # x-pack安全设置，这里选择basic，基础设置，如果选择了trail，则会在30天后到期
  14. LICENSE=basic
  15. #LICENSE=trial
  17. # es映射到宿主机的的端口
  18. ES_PORT=9200
  20. # kibana映射到宿主机的的端口
  21. KIBANA_PORT=5601
  23. # es容器的内存大小，请根据自己硬件情况调整
  24. MEM_LIMIT=1073741824
  26. # 命名空间，会体现在容器名的前缀上
  27. COMPOSE_PROJECT_NAME=demo
复制代码

  • 然后是docker-compose.yaml文件，这里面会用到刚才创建的.env文件，一共创建了五个容器：启动操作、三个es组成集群，一个kibana（多说一句：官方脚本，放心用）
  1. version: "2.2"
  3. services:
  4.   setup:
  5.     image: elasticsearch:${STACK_VERSION}
  6.     volumes:
  7.       - certs:/usr/share/elasticsearch/config/certs
  8.     user: "0"
  9.     command: >
  10.       bash -c '
  11.         if [ x${ELASTIC_PASSWORD} == x ]; then
  12.           echo "Set the ELASTIC_PASSWORD environment variable in the .env file";
  13.           exit 1;
  14.         elif [ x${KIBANA_PASSWORD} == x ]; then
  15.           echo "Set the KIBANA_PASSWORD environment variable in the .env file";
  16.           exit 1;
  17.         fi;
  18.         if [ ! -f config/certs/ca.zip ]; then
  19.           echo "Creating CA";
  20.           bin/elasticsearch-certutil ca --silent --pem -out config/certs/ca.zip;
  21.           unzip config/certs/ca.zip -d config/certs;
  22.         fi;
  23.         if [ ! -f config/certs/certs.zip ]; then
  24.           echo "Creating certs";
  25.           echo -ne \
  26.           "instances:\n"\
  27.           "  - name: es01\n"\
  28.           "    dns:\n"\
  29.           "      - es01\n"\
  30.           "      - localhost\n"\
  31.           "    ip:\n"\
  32.           "      - 127.0.0.1\n"\
  33.           "  - name: es02\n"\
  34.           "    dns:\n"\
  35.           "      - es02\n"\
  36.           "      - localhost\n"\
  37.           "    ip:\n"\
  38.           "      - 127.0.0.1\n"\
  39.           "  - name: es03\n"\
  40.           "    dns:\n"\
  41.           "      - es03\n"\
  42.           "      - localhost\n"\
  43.           "    ip:\n"\
  44.           "      - 127.0.0.1\n"\
  45.           > config/certs/instances.yml;
  46.           bin/elasticsearch-certutil cert --silent --pem -out config/certs/certs.zip --in config/certs/instances.yml --ca-cert config/certs/ca/ca.crt --ca-key config/certs/ca/ca.key;
  47.           unzip config/certs/certs.zip -d config/certs;
  48.         fi;
  49.         echo "Setting file permissions"
  50.         chown -R root:root config/certs;
  51.         find . -type d -exec chmod 750 \{\} \;;
  52.         find . -type f -exec chmod 640 \{\} \;;
  53.         echo "Waiting for Elasticsearch availability";
  54.         until curl -s --cacert config/certs/ca/ca.crt https://es01:9200 | grep -q "missing authentication credentials"; do sleep 30; done;
  55.         echo "Setting kibana_system password";
  56.         until curl -s -X POST --cacert config/certs/ca/ca.crt -u elastic:${ELASTIC_PASSWORD} -H "Content-Type: application/json" https://es01:9200/_security/user/kibana_system/_password -d "{"password":"${KIBANA_PASSWORD}"}" | grep -q "^{}"; do sleep 10; done;
  57.         echo "All done!";
  58.       '
  59.     healthcheck:
  60.       test: ["CMD-SHELL", "[ -f config/certs/es01/es01.crt ]"]
  61.       interval: 1s
  62.       timeout: 5s
  63.       retries: 120
  65.   es01:
  66.     depends_on:
  67.       setup:
  68.         condition: service_healthy
  69.     image: elasticsearch:${STACK_VERSION}
  70.     volumes:
  71.       - certs:/usr/share/elasticsearch/config/certs
  72.       - esdata01:/usr/share/elasticsearch/data
  73.     ports:
  74.       - ${ES_PORT}:9200
  75.     environment:
  76.       - node.name=es01
  77.       - cluster.name=${CLUSTER_NAME}
  78.       - cluster.initial_master_nodes=es01,es02,es03
  79.       - discovery.seed_hosts=es02,es03
  80.       - ELASTIC_PASSWORD=${ELASTIC_PASSWORD}
  81.       - bootstrap.memory_lock=true
  82.       - xpack.security.enabled=true
  83.       - xpack.security.http.ssl.enabled=true
  84.       - xpack.security.http.ssl.key=certs/es01/es01.key
  85.       - xpack.security.http.ssl.certificate=certs/es01/es01.crt
  86.       - xpack.security.http.ssl.certificate_authorities=certs/ca/ca.crt
  87.       - xpack.security.http.ssl.verification_mode=certificate
  88.       - xpack.security.transport.ssl.enabled=true
  89.       - xpack.security.transport.ssl.key=certs/es01/es01.key
  90.       - xpack.security.transport.ssl.certificate=certs/es01/es01.crt
  91.       - xpack.security.transport.ssl.certificate_authorities=certs/ca/ca.crt
  92.       - xpack.security.transport.ssl.verification_mode=certificate
  93.       - xpack.license.self_generated.type=${LICENSE}
  94.     mem_limit: ${MEM_LIMIT}
  95.     ulimits:
  96.       memlock:
  97.         soft: -1
  98.         hard: -1
  99.     healthcheck:
  100.       test:
  101.         [
  102.           "CMD-SHELL",
  103.           "curl -s --cacert config/certs/ca/ca.crt https://localhost:9200 | grep -q 'missing authentication credentials'",
  104.         ]
  105.       interval: 10s
  106.       timeout: 10s
  107.       retries: 120
  109.   es02:
  110.     depends_on:
  111.       - es01
  112.     image: elasticsearch:${STACK_VERSION}
  113.     volumes:
  114.       - certs:/usr/share/elasticsearch/config/certs
  115.       - esdata02:/usr/share/elasticsearch/data
  116.     environment:
  117.       - node.name=es02
  118.       - cluster.name=${CLUSTER_NAME}
  119.       - cluster.initial_master_nodes=es01,es02,es03
  120.       - discovery.seed_hosts=es01,es03
  121.       - bootstrap.memory_lock=true
  122.       - xpack.security.enabled=true
  123.       - xpack.security.http.ssl.enabled=true
  124.       - xpack.security.http.ssl.key=certs/es02/es02.key
  125.       - xpack.security.http.ssl.certificate=certs/es02/es02.crt
  126.       - xpack.security.http.ssl.certificate_authorities=certs/ca/ca.crt
  127.       - xpack.security.http.ssl.verification_mode=certificate
  128.       - xpack.security.transport.ssl.enabled=true
  129.       - xpack.security.transport.ssl.key=certs/es02/es02.key
  130.       - xpack.security.transport.ssl.certificate=certs/es02/es02.crt
  131.       - xpack.security.transport.ssl.certificate_authorities=certs/ca/ca.crt
  132.       - xpack.security.transport.ssl.verification_mode=certificate
  133.       - xpack.license.self_generated.type=${LICENSE}
  134.     mem_limit: ${MEM_LIMIT}
  135.     ulimits:
  136.       memlock:
  137.         soft: -1
  138.         hard: -1
  139.     healthcheck:
  140.       test:
  141.         [
  142.           "CMD-SHELL",
  143.           "curl -s --cacert config/certs/ca/ca.crt https://localhost:9200 | grep -q 'missing authentication credentials'",
  144.         ]
  145.       interval: 10s
  146.       timeout: 10s
  147.       retries: 120
  149.   es03:
  150.     depends_on:
  151.       - es02
  152.     image: elasticsearch:${STACK_VERSION}
  153.     volumes:
  154.       - certs:/usr/share/elasticsearch/config/certs
  155.       - esdata03:/usr/share/elasticsearch/data
  156.     environment:
  157.       - node.name=es03
  158.       - cluster.name=${CLUSTER_NAME}
  159.       - cluster.initial_master_nodes=es01,es02,es03
  160.       - discovery.seed_hosts=es01,es02
  161.       - bootstrap.memory_lock=true
  162.       - xpack.security.enabled=true
  163.       - xpack.security.http.ssl.enabled=true
  164.       - xpack.security.http.ssl.key=certs/es03/es03.key
  165.       - xpack.security.http.ssl.certificate=certs/es03/es03.crt
  166.       - xpack.security.http.ssl.certificate_authorities=certs/ca/ca.crt
  167.       - xpack.security.http.ssl.verification_mode=certificate
  168.       - xpack.security.transport.ssl.enabled=true
  169.       - xpack.security.transport.ssl.key=certs/es03/es03.key
  170.       - xpack.security.transport.ssl.certificate=certs/es03/es03.crt
  171.       - xpack.security.transport.ssl.certificate_authorities=certs/ca/ca.crt
  172.       - xpack.security.transport.ssl.verification_mode=certificate
  173.       - xpack.license.self_generated.type=${LICENSE}
  174.     mem_limit: ${MEM_LIMIT}
  175.     ulimits:
  176.       memlock:
  177.         soft: -1
  178.         hard: -1
  179.     healthcheck:
  180.       test:
  181.         [
  182.           "CMD-SHELL",
  183.           "curl -s --cacert config/certs/ca/ca.crt https://localhost:9200 | grep -q 'missing authentication credentials'",
  184.         ]
  185.       interval: 10s
  186.       timeout: 10s
  187.       retries: 120
  189.   kibana:
  190.     depends_on:
  191.       es01:
  192.         condition: service_healthy
  193.       es02:
  194.         condition: service_healthy
  195.       es03:
  196.         condition: service_healthy
  197.     image: kibana:${STACK_VERSION}
  198.     volumes:
  199.       - certs:/usr/share/kibana/config/certs
  200.       - kibanadata:/usr/share/kibana/data
  201.     ports:
  202.       - ${KIBANA_PORT}:5601
  203.     environment:
  204.       - SERVERNAME=kibana
  205.       - ELASTICSEARCH_HOSTS=https://es01:9200
  206.       - ELASTICSEARCH_USERNAME=kibana_system
  207.       - ELASTICSEARCH_PASSWORD=${KIBANA_PASSWORD}
  208.       - ELASTICSEARCH_SSL_CERTIFICATEAUTHORITIES=config/certs/ca/ca.crt
  209.     mem_limit: ${MEM_LIMIT}
  210.     healthcheck:
  211.       test:
  212.         [
  213.           "CMD-SHELL",
  214.           "curl -s -I http://localhost:5601 | grep -q 'HTTP/1.1 302 Found'",
  215.         ]
  216.       interval: 10s
  217.       timeout: 10s
  218.       retries: 120
  220. volumes:
  221.   certs:
  222.     driver: local
  223.   esdata01:
  224.     driver: local
  225.   esdata02:
  226.     driver: local
  227.   esdata03:
  228.     driver: local
  229.   kibanadata:
  230.     driver: local
复制代码

  • 注意：.env和docker-compose.yaml两个文件在同一目录下
启动应用


  • 在docker-compose.yaml文件所在目录，执行命令docker-compose up -d启动所有容器
  1. ❯ docker-compose up -d
  2. Creating network "demo_default" with the default driver
  3. Pulling setup (elasticsearch:8.2.2)...
  4. 8.2.2: Pulling from library/elasticsearch
  5. Digest: sha256:8c666cb1e76650306655b67644a01663f9c7a5422b2c51dd570524267f11ce3d
  6. Status: Downloaded newer image for elasticsearch:8.2.2
  7. Pulling kibana (kibana:8.2.2)...
  8. 8.2.2: Pulling from library/kibana
  9. Digest: sha256:cf34801f36a2e79c834b3cdeb0a3463ff34b8d8588c3ccdd47212c4e0753f8a5
  10. Status: Downloaded newer image for kibana:8.2.2
  11. Creating demo_setup_1 ... done
  12. Creating demo_es01_1  ... done
  13. Creating demo_es02_1  ... done
  14. Creating demo_es03_1  ... done
  15. Creating demo_kibana_1 ... done
复制代码

  • 查看容器状态，负责启动的demo_setup_1已退出，其他的正常运行
  1. ❯ docker ps -a
  2. CONTAINER ID   IMAGE                 COMMAND                  CREATED          STATUS                      PORTS                              NAMES
  3. c8ce010cddfc   kibana:8.2.2          "/bin/tini -- /usr/l…"   20 minutes ago   Up 20 minutes (healthy)     0.0.0.0:5601->5601/tcp             demo_kibana_1
  4. 78662d44ae31   elasticsearch:8.2.2   "/bin/tini -- /usr/l…"   21 minutes ago   Up 21 minutes (healthy)     9200/tcp, 9300/tcp                 demo_es03_1
  5. 7e96273872cb   elasticsearch:8.2.2   "/bin/tini -- /usr/l…"   21 minutes ago   Up 21 minutes (healthy)     9200/tcp, 9300/tcp                 demo_es02_1
  6. 8b8be1d645ba   elasticsearch:8.2.2   "/bin/tini -- /usr/l…"   21 minutes ago   Up 21 minutes (healthy)     0.0.0.0:9200->9200/tcp, 9300/tcp   demo_es01_1
  7. c48ffb724ca2   elasticsearch:8.2.2   "/bin/tini -- /usr/l…"   21 minutes ago   Exited (0) 20 minutes ago                                      demo_setup_1
复制代码

  • 看看demo_setup_1的日志，提示启动顺利
  1. ❯ docker logs demo_setup_1
  2. Setting file permissions
  3. Waiting for Elasticsearch availability
  4. Setting kibana_system password
  5. All done!
复制代码

  • 如果要使用curl命令向ES发请求，需要提前将crt文件从容器中复制出来
  1. docker cp demo_es01_1:/usr/share/elasticsearch/config/certs/es01/es01.crt .
复制代码
验证


  • 现在来验证es集群和kibana能不能正常工作
  • 浏览器访问https://localhost:9200/，注意是https，会看到以下警告页面

  • 此时直接键入thisisunsafe再回车，会提示输入账号密码，根据之前的配置账号elastic，密码123456


  • 浏览器显示如下，证明es成功响应了

  • 如果chrome上安装了eshead插件，此时就能查看es集群情况了(注意内部的地址栏中，要用https，而非http)，如下图，一共三个节点，es02前面有五角星标志，表示其主节点的身份

  • 目前看来es集群部署和运行都已经正常，再看kibana是否可用
  • 访问http://localhost:5601/，账号elastic，密码123456

  • 点击下图红框位置，进入输入命令的页面

  • 如下图，左侧输入创建索引的命令，再点击红框中的按钮，右侧会显示执行结果

  • 批量写入两条记录

  • 最后是查询操作

清理


  • 如果要删除es，执行docker-compose down就会删除容器，但是，此命令不会删除数据，下次执行docker-compose up -d后，新的es集群中会出现刚才创建的test001索引，并且数据也在
  • 这是因为docker-compose.yaml中使用了数据卷volume存储es集群的关键数据，这些输入被保存在宿主机的磁盘上
  1. ❯ docker volume ls
  2. DRIVER    VOLUME NAME
  3. local     demo_certs
  4. local     demo_esdata01
  5. local     demo_esdata02
  6. local     demo_esdata03
  7. local     demo_kibanadata
复制代码

  • 执行docker volume rm demo_certs demo_esdata01 demo_esdata02 demo_esdata03即可将它们彻底清除
  • 以上就是快速部署es集群+kibana的整个过程了，是不是很简单呢？
不带密码的集群


  • 有时候咱们部署es不需要安全认证，例如开发环境，或者有防火墙禁止外部访问的环境，那么刚才的部署就不够用了，咱们需要一个更简单的、部署完了立刻能用的集群，接下来动手试试吧
  • 找个干净目录，新建名为.env的文件，内容如下，和安全版相比去掉了一些不需要的内容
  1. # kibana_system账号的密码 (至少六个字符)，该账号仅用于一些kibana的内部设置，不能用来查询es
  2. KIBANA_PASSWORD=abcdef
  4. # es和kibana的版本
  5. STACK_VERSION=8.2.2
  7. # 集群名字
  8. CLUSTER_NAME=docker-cluster
  10. # es映射到宿主机的的端口
  11. ES_PORT=9200
  13. # kibana映射到宿主机的的端口
  14. KIBANA_PORT=5601
  16. # es容器的内存大小，请根据自己硬件情况调整
  17. MEM_LIMIT=1073741824
  19. # 命名空间，会体现在容器名的前缀上
  20. COMPOSE_PROJECT_NAME=demo
复制代码

  • 然后是docker-compose.yaml文件，这里面会用到刚才创建的.env文件，和安全版相比去掉了启动容器，和安全相关的配置和脚本也删除了
  1. version: "2.2"
  3. services:
  4.   es01:
  5.     image: elasticsearch:${STACK_VERSION}
  6.     volumes:
  7.       - esdata01:/usr/share/elasticsearch/data
  8.     ports:
  9.       - ${ES_PORT}:9200
  10.     environment:
  11.       - node.name=es01
  12.       - cluster.name=${CLUSTER_NAME}
  13.       - cluster.initial_master_nodes=es01,es02,es03
  14.       - discovery.seed_hosts=es02,es03
  15.       - bootstrap.memory_lock=true
  16.       - xpack.security.enabled=false
  17.       - xpack.security.http.ssl.enabled=false
  18.       - xpack.security.transport.ssl.enabled=false
  19.     mem_limit: ${MEM_LIMIT}
  20.     ulimits:
  21.       memlock:
  22.         soft: -1
  23.         hard: -1
  25.   es02:
  26.     depends_on:
  27.       - es01
  28.     image: elasticsearch:${STACK_VERSION}
  29.     volumes:
  30.       - esdata02:/usr/share/elasticsearch/data
  31.     environment:
  32.       - node.name=es02
  33.       - cluster.name=${CLUSTER_NAME}
  34.       - cluster.initial_master_nodes=es01,es02,es03
  35.       - discovery.seed_hosts=es01,es03
  36.       - bootstrap.memory_lock=true
  37.       - xpack.security.enabled=false
  38.       - xpack.security.http.ssl.enabled=false
  39.       - xpack.security.transport.ssl.enabled=false
  40.     mem_limit: ${MEM_LIMIT}
  41.     ulimits:
  42.       memlock:
  43.         soft: -1
  44.         hard: -1
  46.   es03:
  47.     depends_on:
  48.       - es02
  49.     image: elasticsearch:${STACK_VERSION}
  50.     volumes:
  51.       - esdata03:/usr/share/elasticsearch/data
  52.     environment:
  53.       - node.name=es03
  54.       - cluster.name=${CLUSTER_NAME}
  55.       - cluster.initial_master_nodes=es01,es02,es03
  56.       - discovery.seed_hosts=es01,es02
  57.       - bootstrap.memory_lock=true
  58.       - xpack.security.enabled=false
  59.       - xpack.security.http.ssl.enabled=false
  60.       - xpack.security.transport.ssl.enabled=false
  61.     mem_limit: ${MEM_LIMIT}
  62.     ulimits:
  63.       memlock:
  64.         soft: -1
  65.         hard: -1
  66.   kibana:
  67.     image: kibana:${STACK_VERSION}
  68.     volumes:
  69.       - kibanadata:/usr/share/kibana/data
  70.     ports:
  71.       - ${KIBANA_PORT}:5601
  72.     environment:
  73.       - SERVERNAME=kibana
  74.       - ELASTICSEARCH_HOSTS=http://es01:9200
  75.       - ELASTICSEARCH_USERNAME=kibana_system
  76.       - ELASTICSEARCH_PASSWORD=${KIBANA_PASSWORD}
  77.     mem_limit: ${MEM_LIMIT}
  79. volumes:
  80.   esdata01:
  81.     driver: local
  82.   esdata02:
  83.     driver: local
  84.   esdata03:
  85.     driver: local
  86.   kibanadata:
  87.     driver: local
复制代码

  • 注意：.env和docker-compose.yaml两个文件在同一目录下
启动和验证


  • 启动前，请先停止和清理掉刚才部署的安全版
  • 在docker-compose.yaml文件所在目录，执行命令docker-compose up -d启动所有容器，稍等片刻，可见所有容器已经就绪
  1. ❯ docker ps -a
  2. CONTAINER ID   IMAGE                 COMMAND                  CREATED         STATUS         PORTS                              NAMES
  3. 11663375288d   elasticsearch:8.2.2   "/bin/tini -- /usr/l…"   4 minutes ago   Up 4 minutes   9200/tcp, 9300/tcp                 demo_es03_1
  4. ad6f0390b9cf   elasticsearch:8.2.2   "/bin/tini -- /usr/l…"   4 minutes ago   Up 4 minutes   9200/tcp, 9300/tcp                 demo_es02_1
  5. 5080709e5358   kibana:8.2.2          "/bin/tini -- /usr/l…"   4 minutes ago   Up 4 minutes   0.0.0.0:5601->5601/tcp             demo_kibana_1
  6. 4b1e576fbfd3   elasticsearch:8.2.2   "/bin/tini -- /usr/l…"   4 minutes ago   Up 4 minutes   0.0.0.0:9200->9200/tcp, 9300/tcp   demo_es01_1
复制代码

  • 浏览器访问http://localhost:9200/ ，注意是http，收到es响应

  • chrome的eshead插件也能正常获取es集群信息

  • 访问kibana，地址是http://localhost:5601/ ，注意是http，能够正常使用，下图是成功创建索引的操作

  • 至此，基于docker-compose部署es集群+kibana的部署已经完成，借助娴熟的复制粘贴操作，快速部署一个es集群简直易如反掌，如果您正要快速部署一套es集群，希望本文能给您一些参考
欢迎关注博客园：程序员欣宸

学习路上，你不孤单，欣宸原创一路相伴...

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

本帖子中包含更多资源

您需要 登录 才可以下载或查看，没有账号？立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览
返回列表

快速回复

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

嚴華

金牌会员
这个人很懒什么都没写!

楼主热帖

标签云

挺好的 服务器
微信订阅号
微信服务号
微信客服
小程序
H5
关于我们 商务合作 网站地图
©Copyright 2022-2024 杭州祥升科技有限公司 版权所有 浙ICP备20004199号
快速回复 返回顶部 返回列表