【hive-4.0.0 保姆级安装摆设】

打印 上一主题 下一主题

主题 842|帖子 842|积分 2526

hive配置

   前置条件
  

  • hadoop-3.3.6 => 关于hadoop 的安装可查看主页文章
  • mysql-8.37 => 关于 mysql 的安装可查看主页文章
  • hive-4.0.0
   开始安装hive
  1、 设置系统情况变量

   vim /etc/profile.d/bigdata_env.sh bigdata_env.sh => 为新建的存放个人设置的情况变量的文件
  1. export HIVE_HOME=/opt/module/hive
  2. export PATH=$HIVE_HOME/bin:$PATH
复制代码
2、必要在mysql中创建metastore数据库作为hive的元数据库

  1. # 创建hive需要的元数据库
  2. create database metastore;
  3. # 创建一个mysql数据库用户hive,设置密码为123456
  4. create user 'hive'@'%' identified by '123456';
  5. # 授予metastore数据库的所有权限给hive用户
  6. grant all privileges on metastore.* to 'hive'@'%';
复制代码
3. 上传jdbc驱动jar包 到 hive的lib目次下 => 查看hive/lib目次底下有无mysql的jdbc的jar包

  1. mv mysql-connect-j-8.3.0.jar /opt/module/hive/lib
复制代码
4. 必要在hive的conf目次底下修改 hive-site.xml (没有此文件,则新建一个)

  1. <configuration>
  2.     <!--指定hive在hdfs中存放数据的路径-->
  3.     <property>
  4.         <name>hive.metastore.warehouse.dir</name>
  5.         <value>/hive</value>
  6.     </property>
  7.     <!--指定jdbc要连接的数据库的url地址-->
  8.     <property>
  9.         <name>javax.jdo.option.ConnectionURL</name>
  10.         <value>jdbc:mysql://master:3306/metastore</value>  
  11.     </property>
  12.     <!--指定jdbc驱动的Driver类名-->
  13.     <property>
  14.         <name>javax.jdo.option.ConnectionDriverName</name>
  15.         <value>com.mysql.cj.jdbc.Driver</value>
  16.     </property>
  17.     <!--指定要连接的元数据库的用户名-->
  18.     <property>
  19.         <name>javax.jdo.option.ConnectionUserName</name>
  20.         <value>hive</value>
  21.     </property>
  22.     <!--指定要连接的元数据库的用户名的密码-->
  23.     <property>
  24.         <name>javax.jdo.option.ConnectionPassword</name>
  25.         <value>123456</value>
  26.     </property>
  27.     <!-- 指定存储元数据要连接的地址 -->
  28.     <property>
  29.         <name>hive.metastore.uris</name>
  30.         <value>thrift://master:9083</value>
  31.     </property>
  32.     <!-- 指定hiveserver2连接的host -->
  33.     <property>
  34.         <name>hive.server2.thrift.bind.host</name>
  35.         <value>master</value>
  36.     </property>
  37.     <!-- 指定hiveserver2连接的端口号 -->
  38.     <property>
  39.         <name>hive.server2.thrift.port</name>
  40.         <value>10000</value>
  41.     </property>
  42.     <!-- hiveserver2的高可用参数,如果不开会导致了开启tez session导致hiveserver2无法启动 -->
  43.     <property>
  44.         <name>hive.server2.active.passive.ha.enable</name>
  45.         <value>true</value>
  46.     </property>
  47.     <!--解决Error initializing notification event poll问题-->
  48.     <property>
  49.         <name>hive.metastore.event.db.notification.api.auth</name>
  50.         <value>false</value>
  51.     </property>
  52. </configuration>
复制代码
  附:初始化元数据库前,要更换hive的lib目次底下的guava这个jar包,将hadoop这个目次share/hadoop/common/lib底下的guava包复制一个到hive的lib底下,否则会报这个没有相干方法的错误,缘故原由是因为hive自带的guava包版本太低了,没有相干的方法

  5. 初始化元数据库

  1. schematool  -initSchema -dbType mysql -verbose
复制代码
  出现这个既初始化成功

  6. 启动hive => 启动 hive 前必要先启动 hadoop 服务,hive 依靠 hadoop 服务



  • 启动hadoop start-all.sh
  • hive --service metastore&
  • hive --service hiveserver2&
7. 测试beeline启动成功



  • 命令行输入 hive
  • 进入Beeline 后输入
  1. # hive2是hiveserver2
  2. # master:10000 是hive-site.xml文件中指定的server2要连接的主机和端口号
  3. # hive是要进入数据库的用户名
  4. # 123456是该用户名对应的密码
  5. !connect jdbc:hive2://master:10000 hive 123456
复制代码


  • 大概直接在master节点输入以下命令
  1. beeline -u jdbc:hive2://master:10000 --verbose=true
复制代码
附:
  1. 此hive是基于mysql安装的,是以mysql作为元数据库
  2. 如果在安装hive的过程中出现类似找不到hive-schema-4.0.0.mysql.sql的错误,
  3. 在你安装的hive根目录底下的这个路径里面/scripts/metastore/upgrade
  4. 找一下有没有mysql的目录,
  5. 如果没有自己创建一个,再把hive-schema-4.0.0.mysql.sql这个jar包上传到mysql目录里面去
  6. 有的话,就找一下有没有hive-schema-4.0.0.mysql.sql这个jar包,没有的话就上传上去。
  7. 或者里面有其他版本的这个jar包,也可以指定一下版本......
  8. hive-schema-4.0.0.mysql.sql此jar包可以去github里面下载,
  9. 在github的hive里面的standalone-metastore/metastore-server/src/main/sql/mysql里面可以找到上面那个jar包
复制代码
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

滴水恩情

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表