ToB企服应用市场:ToB评测及商务社交产业平台

标题: 带你快速上手HetuEngine [打印本页]

作者: 南七星之家 时间: 2023-8-30 00:19
标题: 带你快速上手HetuEngine
本文分享自华为云社区《【手把手带你玩转HetuEngine】（一）HetuEngine快速上手》，作者：HetuEngine九级代言。
HetuEngine是什么

HetuEngine是华为推出的高性能交互式SQL分析及数据虚拟化引擎。与大数据生态无缝融合，实现海量数据秒级交互式查询；支持跨源跨域统一访问，使能数据湖内、湖间、湖仓一站式SQL融合分析。
HetuEngine适合做什么

适用于Hadoop集群（FusionInsight MRS）的Hive、Hudi数据源的交互式快速查询场景;
适用于跨源（多种数据源，如Hive，Hudi，HBase，GaussDB(DWS)，Elasticsearch，ClickHouse等）查询；
适用于跨域（多个地域或数据中心）的快速联合查询；
不擅长大批量、复杂逻辑的跑批处理、创建事务、数据入库操作等。

HetuEngine特点

特点	说明
统一SQL	支持标准的SQL，用户可以使用标准的SQL进行数据查询和分析计算
多数据源	支持对接多种数据源，如Hive、Hudi、Hbase、Clickhouse、Elasticsearch、Gaussdb、iotdb等多种数据源
高性能	完全的内存计算，自动实现计算下推，动态过滤等，实现PB级数据毫秒级响应
跨源跨域	支持多种数据源的跨源跨域联合分析查询，一条SQL实现多源协同、湖仓协同
高并发高可用	算力、并发可横向扩展，弹性伸缩，自动路由，自动实时调配超大SQL的计算规模
智能加速	基于收益最大化原则，实现对热查询的自动识别、预计算与在线分析加速，IO降低90%
智能运维	支持SQL诊断，快速定位出质量欠佳的SQL记录及用户信息，辅助管理员提前预判潜在风险

HetuEngine基本架构

HetuEngine面向企业级能力方面，构建了极致稳定、高性能的企业级交互式分析引擎。

云服务层：提供了企业级的运维管理监控能力，认证与业务接入统一访问入口，友好的可视化界面操作，一键式参数调优和配置，协助用户轻松简单的管理集群平台；
引擎层：纯计算引擎部署，与数据解耦；自容错，节点故障级别重启，内存溢出保护等；计算实例基于任务负载自动弹性伸缩，可水平横向扩展；
数据层：支持多种常见的数据源间的联合查询，同时计算和数据解耦，天然的存算分离架构。

HetuEngine服务角色

模块名称
常见概念名称
描述
云服务层
HetuEngine CLI/JDBC
HetuEngine的客户端，使用者通过客户端向服务端提交查询请求，然后将执行结果取回并展示。
HSBroker
HetuEngine的服务管理，用作计算实例的资源管理校验，健康监控与自动维护等。
HSConsole
对外提供数据源信息管理，计算实例管理，自动化任务的查看等功能的可视化操作界面和RESTful接口。
HSFabric
提供SQL统一访问入口及跨域（DC）高性能安全数据传输。
QAS
HetuEngine的自研模块，针对SQL执行历史记录提供自动感知、自动学习、自动诊断服务，提升在线SQL运维能力，自动加速在线SQL分析任务。
引擎层
Coordinator
HetuEngine计算实例的管理节点，提供SQL接收、SQL解析、生成执行计划、执行计划优化、分派任务和资源调度等能力。
Worker
HetuEngine计算实例的工作节点，提供数据源数据并行拉取，分布式SQL计算等能力。
HeuEngine引擎架构

HetuEngine引擎执行流程简单介绍：

Coordinator
负责管理Worker节点，以及接受客户端查询请求，并进行SQL的语法解析（Parser）、执行计划生成与优化（Plannner）和查询任务的调度（Scheduler）
Worker
负责具体的查询计算和数据读写
Discovery Server
负责发现集群的各个节点，用于节点间心跳监控
快速上手指南

工欲善其事必先利其器，在使用HetuEngine之前，首先需要了解基本的架构，并与业务场景相结合，然后进行集群相关的规划和配置，最后进行业务对接和验证上线。本系列将从以下几方面内容手把手带你玩转HetuEngine。

了解HetuEngine的基本架构：了解HetuEngine是什么
了解HetuEngine常见的应用场景，与业务场景相结合：判断HetuEngine是否适应于业务场景
集群部署和资源规划：前期的资源规划必不可少
数据源添加和管理：对接业务需要的数据源
权限管控和配置：保障不同业务用户之间的权限管控
业务对接：业务对接和验证
性能调优：不同的调优手段
运行过程中常见问题排查：常见问题的处理方式

点击关注，第一时间了解华为云新鲜技术~

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/)