更多技能交流、求职时机,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群。销售数据,是反映市场趋势、斲丧者行为以及产物表现的重要指标,也是企业做出精准决策的关键依据。因此,对销售数据举行全面使用、高效分析与合规管理,在企业经营中占据着重要地位。 为了更高效、安全地使用销售数据,某公司引入了开源ClickHouse作为数据分析引擎,将分散的销售数据同一到一套可视化分析平台中,并采用鉴权ACL模式来精致化管理企业内部员工的看数、用数权限。 但实际上,该公司销售数据平台在引入鉴权ACL后,出现了性能不足、用户体验受损的状态。其一,ClikHouse的性能难以满足复杂且量级巨大的查询需求,使得集群复杂恶化;其二,ClickHouse集群的CPU使用率长期处于打满状态对用户体验造成影响。 为了解决以上问题,在复杂查询领域具备显著优势且完全兼容ClickHouse的ByteHouse成为该公司迁徙首选。 据了解,ByteHouse支持优化器和MPP执行模型,可以或许较好地支持复杂join与聚合计算的场景。此中,ByteHouse 的优化器在RBO与CBO方向上分别举行了大量的自研优化,而且实现了动态 Filter 下推、物化视图改写、筹划复用以及结果复用等高阶能力。从而可以或许根据表的布局、索引等信息天生最优的查询执行筹划,提高查询执行效率,镌汰资源斲丧,整体上提升了ByteHouse在复杂场景下的查询性能。 在ByteHouse的支持下,目前该公司在销售数据的非ACL查询和ACL查询两个方向上,都实现了查询效率的显著提升。以ACL查询的60M广告客户DI场景为例,查询效率已经从从优化前的16秒大幅收缩至现在的1秒,效率提升高达16倍。
欢迎光临 IT评测·应用市场-qidao123.com技术社区 (https://dis.qidao123.com/) | Powered by Discuz! X3.4 |