更快更稳:Apache Kylin 4.0.0-beta 正式发布!

论坛 期权论坛     
选择匿名的用户   2021-5-23 18:48   118   0
<h1 id="activity-name">更快更稳:Apache Kylin 4.0.0-beta 正式发布!</h1>
<p><img alt="" height="270" src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-8a348e02ec557438e4eb1f9aec28cc13.png" width="634"></p>
<p>Apache Kylin 社区于日前宣布:Apache Kylin 4.0.0-beta 正式发布!欢迎大家下载使用。</p>
<p>Apache Kylin 是一个开源的分布式分析引擎,提供 Hadoop/Spark 之上的 SQL 查询接口及多维分析 (OLAP) 能力,支持对超大规模数据进行亚秒级查询,已被 eBay、腾讯、美团、滴滴、汽车之家、贝壳找房、OLX 集团等全球上千家企业采用。</p>
<p> </p>
<h2>1. Release Notes</h2>
<p>Apache Kylin 4.0.0-beta 是继 Kylin 4.0.0-alpha 之后的一个重要版本。当前的 4.0.0-beta 是 Kylin 4.x 发布的第二个测试版本,修复了 4.0.0-alpha 中的若干 bug,并且补充了一些对 Kylin 3.x 原有功能的支持,包括 <strong>System Cube</strong>,<strong>Hadoop 3 的支持</strong>,<strong>部分高级函数</strong>,<strong>Cube Planner Phase 1</strong> 等等;后续我们会持续更新和发布新版本,欢迎大家多多参与体验和讨论。</p>
<p>Kylin 4 使用 Parquet 这种真正的列式存储来代替 HBase 存储,从而提升文件扫描性能;同时,Kylin 4 重新实现了基于 Spark 的构建引擎和查询引擎,使得计算和存储的分离变为可能,更加适应云原生的技术趋势。</p>
<p>本次发布共添加了 25 个新功能以及改进,修复了 14 个问题,详情请访问:</p>
<p><a href="https://kylin.apache.org/docs/release_notes.html">https://kylin.apache.org/docs/release_notes.html</a></p>
<p> </p>
<p><strong>重要更新:</strong></p>
<p>[KYLIN-4857] - 为 Kylin 4 重构 System Cube</p>
<p>[KYLIN-4842] - 为 Kylin 4 支持 grouping sets 函数</p>
<p>[KYLIN-4829] - 为查询引擎支持线程级别的 Spark 参数配置</p>
<p>[KYLIN-4813] - 为构建引擎重新开发日志系统</p>
<p>[KYLIN-4858] - 支持在 CDH 6.X 上部署 Kylin 4</p>
<p>[KYLIN-4818] - Kylin 4 支持 Cuboid 行数统计</p>
<p>[KYLIN-4817] - 为 Kylin 4 重构 Cube 迁移工具</p>
<p> </p>
<h2>2. 下载</h2>
<p>下载 Apache Kylin 4.0.0-beta 源代码及二进制安装包,请访问下载页面:</p>
<p><a href="https://kylin.apache.org/cn/download/">https://kylin.apache.org/cn/download/</a></p>
<p> </p>
<h2>3. 文档更新</h2>
<p>在本次发布过程中,我们也在持续更新和发布新的使用文档,欢迎大家提出宝贵的意见。</p>
<p>截至目前,我们已经发布了 Kylin 4 在不同 Hadoop 版本的安装文档,同时也更新了关于 Cube Planner 功能、System Cube 功能、读写分离功能和垃圾清理工具等介绍文档。</p>
<p>更多文档欢迎大家参考 Apache Kylin 官方 wiki:</p>
<p><a href="https://cwiki.apache.org/confluence/display/KYLIN/User&#43;Manual&#43;4.X">https://cwiki.apache.org/confluence/display/KYLIN/User&#43;Manual&#43;4.X</a></p>
<p> </p>
<h2>4. Kylin 4 社区用户反馈</h2>
<p>在最近的三个月,我们陆续收到大家的试用体验以及性能对比报告。我们总结了一下,用户试用的整体反馈是:</p>
<ol><li> <p>对于 Kylin 4 新的构建和查询的调优和排错过程,需要一定的时间来适应和学习。</p> </li><li> <p>对比 Kylin 3 的 HBase Storage,对于简单查询,Kylin 4 的查询响应时间基本持平或者耗时有一定幅度的增加;对于扫描行数较多或者返回行数较多的复杂查询,<strong>Kylin 4 的稳定性和响应时间有较大的优势</strong>。</p> </li><li> <p>Kylin 4 的查询和构建性能调优仍有较大的优化空间,社区正在尝试的途径包括:将 Spark 版本升级到 Spark 3;使用 Alluxio,<a href="http://mp.weixin.qq.com/s?__biz&#61;MzAwODE3ODU5MA&#61;&#61;&amp;mid&#61;2653081926&amp;idx&#61;1&amp;sn&#61;0eb67c8b034fd288f5ddbf0e1edc35fe&amp;chksm&#61;80a4afb7b7d326a1540e9f8a02916aefc1ed25a0b5b16f00b60ea16f7177925af27547509528&amp;scene&#61;21#wechat_redirect">JuiceFS</a> 等提供缓存服务;针对不同场景提供更多高级索引等策略。</p> </li></ol>
<p>以下是来自某互联网大厂用户的部分测试报告:</p>
<p>* 注意:本次结果仅供参考</p>
<p> </p>
<p><strong>场景一(简单查询)</strong></p>
<p><img alt="" height="113" src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-b7d53f32ff788f0419cb896b05fabad5.png" width="368"></p>
<p>通过以上结果展示,可见在没有做查询优化的情况下,<strong>Kylin 4.0 简单查询</strong>的查询响应时间表现不及 Kylin 3.0。通过初步沟通和测试,经过 ShardBy Column 优化手段后,简单查询的查询响应时间可以降低 1~2s,与 Kylin 3.0 的性能变得更加接近。</p>
<p>Kylin 4.0 简单查询的查询响应时间表现不及 Kylin 3.0 的原因,经分析主要如下: </p>
<ul><li> <p>HBase 对 rowkey 的索引速度快,Region 有缓存机制,容易实现
分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:3875789
帖子:775174
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP