快手向量化引擎Auron 正式加入Apache孵化器

责任编辑:VarCrystal 2025.09.01 16:54 来源:厂商供稿

近期,由快手开源并捐赠的向量化引擎Auron项目(原Blaze项目)正式进入全球最大开源基金会(ASF)的孵化器,移交到Apache软件基金会名下。这是Auron项目及其社区发展的重要里程碑,标志着项目可以依托ASF成熟的开源治理范式,融入全球开源共同体,获得更可持续的创新动能与影响力。

1、 Auron介绍

Auron是基于向量化技术开发的一套Native执行引擎,可以充分利用Native代码和SIMD指令向量化优势,以实现减少资源开销、加速执行的目的。

其核心能力包括:

原生执行:采用Rust实现,消除JVM开销以取得更好的性能表现;

向量化计算:基于Apache Arrow列式格式构建,充分利用SIMD指令优化批处理;

可插拔架构:与Apache Spark无缝集成,同时设计上支持未来扩展至其他计算引擎;

生产环境强化优化:开发了多级内存管理、优化Shuffle格式及自适应执行策略等优化机制,并在生产环境大规模应用落地。

基于Auron,在TPC-DS上相比Spark可以取得2+倍的性能提升:

2、 Auron发展历史与现状

2022年1月,快手大数据Spark引擎团队正式启动了Blaze项目,项目一开始便选择全面拥抱开源社区,全部代码在GitHub上公开可见。历经一年多的迭代,2023年9月,Blaze在TPC-H/TPC-DS等Beachmark上取得了显著的性能提升。同时,团队也围绕生产环境进行了大量优化,并在快手内部实现了大规模应用。目前,Blaze在快手日均运行数十万个任务、处理EB级别数据,展现出卓越的性能和稳定性,为快手每年节约数千万元服务器成本。

在社区运营方面,快手于2024年1月展开了开源社区的管理工作。自Blaze开源以来,已累计发布了10余个版本,GitHub上的Star数量超过1.5K。该项目吸引了来自全球的30多位开发者积极贡献代码,社区活跃度不断提升。凭借出色的性能、稳定性和易用性,Blaze被滴滴、携程、汽车之家、58同城、OPPO等多个行业的公司广泛使用,并在应用过程中,获得一致好评。

2025年8月,Blaze项目正式进入ASF孵化器,并更名为Auron(发音: [ˈɔːrɑːn] ),其灵感来源Aura(能量场)。Auron寓意为大数据引擎所带来的强大性能。未来,Auron社区也将会提供更多先进功能,如Flink引擎、数据湖系统、GPU/DPU硬件的集成等。

3、 加入Apache孵化器

加入Apache软件基金会孵化,源于快手团队对开源生态的深刻认同,以及对项目长期可持续发展的考量。目前Auron已在多家公司应用落地,验证了其实用价值。然而,开源项目的生命力不仅依赖技术先进性,更需要通过开放的社区治理、多元的贡献者参与和透明的决策机制实现持续进化。我们始终相信,开源的价值在于“共享”与“共创”。

我们将严格遵守Apache的治理规范,推动项目代码、文档与社区的全面透明化,吸引更多开发者参与技术迭代,与Apache生态中的其他大数据项目(如Spark/Flink/Celeborn等)形成技术互补,共同推动大数据领域的技术持续创新。

我们坚信,在Apache基金会的指导与社区的支持下,Auron项目将加速成长为具有全球影响力的开源项目,为技术创新贡献长期价值。

我们诚挚地邀请对Auron感兴趣的各位开发者和用户加入开源社区,共同推动项目进一步的发展。您可以通过以下方式关注和了解社区的最近动态,期待您的加入!



通信世界网版权及免责声明:
1、凡本网注明“来源:通信世界全媒体”及标有原创的所有作品,版权均属于通信世界网。未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。
2、凡本网注明“来源:XXX(非通信世界网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、如因作品内容、版权和其它问题需要同本网联系的,请在相关作品刊发之日起30日内进行。
发表评论请先登录
...
热点文章
    暂无内容