阿里开源了14个核心技术,你了解哪些?

  • 阿里开源了14个核心技术,你了解哪些?已关闭评论
  • 115,295 views
  • A+
所属分类:系统知识

阿里妹导读:自从2011年宣布第一波开源项目以来,阿里技术人一直积极参与开源社区共建。开源项目数量每年都有所增长,目前阿里巴巴已经有150+个开源项目,其中数个项目 star  破万。相关的 GitHub 2017年数据统计显示,阿里巴巴是唯一一家入围 GitHub 顶尖贡献名单的中国公司。

阿里开源了14个核心技术,你了解哪些?

在开源中国举行的“2017年度最受欢迎中国开源软件Top20”的评选中,阿里巴巴占据五席位。

 

其实,阿里巴巴并没有开源项目的KPI考核,各个团队都是发自内心地将踩过的坑和总结的经验融入到开源项目中,供业界所有人使用,希望帮助他人解决问题。这正是社区一致的开源精神,大家都可以站在巨人的肩膀上,每个人都可以既是老师又是学生,这或许可以解释为什么IT技术的发展能如此充满活力。

 

本文总结整理了2017年阿里巴巴九个重要的新开源项目和在开源中国评选中五个备受欢迎的项目,希望能对大家有所帮助。

构建高性能的分布式系统

 

我们见证了从大型机到分布式系统的趋势转变。大型机部署简单,无需多个节点配置,但是售价高、维护困难、单点依赖较高;而小型机组建的分布式系统则在降低成本的同时提高整体的并发量、扩展性和可靠性。相信不少人都听说过数据库连接池 Druid,json 解析 fastjson,消息中间件RocketMQ,分布式 RPC Dubbo这几个开源项目;今年还有刚开源的飞天缓存 ApsaraCache,自研富容器技术 Pouch 和文件分发系统Dragonfly。

 

分布式服务治理框架 Dubbo 重大升级

 

Dubbo 一个基于 Java 的高性能RPC框架,早在2012年开源,自开源以来深受国内友商和开源爱好者的青睐,虽然一直陆续在维护,但是由于用户群体庞大,日常维护根本无法完全满足社区的旺盛需求。随着阿里技术的发展,在保证集团内部和客户服务之外,如今可以抽调更多经历将技术赋能全社会。

 

今年 Dubbo 重启维护并进行了重大升级,Dubbo2 的设计原则强调扩展性、使用轻量及对开源外围系统和协议的适配,它不仅修复了优雅停机、注解配置等一些框架缺陷,还新增了通信模块和线程堆栈特性等,框架稳定性有了大幅提升。

具体而言,Dubbo 今年发布了 2.5.4, 2.5.5, 2.5.6, 2.5.7, 2.5.8 等五个版本,主要修复、合并了社区呼声最高的 issue 和Pull Request,另外主要做了以下的增强:对Netty 4 的支持、annotation 的增强、Java 8 的支持、docker 的支持。Dubbo 还会继续完善,如Dubbo Spring Boot starter、RESTful 支持,优雅部署,容错增强,路由策略增强以及异步化增强等。

 

除了框架本身,Dubbo 团队还重建了官网(日均 PV 3500+),更新了文档。为了进一步的扩大影响力,对官网、文档、代码开始英文化的工作,并初见成效,著名的技术博客 baeldung 发表了对Dubbo 的深度介绍  Introduction to Dubbo,并参与了开源中国、InfoQ的访谈和宣讲等活动,并入选开源中国 2017 年度最受欢迎开源软件Top20。

 

Dubbo之所以进行了重大升级,是因为观察到与RPC 特别相关领域的技术趋势,未来主要会着重向 Cloud Native、多语言增强、微服务支持等几个方向演进,同时 Dubbo 还会不断建设生态系统和社区以及打造国际影响力。

 

欢迎大家来和Dubbo的开发团队一起探讨:

https://gitter.im/alibaba/dubbo

https://github.com/alibaba/dubbo

分布式消息中间件 RocketMQ

今年9月,Apache 软件基金会官方宣布,阿里巴巴捐赠给 Apache 社区的开源项目 RocketMQ 从 Apache 社区正式毕业,成为 Apache 顶级项目(TLP)。自此,Apache RocketMQ 成为国内首个非 Hadoop 生态体系、国内首个互联网中间件的 Apache 顶级项目。今年,RocketMQ 还斩获了第十二届中日韩开源软件技术优胜奖和开源中国的“2017年度最受欢迎中国开源软件Top20”。

 

RocketMQ 是阿里巴巴在2012年开源的第三代分布式消息中间件,商用版MQ可在阿里云上获得。历年双11,RocketMQ 都承载着阿里巴巴生产系统100%的消息流转,以去年双11为例的, RocketMQ 完成了1.2万亿消息精准低延迟投递,交易峰值高达17万笔/秒。

 

RocketMQ 来自于中国,但已经引起了全世界范围的关注。RocketMQ 不仅斩获2015年中日韩开源论坛的 CJKOSS 大奖,并且已经进入欧美主流开源门户网站的视野,目前100多家公司和科研机构正在使用RocketMQ。值得一提的是目前美国是 RocketMQ 全球第二大访问国。

阿里开源了14个核心技术,你了解哪些?

作为一款分布式消息引擎,RocketMQ 有如下特性:

  • 低延迟、高并发:99.6%以上的响应延迟在1毫秒以内
  • 面向金融:满足跟踪和审计的高可用性
  • 工业级适用:可确保万亿量级的消息发送
  • 中立性:支持多种消息传递协议,如 JMS 和 OpenMessaging
  • 性能可靠:给予足够的磁盘空间,消息可以累积存放而没有性能损失。

 

相关链接:

https://rocketmq.apache.org/

https://github.com/alibaba/rocketmq

 

数据库连接池 Druid 和JSON库 Fastjson

 

Druid 是阿里唯一使用的数据库连接池,支持双十一等最严苛的使用场景。Druid 有一句slogan是“为监控而生的数据库连接池”。经过六年开源积累,已经相对成熟的 Druid 收获了不小的知名度与口碑,并陆续成为很多技术团队解决方案中的关键环节。

 

Fastjson 在服务端开发、Android客户端中广泛使用,阿里几乎每个Java应用都用到了fastjson。

这是一个高性能功能完善的 JSON 库,通过“假定有序快速匹配”的算法,把JSON Parse的性能提升到极致,堪称目前Java语言中最快的JSON库。Fastjson接口简单易用,已经被广泛使用在缓存序列化、协议交互、Web输出、Android 客户端等多种应用场景。

 

这两个相对而言比较成熟的项目,今年并没有大的功能变更,都是每个月根据社区中反馈的 issue 发布小版本。未来,Druid 后续会增强监控功能,监控功能和阿里云相关监控产品对接。其中的 Parser 模块会剥离出做一个项目大力发展。

 

相关链接:

https://github.com/alibaba/druid

https://github.com/alibaba/fastjson

 

云数据库 Redis 分支 ApasaraCache

 

ApsaraCache(飞天缓存)是云数据库 Redis 版所使用的 Redis 分支,是在社区 2.8 版本基础上开始维护的分支,并 backport 了部分 3.0 分支的功能,该版本主要解决了云上用户对稳定性、性能、灾备和平滑升级体验的诉求。

据了解,其实在 ApsaraCache 开源前,该方案就已经拥有很多成功的客户案例,其中既有视频直播行业的秒拍、一直播、映客、中国网络电视台;也有游戏行业的陌陌游戏、龙渊网络、中情龙图、畅游;同时还有民生类的新闻如今日头条、交通如高德导航、金融如蚂蚁金服、其他如大疆创新,可以说,应用范围和场景非常广泛。

ApsaraCache 已经有很多成功的客户案例了,为什么要开源呢?原因在于:

1. Redis 在中国的用户群体和使用方式都发生着深刻的变化,遵循极简哲学设计的 Redis 在某些场景下的稳定性和性能都受到新的挑战,另外很多云上客户在使用 Redis 的过程中也碰到了各种各样的问题,基于这些问题和挑战,ApsaraCache 对 Redis 进行了大量的重构和改造,为了赋能 Redis 用户,也为了让 Redis 开发爱好者能够更好地参与进来,我们决定对ApsaraCache 进行开源。

2. Redis 是BSD License,相对比较自由;最新版本 Redis 4.0 支持 Redis Module 功能,而 Redis Module 属于 AGPL License,ApsaraCache 后续也会支持 Redis Module 机制并开源功能 Module 代码。所以 ApsaraCache 开源也是对开源协议的尊重与遵守。

3. ApsaraCache 一直在等待 Redis 4.0 Release 版本的发布,待该版本发布之后会积极推动两边 feature 的融合,争取 merge 到社区主干。

Redis 创始人 Salvatore 认为,ApsaraCache 项目开源是一件非常好的事情,将能够吸引全世界更多 Redis 核心专家参与,进一步提升产品的稳定性和可用性。同时,也表明阿里巴巴拥有 Redis 产品开发的能力,希望未来我们一起努力提升产品的各种功能和特性,给 Redis 带来更多更好的改进。

 

ApsaraCache 于今年10月份正式开源,据悉,其即将发布新版本会新增两个功能:解决了AOF Rewrite 频繁造成的主机稳定性瓶颈,且支持精确到秒级的按时间点恢复;解决了原生内核在弱网条件下容易复制中断导致的全量同步问题。

 

相关链接:

https://github.com/alibaba/ApsaraCache

 

自研富容器技术 Pouch 和文件分发系统 Dragonfly

Pouch 是阿里内部自研容器技术,目前数据中心运行有数十万个Pouch容器,大规模支撑内部离线在线业务的混部。

 

首先,Pouch 是一种富容器技术,内部应用体验类似虚拟机,拥有 init 进程,富含多种系统服务;其次,通过内核加固与轻量级虚拟机支持,Pouch 提供丰富的安全隔离保障和隔离维度;在镜像分发上,特别是超大规模场景下可通过P2P的方式缓解网络负载;在内核兼容性方面,更加符合企业现状,考虑到大部分企业IT系统内核的升级缓慢、版本较低,最大限度适配现有底层基础设施。

阿里开源了14个核心技术,你了解哪些?

Pouch与Dragonfly使用架构图

 

以往大家常用传统的方式来下载文件,这带来两个问题:首先如果遇到特别大的文件,下载失败就要重试,效率低下;其次如果客户端进行大规模下载,会把文件源压垮。

 

Dragonfly 中文名“蜻蜓”,蜻蜓是通过P2P方式来下载文件,有效的缓解了文件源的压力, 同时还支持断点续传,即使因网络环境导致失败,也无需反复下载文件。蜻蜓的另外一个特点是与 Docker、Pouch 等技术的集成,它具备镜像预热等功能,Docker 原生的下载镜像速度慢,而采用P2P技术的蜻蜓很好地解决了这个问题。

阿里开源了14个核心技术,你了解哪些?

蜻蜓P2P容器镜像分发示意图

 

蜻蜓可以满足 Docker 或者 Pouch 使用者的较大下载量(如大镜像文件)需求。而对于具备海外节点,蜻蜓也可以节约跨国带宽的。

 

据悉蜻蜓有两个版本:开源版,支持 Apache 2.0 协议,可用于P2P文件分发、容器镜像分发、局部限速、磁盘容量预检;企业版则还具备断点续传、全局限速、镜像预热、支持内存文件系统、智能网络流控、智能动态压缩、智能调度策略等功能,该版本内置在云效、阿里云容器服务(公共云、专有云)之中。

 

相关链接:

https://github.com/alibaba/pouch

https://github.com/alibaba/Dragonfly

互联时代的用户端

随着Web2.0、Web3.0时代交迭,无线端硬件性能的提升与用户体验理念的倡导,Web 站点与应用变得越来越重要与复杂。这一点可以从JavaScript 的热度变化看出来:JavaScript、 Java、PHP同样诞生于1995年,但是三者却经历了不同的发展曲线。JavaScript 不断发展,热度渐涨声名鹊起,GitHub 的 JavaScript 语言编写的开源项目共计23万个位列第一,是第二名Python开源项目的2.3倍,并且远超 Java 和 PHP 开源项目总和。JavaScript 被越来越多使用,AJAX 使得它在前端编程中大放异彩,而 Node.js 也让人开始关注 JavaScript 在服务器端开发的能力。

 

阿里巴巴向社区贡献了两款企业级开源项目:UI设计语言和React实现项目Ant Design、Web基础框架Egg.js。

 

Ant Design,前端的美好呈现

 

Ant Design提炼自蚂蚁金服的中后台设计经验:在产品交互和视觉风格上,它秉承“微小 · 确定 · 幸福”的理念,追求提升用户和设计者的使用体验;积累了丰富、灵活、使用的基础组件,并准备了常见问题的解决方案;使用 TypeScript 支持完整的类型定义,采用高质量React组件可以开箱即用,并且基于npm + webpack + dva 的企业级开发框架。

 

回顾2017年,Ant Design主要做了三件事情:

1、Ant Design 2.x 版本持续迭代,版本从 2.6.0 迭代到 2.13.11。

2、10 月推出了 Ant Design Pro 的前端脚手架,对中后台常用的场景提供了最佳实践。

3、12月初发布了 Ant Design 3.0,带来了全新的设计体系和大量新特性。

发布日志可见:

https://medium.com/ant-design/announcing-ant-design-3-0-70e3e65eca0c

 

在开源两年多的时间里,Ant Design一直通过收集设计和研发的需求进行不断改进。设计师团队不断优化和改进Ant Design的设计规范,视觉效果整体调整也体现在本次3.0新版本中。而研发层面则会听取内部与外部的各种业务需求:向社区公开项目开发的长期规划,尤其是主要目标和破坏性改动,并且日常性地通过钉钉群和 GitHub 中收集大量新需求和问题报告,与社区保持密切互动。项目有小版本研发的固定周期,每周都会发布bugfix版本,每月发布 minor 版本。

 

Ant Design是 React 社区最流行的 UI 组件库之一,除了阿里巴巴集团,还有腾讯、百度、美团、滴滴和饿了么等公司在使用。目前Ant Design在GitHub上拥有21485颗 star,是开源中国评选的2017年度Top20最受欢迎中国开源软件。

 

Ant Design负责人偏右表示,在此次发布 AntDesign 3.0之后,项目已经相对成熟,会进进入较长的持续维护阶段,暂时预计不会有巨大的变化;团队将在视觉布局和主题配置、国际化、集成化上补齐 Ant Design Pro 的功能,推动其实践落地。

 

相关链接:

http://ant.design/

http://pro.ant.design/

https://github.com/ant-design/ant-design

 

企业级Web基础框架Egg

 

企业开始采用微服务架构,这涉及到服务颗粒、API接口、开发维护等具体任务,前端与后端不得不面对“应该更考虑用户侧的灵活体验,还是更加配合后端服务的通用性”的争执。Node.js 在近几年的蓬勃发展中,慢慢改进了很多被人诟病的黑点:生态上npm包数量冠绝全球,改进单线程问题,借助ES规范逃离回调地狱,成熟的 TypeScript 带来类型系统,性能也得以持续优化。

 

但是,非常遗憾的是,Node.js 的基建成熟度与生态热度并不匹配,Node.js 本质上依然似个新生儿:工业界的Web框架实践寥寥无几;社区重复造轮子,而且缺乏统一参考规范,带来很多重复、不合理使用的问题;相比应用,Node.js 的基础技术研究依然很少,如何保证高可用成为重要问题。

 

阿里的 Node.js 应用始于2011年,经历了重复造轮子等上述困扰之后,开始认真思考起来“如何既能统一生态共建,又能支持差异化定制”。于是,Egg 应运而生,其名寓意“孕育”,是期望成为一个Web开发基础框架,以帮助各团队在Egg之上搭建适配业务的上层框架。Egg 沉淀自大规模企业应用的工程实践经验,包括多年稳定支撑天猫双11大促;也经历了三年四个版本的微内核打磨。

 

Egg 基于 Koa,但又完全有别于 Sails /LoopBack 等上层框架, Egg 位于它们之间的中间层,提供『微内核 + 插件机制 + 框架定制能力』,提供了一套统一的约定,为上层框架服务。Egg 是渐进式开发,极具伸缩性,因此既适合个人小项目快速开发,也适合企业级的团队开发协作。

阿里开源了14个核心技术,你了解哪些?

虽然刚刚开源一年,但是 Egg 已经收到500+(主库272)Pull Request,并处理了1200+个issue,发布了40+篇共计10万余字的官方文档。在GitHub上收获6k+ star,Egg官网PV近万。在阿里巴巴内部,Egg服务了500+前端开发者和1000+应用;而在外部,Egg 收到了来自百度、腾讯、全民直播、丁香园等多家公司共计90多位技术人员的改进反馈,甚至收到了Node TSC Director Rog Vagg在 Twitter 上的关注与转发 。

 

未来,Egg会将重心放在开发者体验方面的优化上,并且分享更多的最佳实践。

 

这里还需要浓墨重彩地讲讲阿里的 Node 技术积淀:除了阿里内部的1000+应用,阿里技术人同样进行了 Node.js 底层排坑工作,也与Intel探讨如何进一步提高Node.js性能。此外,阿里最近刚刚发布 Node.js 性能平台,作为企业级性能解决方案,它提供免费的 Node.js 运行时 + 监控诊断服务。

 

相关链接:

https://eggjs.org/

https://node.console.aliyun.com/

 

自2007年苹果推出iPhone以来,智能手机的普及开启了移动开发时代,App开始承载越来越多的业务场景,但这也同样给开发带来了不小的挑战。

 

灵活的 Android 开发框架 Atlas

 

和大部分开源项目一样,Altas 也是为了解决阿里自身遇到的问题。伴随着手机淘宝的不断发展,研发团队规模扩大,功能愈发复杂,需要端侧业务的快速迭代;而开发、运行和运维中遇到的问题不断增多,也需要及时进行线上bug修复。于是手淘团队开始思考如何将复杂事情简单化,如何进行动态部署,提升团队的移动开发效率。

 

Atlas 以容器化思路解决大规模团队协作问题,适用于Android4.x以上系统版本的大小型 App开发,并且支持动态发版。一般而言,业界常用解法是插件化框架,但是考虑到复用性,Atlas 采用的组件化模式,将业务拆开并复用公共部分。项目借鉴服务端的 OSGI 思想,将业务拆出来独立成bundle,隔离解耦运行,从而实现并行开发、快速迭代和动态部署。

阿里开源了14个核心技术,你了解哪些?

Altas源自阿里巴巴移动团队五年的研发积累,进行了静态组件化和动态组件化的技术准备。在今年正式开源之后,Altas 基本上保持了每两个月发布一次大版本,同时做到内部和社区使用同一套代码。Altas 完善了稳定性、工具链升级及 dexpatch 等方面,具体而言,三个重大的功能点是:动态部署新增 component 支持;dexpatch 功能;bundle 间的view 复用。

 

作为初来乍到的开源项目,老实说,Altas 最初并没有做的尽善尽美,由于项目具有较高的门槛,再加上文档不够完善,Demo 简陋,所以遭遇了较多吐槽。Altas 随即紧急决定建立一个钉钉群,一边帮助开发者更快的理解和接入Atlas ,一边完善文档和 Demo。据悉,目前基本上内部很多安卓App都使用了Altas(如天猫、淘宝、虾米、优酷、阿里云),而外部至少有三款接入 Altas 的App上线,这是令 Altas 团队非常开心的事情。

 

Atlas 的愿景是“带你重返App开发的田园时代”。未来,Altas 将继续完善文档、升级工具链,降低接入成本、提升稳定性与兼容性,并且还会推出配套的 Emas for Atlas 商业服务,并便于服务端的发布。

 

相关链接:

http://atlas.taobao.org/

https://github.com/alibaba/atlas

 

源自最佳实践的参考规范

《阿里巴巴 Java 开发规约》

程序员的交流是通过代码,代码的质量好坏与工程、团队效能息息相关。

 

阿里众多资深技术专家与代码规约人员共同潜心研制了一套 Java 规约守则,并将对应规则研发了自动化检测工具(DE检测插件(IDEA、Eclipse))。如此可以使得开发者更加方便、快速将规范推动并实行起来。

该插件在扫描代码后,将不符合规约的代码按Blocker/Critical/Major三个等级显示在下方,甚至在IDEA上,我们还基于Inspection机制提供了实时检测功能,编写代码的同时也能快速发现问题所在。对于历史代码,部分规则实现了批量一键修复的功能。

 

Java 代码规约正式以插件形式公开走向业界,并引领 Java 语言的规范之路。目前,插件已在云效公有云产品中集成。

阿里开源了14个核心技术,你了解哪些?

阿里巴巴P3C项目组会长期更新与维护插件,团队也希望更多的人参与进来,除了发现和解决已实现的检测规则以外,能够实现更多有益的规则,让插件变得更加完善并且帮助到更多的开发者。

 

相关链接:

https://github.com/alibaba/p3c

 

分布式消息领域的国际标准标准 OpenMessaging

 

OpenMessaging 项目由阿里巴巴发起,与雅虎、滴滴出行、Streamlio 公司共同参与创立,项目意在创立厂商无关、平台无关的分布式消息及流处理领域的应用开发标准。据发起人介绍,随着标准的不断演进,会有更多的互联网、云计算厂商参与到该项目以及生态体系中来。

阿里开源了14个核心技术,你了解哪些?

OpenMessaging 的价值有哪些呢?

 

在云计算时代,消息通讯已经成为现代数据驱动架构的关键环节,消息中间件可以连接数据源、数据处理引擎和应用程序。然而,全球范围内,消息领域仍然存在两大问题:一是缺乏供应商中立的行业标准,导致各种消息中间件的高复杂性和不兼容性,相应地造成了公司的产品低效、混乱和供应商锁定等问题。二是目前已有的方案框架并不能很好地适配云架构,即非云原生架构,因此无法有效地对大数据、流计算和物联网等新兴业务需求提供技术支持。

 

OpenMessaging 抛弃历史包袱,轻装上阵,期望能解决这些弊端。除了做到可以链接跨平台、跨语言、跨产品和跨云的标准之外,OpenMessaging 将提供 Cloud Native 的能力,面向云计算、混合云架构,实现多云平台无缝迁移,致力于提供金融、电子商务、IoT及大数据等领域的一站式解决方案。

 

相关链接:

https://github.com/openmessaging/openmessaging-java/

 

 

  • 安卓客户端下载
  • 微信扫一扫
  • weinxin
  • 微信公众号
  • 微信公众号扫一扫
  • weinxin
avatar