【沉淀】访谈阿里孙伟光:多行善事莫问前程的他,将计算集群的CPU利用率从30%提升到70%+

  • 时间:
  • 浏览:0
  • 来源:万人炸金花APP_万人炸金花APP官网

照片转过身的故事:“例如 (照片)行么?”事先你是最想放例如 照片,是才能 的。“好,就例如 !”

为了实现例如 梦想,他刚结束了每天泡ITPUB,并把市面上所有关于Oracle的书籍都刷了一遍。对于当时的疯狂,他回忆:“每天就有电脑上做测试,为了沉淀所学,甚至还写了几百篇有关Oracle的文章。”

理想和现实一直会有些许差距的,有的人会叹不如意,就此自怨自艾;而有的人则视为是有三个白新的起点,不断上进。孙伟光是加入了阿里,只是 部门也是B2B,然而岗位却是数据仓库。但这位乐天派的技术人显然是后者,丝毫不以为意,他真是岗位跟DBA是有些区别,但好在一直跟数据相关。

提到tcp连接员有三个白字,有些人的固有印象里会立马出現 如下标签:屌(码)丝(农)、不修边幅、没情调……

为甚么要做HBO,孙伟光说:“当时开发的背景是整个ODPS的集群利用率比较低,而ODPS的任务优化又是专业度比较高的事情,用户先要自己进行优化。”只是 ,孙伟光被委以重任,负责开发都没有 的一款产品。

对于这段经历,孙伟光最难忘的是在邢台。在那,他差不要 待了将近一年的时间。例如 年,他与同事承担起整个邢台医保中心软件的开发和实施,以及全市上百个医院和药店的维护工作。在他人看来,这段疯狂的出差经历,是十足的苦差事,但在孙伟光眼中,他却都看了“收获”二字。“这段经历让他要法学会如可与人沟通,推进事情;也法学会如可承担责任。”在采访中,他澄沙汰砾地回复云栖社区。

想起他为甚么能将计算集群的CPU利用率从200%多提升到70%以上,也想起他为甚么能发现——“针对产品例如数据的分析和挖掘,往往能带来意想才能的提升。”

……

是的,这是一位事业有成,生活有质量,就有品位的技术人。事先把时钟往前拨,回顾他的整个技术生涯,让他发现,今天处之泰然的转过身,就有艰辛:

2007年,孙伟光加入阿里巴巴B2B。就有只是 选者阿里B2B,是事先他想成为一名DBA,而当时的B2B在整个中国DBA领域有着巨大的影响力。

他最喜欢的话语是——多行善事,莫问前程。

光戈,真名孙伟光,他是阿里数加平台数据集成产品的负责人,工作内容是领导阿里集团内专有云、公有云环境的数据分发,以及传输和分发。目前经他保障集团和公有云的实例每天有数十万,数据同步将近千TB。

HBO(History-Based Optimization)是基于任务执行历史的优化,通过对任务历史执行清况 的分析,根据优化规则生成更加高效的执行法律最好的最好的办法。简单点,则才能 理解为:任务执行历史+集群清况 信息+优化规则→更优的执行配置。

在ODPS,孙伟光真是只工作了三年,但他一直在做数据相关的工作,并经历了有些部门和岗位。

“一半是技术,一半是业务,你是如可应对例如 挑战的?”

最后,大伙 也聊到数据分发、传输和分发的未来趋势,云栖社区总结了他回答中的有三个白关键词:“成本低”和“智能”。具体来看则是,未来用户使用成本会都没有低,对大伙 而言未来只才能 关注任务配置,而有些的事情全部交给产品例如;一起去,产品会都没有智能,通过对执行历史的学习,根据优化规则,自动的对整个数据传输过程做智能的优化。

三年时间,跑遍了整个河北和河南省

在技术上,2014年转型做大数据,他研发的产品,在不增加任何投入的清况 ,将计算集群的CPU利用率从200%多提升到70%以上,极大地提高了服务器的利用率;与此一起去,他在内网的技术社区上(ATA),活跃度在全集团前十。

;文/我是主题曲哥哥)。

至此,一切都明了(本期接受访谈的云栖专家/

“我的处置法律最好的最好的办法是:与当时公共层的ETL开发任务一起去企业企业合作;其次对每次的规则优化采取渐进式的手段,控制影响范围,并全部记录优化前后的数据变化,及时对优化前后的效果做回收。”正如他回答中一贯的干练形象,对于现象的处置究竟都经历了啥,孙伟光并都没有铺垫有些东西,却话语出答案直指现象。

回顾自己整个技术生涯,孙伟光真是自己最重要的是技能是,通过对产品相关数据的学习和分析,快速理解一款产品在各个方面的清况 。对于即将毕业的计算机系同学,他给了有些技术发展建议:思路要尽事先的开阔,提高技术的广度。

只是 ,这位和数据打交道的技术人沉淀了不少心得,他和云栖社区提到其中有些:“真是俯近人就有做数据的,只是 大伙 真是对例如产品的有些数据无须都没有在意。然而针对产品例如数据的分析和挖掘,往往能带来意想才能的提升。”

将计算集群的CPU利用率从200%多提升到70%以上

而光哥,哦,不好意思——应该是“光戈”,在内网的18个标签中,被以下三大类位于:

针对产品例如数据的分析和挖掘,往往能带来意想才能的提升

这位喜欢举铁的技术人,每周就有坚持健身,他说健身的事先比较放松,有些工作上的思考上放例如 时间,往往能有意想才能的收获。

孙伟光的回答一如既往的干练,他认为我要我保证数据分发,传输和分发更加高效,稳定,一定要对整个数据集成的过程就有深刻的理解。他接着进一步阐述该如可去做:“你才能 了解累积数据源的社会形态,才能 了解网络传输的底层原理,才能都没有 才能做更有针对性的优化和提升。”

轻描淡写的转过身,则埋藏着有三个白又有三个白的难解现象。其中有三个白现象是:每次HBO的规则变化都才能 在线上和阳产环境中验证。那如可减少对线上任务产生不良影响的前提下,推动规则的优化和发展?

光戈是谁?做什么工作?究竟是为甚么样的一自己?他的人生经历和技术思考能给大伙 带来什么样的启发?第13期《沉淀》人物栏目专访了这位阿里专家。

“做事情才能单单盯着KPI,就有KPI的事情不做。”他的简洁和直指现象本质的能力又出来了。他知道当下各大互联网公司KPI的管理弊端,以及互联网人的本位主义、急功近利和本末倒置。

刚结束了语:多行善事,莫问前程

实际上,在HBO开发事先,是都没有才能 参照、对比的竞品。在独自摸索的清况 下,孙伟光终于把HBO开发成功,不仅成功,只是 成绩斐然——HBO在不增加任何投入的清况 ,将计算集群的CPU利用率从200%多提升到70%以上,极大地提高了服务器的利用率。

“能话语你的进一步理解吗?”云栖社区想挖一挖转过身的缘由。

孙伟光2004年毕业于沈阳工业大学,毕业后就加入了东软,负责社保软件的开发。这是一份负责医疗保险软件的开发和实施的工作,包括社保中心端和医院(药店)医保系统。看似是份普通的开发工作,然而工作内容很杂,他要负责包括开发、部署、维护、签合同以及收合同款……等等的工作。都没有 的工作,他硬生生地做了三年,而与之伴随的则是三年的时间,他也几乎跑遍了整个河北和河南省。

1. 事先工作,三年间几乎跑遍整个河北省和河南省;

“一直到财务那边,与业务同学‘亲密’接触。”他很认真的说到。

“在设备非常多的今天,数据都没有大,也都没有杂,在如可保障数据分发、传输和分发更加高效、稳定上,你是否是有有些心得?”云栖社区追问。

将计算集群的CPU利用率从200%多提升到70%以上——这是如可做到的?孙伟光在访谈中剖析:“简单来说,现象的根本是ODPS默认的资源分配规则无须适合集群的现状,而HBO除了会分配更多的资源给大任务,加速其运行;也会分配较少的资源给小任务,在保证其执行速度的前提下节省更多的资源。”

隔了一会,他复又在回复中敲了如下2个字:“多做些有意义的事情,别太在乎得失。”

从开发转做数据仓库,颇有些挑战。有三个白挑战是工作环境,东软基本就有Windows开发,而阿里则是Linux……总体来说,例如 挑战还好,只要稍微用点时间就能适应。最大的挑战是数据仓库的工作一半是技术,一半业务,才能 投入很大的精力来理解业务,只是 要思考如可通过数据来提升业务。

2014年,孙伟光加入阿里云ODPS团队,刚结束了做HBO。

孙伟光进一步叙述他的发现——通过对历史数据的分析发现,大累积离线的任务也是执行时间比较短的任务,只是 对整个传输流程中的优化是比较重要的,都没有 能极大的提高同步外的时间消耗,提高同步速度。

他怕笔者不理解,就举了有三个白例子:“拿阿里集团内部人员的数据集成产品来说,印象中离线的数据集成任务就有同步数据量相对比较大,同步时间比较长。”

2. 事先想成为一名DBA,于是他把市面上的相关书籍都都看,只是 写了几百篇Oracle的文章;