淘宝汪海:挖掘数据之美

来源 :计算机世界 | 被引量 : 0次 | 上传用户:hongjiansu1
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  汪海是淘宝网数据的掌门人,公司内部人称“七公”,每天与网站新增加的7TB数据打交道。
  谁能想到,汪海学的专业与数据分析丝毫不沾边,他也没想到会在淘宝网呆了6年。这是典型的IT工作狂,30出头,时常加班,并以此为乐,他放松的方式就是玩游戏。
  可以说,淘宝网使汪海功成名就。而汪海不负众望,挖掘出网站的“数据之美”,将开放淘宝网的所有数据。
  谁不想得到淘宝网的数据?但这些数据会给行业带来哪些变化?汪海又是如何进入淘宝网工作的,他如何看待这些数据?
  
  泡论坛成才
  
  汪海进入淘宝网的时候,该网站刚成立。汪海经朋友介绍,抱着“先呆着”的态度,在网站做DBA(Database Administrator,数据库管理员)。那是2003年,淘宝网处于创业阶段,工作多,累人。淘宝网没有什么硬性规定,可每个人工作都在12个小时之上,一周要工作6天。汪海回忆说: “入职当天就工作到晚上10点多才回家,不过感觉还挺好的,非常辛苦,也非常快乐。”
  汪海印象最深的是,他有一次在机房连续呆了5天,终于在星期六下午做完工作,然后回家一觉睡到第二天中午才醒来。“那段时间真的非常非常辛苦,但是我又觉得没有任何不爽。”
  汪海毕业于一所非著名学校,学的也是非计算机类专业。他的第一份工作是程序员,不过,干了两天,被辞退了。原因很简单,汪海拿着同学的程序面试通过,但在实践中被识破,老板直接让他走人。
  当然,汪海的IT水平绝不至于那么差,他从小喜欢编程。在那一段没工作的日子里,汪海和计算机技术较上劲了,他游荡在各大专业论坛,“文字与代码齐飞”,与各版块技术“牛人”探讨数据库,还当了版主。“学术气氛非常浓,大家提的都是那种最难的问题,然后自己去思考,而不只是解决问题这么简单。”汪海说,“在论坛,我的水平提高非常快,现在阿里系里面的技术牛人也在里面。由于受到他们的影响,在我犹豫是否要出国留学的时候来到了淘宝。”
  进入淘宝网之后,汪海不仅做DBA,也做基础架构、运维、开发等工作,只要是涉及数据平台的产品,他基本都碰过。“新的挑战可能更多的是技术以外的东西。”汪海喜欢挑战,不服输,就像泡论坛时的心态: “只有我教别人的份,没有别人教我的份。”他回头看自己成长过程时说,其实是不是专科毕业都无所谓,关键是要喜欢这个,肯花时间钻研,能够坚持下去,自然就能学好。
  由于这种坚持和学习,汪海才拥有了Oracle全球ACE、2008年Oracle MAGAZINE全球年度IT Manager等荣誉。
  
  云计算很必要
  
  今年3月31日,淘宝首度面向全球开放淘宝数据,而汪海正是淘宝数据平台的掌门人。
  汪海说,淘宝开放的数据有两种类型: 其一,通过“数据魔方”平台,商家可以直接获取行业宏观情况、自己品牌的市场状况、消费者行为等情况,但是不能获得竞争对手的数据; 其二,通过与第三方研究机构合作的方式,商家可以直接从研究机构获取服务。
  淘宝网已经成为亚洲最大的B2B交易平台,每天产生的数据量高达7000GB。这些数据具有价值,大部分是由消费者、商家产生的,另外还包括物流公司和内部的一些信息等。采用什么手段解读这些数据?汪海打了个比方: “通常,面对小数据量,我们会用表格以及图表去解读。但一旦信息量很大的时候,这些手段远远不够。淘宝数据云组成的超级计算机可以在最短的时间内,产生可直接使用的商业数据,并且利用更直观的、可视化的图像为企业解读,帮助企业做出商业决策。”
  以后,将会有很多电子商务企业通过淘宝网发布的数据受益。汪海强调,淘宝数据开放的“数据魔方”只是一个小水花,将来会有越来越多的开放政策,直至变成大海。
  未来十年要“变成大海”,淘宝的数据开发还有很多事情要做。“从技术角度说,解读淘宝海量的数据规模,它需要一个极大的云计算平台做支撑,”汪海认为,“这是未来十年整个技术领域最具挑战性的。”
  “说得直白一点,为什么要云计算?现在淘宝数据计算的挑战,就像20年前用一台60M硬盘、8M内存的286机器处理100G的数据那样,用户根本没有办法在单机或者小规模的集群条件下,实现这样的计算。云计算并不是一个虚无缥渺的概念,当用户真正要处理这么多数据时,才会理解云计算的意义。”
  汪海说: “用一万台服务器来做并发计算和极其复杂的应用时,如何保证这些机器能够一起发挥作用?怎么能让其中的百台服务器断电了也不会影响整体运算?怎么让程序员不需要写复杂的并行算法就可以实现分布式并行计算?这些都是云计算平台需要解决的问题。怎样均衡分布数据,怎样协调各个服务器之间的网络,怎么协调各个机器的进程和资源,都很复杂。并且,用户在一个跨机器、跨机房的分布式环境去实现这样一个目标,这更具有挑战性。”
  但汪海喜欢挑战,沉溺于技术的感觉,不断追逐新技术的变化,都让他欣喜。
  
  拥抱变化
  
  马云喜欢用武侠小说人物的ID给同事命名。汪海挑了“七公”这个ID。他说,现在有人叫他本名,已经不习惯了。在公司内部,大家都叫他“七公”。汪海也喜欢武侠小说,也觉得自己的性格就如洪七公那样,随性。
  如果从帮派的对比来说,在小说里,洪七公统领的丐帮是天下第一大帮派; 在现实中,汪海领衔的淘宝数据平台,也是中国最庞大的数据资源。这两个团体,不管是虚拟的丐帮帮众还是现实中的淘宝数据,作为个体他们并不起眼,但众多个体被领头人汇集在一起之后,其力量真正是“随便跺下脚,整个武林都会晃荡。”
  掌握这样的巨大资源,可汪海就像洪七公那样,现实中是一个既不热衷规划、对已经达成的目标也没什么感觉,同时又相当懒散的游戏宅男。他的关注点不在过去而在于未来,不在成绩而在于挑战: “数据会成为淘宝未来非常核心的部分,这也就是我的下一个目标。”
  汪海说: “我这个人比较容易接受变化,觉得任何变化都是一种财富。一旦适应了这种变化,就具备了可以处理这种事情的能力。”这就是汪海一直呆在淘宝的原因。
  同时,“拥抱变化”是淘宝网的六大价值观之一,这家公司永远都不缺乏变化。“淘宝有很多的工种可以换,所以还是有很大的提升空间在里面。”汪海拿自己举例说,“每一次换工种都会遇到一个新领域,自己会觉得,随着每一次的技术改造,自己的眼界越来越宽,到最后会发现眼界是与全球同步的。”这一点,可以说是汪海在淘宝网最大的收获。
  
  链接
  汪海寄语技术新人
  1.作为新人一定要谦虚。很多事情关键是要有行动,少空谈,多干实事。新人要放低姿态,用空杯心态去学习。
  2.学会忍耐,耐得住寂寞。技术人员做的都是些幕后工作,只有能耐得住寂寞和枯燥,才能独立思考,成为行业内有影响力的人。
  3.培养开放和分享的心态。如果抱着保守和封闭的心态,成长肯定受阻。
  4.要学会利用公司资源。新人可以和各个方面的优秀人才合作,可提升的空间是无穷的。
其他文献
在日前举办的EMC World 2010大会上,EMC发布了一系列创新技术和最新战略,其中最引人关注的就是突破性的EMC VPLEX跨地域虚拟存储技术,以全新的方式优化了数据访问和数据移动,让距离成为可以开发利用的资产,而不是必须要跨越的障碍。这一技术能够帮助企业跨越数千公里,不间断地移动数以千计的虚拟机和PB级的信息,在不同地点合理安排批处理任务,实现更低的能耗成本,轻松地规避地区性的IT运营灾
围绕着基于闪存的固态盘,业界出现了许多新的技术和研发公司,其技术实现和应用方式各不相同。    基于闪存的固态硬盘(SSD)的出现给人们带来了解决传统磁盘I/O数据传输慢问题的希望,尤其是一些存储厂商在存储系统中支持SSD,并通过自动分层技术,既提高了数据的读写速度,又使降低存储成本和减少功耗成为可能,像3PAR、Compellent和EMC等公司。当然也有一些公司将SSD应用于缓存中,通过SSD
近几年,由于互联网的冲击,传统管理软件举步维艰,国内几大ERP厂商都义无反顾地大力投资SaaS。然而,安全、交付模式、运营模式的差异让这些冲锋者壁垒重重,已重砸10亿元的SaaS市场目前依然没有赢家,有着赌徒般拼劲的传统软件商们,谁将率先破局?    至今,在SaaS(软件即服务)阵线上依然义无反顾拼搏的厂商们还记得两年前原阿里软件总经理王涛信誓旦旦的承诺:“马云有远见、目标宏伟,他指明方向,我们
EMC和NetApp竞购重复数据删除厂商Data Domain的戏剧性过程,至今仍让人记忆犹新,最终归于EMC麾下的Data Domain与Avamar一起成为当前EMC在备份恢复市场上的增长点。    斥资24亿美元收购Data Domain公司曾被业界普遍认为是一桩高价收购案,但EMC的CEO乔图斯认定这是物有所值。撇开与竞争对手的博弈不说,单就Data Domain的核心技术和备份恢复市场的
德龙钢铁总经理助理田立新刚开完ERP项目验收会,回到办公室整理相关资料,就不时有人进来递交文件,他或签字或批复文件。虽然田立新仍然很忙碌,不过相比以前,现在已经轻松许多。  钢铁行业是制造业中流程最长的行业,这也就意味着该行业的信息化是最复杂、最难以实施的。业内有这么一个不成文的说法:只要将钢铁行业的信息化做好了,再做其他行业的信息化则不在话下。这种说法表述了一个现实:钢铁企业的信息化是非常难以实
本报综合消息8月10日夜,急于将喜悦与网民分享的网易连夜在《魔兽世界》中国官网发布公告称,《魔兽世界(巫妖王之怒)》已完成所有审批手续,即将正式运营。  公告称,8月9日,网易收到了文化部《进口网络游戏产品批准单》文网进字【2010】021号文。此前,网易已于7月23日收到了上海出版局沪新出科数【2010】252号文。至此,《魔兽世界(巫妖王之怒)》已完成所有审批手续。而《魔兽世界》运营团队在通告
编者按:竞争是当前世界惟一不变的主题词:在激烈的竞争中,我国电子信息产业维持了高增长速度;三大电信运营商针对引入iPad的竞争一触即发;而在全球IT产业链的竞争中,富士康所代表的代工厂生存空间日益变小,引起了一系列社会问题。    本报综合消息 2010年4月,我国规模以上电子信息制造业延续一季度较快增长态势,增速虽较上月略有回落,但仍维持在较高水平。这是5月25日工业和信息化部公布的我国1~4月
近日,联想一体台式机销量正式突破100万台,这不仅标志着一体台式机进入了一个崭新的百万时代,更标志着仅用了一年半的时间,联想已经实现了一体台式机的“主流化”。同时,根据国际知名市场研究机构GFK的统计,截至今年7月,联想一体台式机的市场份额达到74.1%,雄踞一体台式机市场领导者地位。  联想集团家用电脑营销部总经理栾运明在接受《计算机世界》报记者专访时指出,随着以联想B系列一体机为代表的机型开始
编者按:协同管理软件是具有中国特色的细分软件市场,虽然目前总体规模不大,但增长前景非常看好。金和软件就是这个市场里数一数二的厂商,其软件产品中蕴含的“精确管理”思想经过中央电视台、精确管理讲座等途径的放大传播,甚至比金和软件本身更有名。这是一个怎样的企业?思想是怎样编程到软件中的?    冠军档案  成立日期: 1994年  公司定位: 协同管理软件市场  资本市场: 2007年在深圳证券交易所三
曾经轰轰烈烈的宽带无线接入技术WiMAX,随着Intel的退出而显得摇摇欲坠。虽不能就此断言WiMAX彻底失败,但可以说,那个试图利用WiMAX踏进电信圈的IT阵营瓦解了。败得很无奈。  “英特尔的退出势必会大大影响WiMAX的未来,如果在WiMAX的产业链上缺失最重要的芯片环节,那将是巨大的损失。”还没等记者问完问题,Frost