以Hadoop为核心的大数据开放平台建设

概要
本次演讲将主要介绍如何建设以Hadoop为核心,以Avro为关键技术,融合Flume、Oozie、Hadoop、Spark、Storm、Solr等技术的大数据开放平台,并分享在分布式日志收集、基于大数据的统计分析方面的心得与经验,深入解读Doug Cutting的EcoSystem思想,剖析Avro技术的独到之处,探讨该怎样融合技术提供优秀的开发平台。

个人简介

孙利兵,科大讯飞云平台研发部资深大数据架构师,早期就曾接触Hadoop分布式计算技术,对Mapreduce分布式计算亦有很深刻的理解。精通Avro技术,在2008年曾编写了应用于实际环境的AvroMapreduce编程库,对Doug Cutting的以Hadoop为核心,Avro为关键技术的EcoSystem构想非常向往,并推进在科大讯飞云计算组工作中进行实践,打造了Maple(大数据开放平台)。

QCon是由InfoQ主办的全球顶级技术盛会,每年在伦敦、北京、东京、纽约、圣保罗、杭州、旧金山召开。自2007年3月份首次举办以来,已经有包括传统制造、金融、电信、互联网、航空航天等领域的近万名架构师、项目经理、团队领导者和高级开发人员参加过QCon大会。

你可能感兴趣的:(以Hadoop为核心的大数据开放平台建设)