您现在的位置 >> Hadoop教程 >> Hadoop实战 >> 专题  
 

Hadoop到底能做什么?怎么用hadoop?

【作者:Hadoop实战专家】【关键词:结点 分布式计算 数据 关系型数据库 】 【点击:82247次】【2013-09-0】
Hadoop=HDFS(文件系统,数据存储技术相关)+ Mapreduce(数据处理),Hadoop的数据来源可以是任何形式,在处理半结构化和非结构化数据上与关系型数据库相比有更好的性能,具有更灵活的处理能力,不管任何数据形式最终会转化为key/value,key/value是基本数据单元。  

相关热门搜索:分布式计算 分布式计算框架

大数据标签:hadoop hdfs mapreduce hive mahout bigdata

hadoop是什么?
(1)Hadoop是一个开源的框架,可编写和运行分布式应用处理大规模数据,是专为离线和大规模数据分析而设计的,并不适合那种对几个记录随机读写的在线事务处理模式。Hadoop=HDFS(文件系统,数据存储技术相关)+ Mapreduce(数据处理),Hadoop的数据来源可以是任何形式,在处理半结构化和非结构化数据上与关系型数据库相比有更好的性能,具有更灵活的处理能力,不管任何数据形式最终会转化为key/value,key/value是基本数据单元。用函数式变成Mapreduce代替SQL,SQL是查询语句,而Mapreduce则是使用脚本和代码,而对于适用于关系型数据库,习惯SQL的Hadoop有开源工具hive代替。
(2)Hadoop就是一个分布式计算的解决方案.
hadoop能做什么?

hadoop擅长日志分析,facebook就用Hive来进行日志分析,2009年时facebook就有非编程人员的30%的人使用HiveQL进行数据分析;淘宝搜索中    的 自定义筛选也使用的Hive;利用Pig还可以做高级的数据处理,包括Twitter、LinkedIn 上用于发现您可能认识的人,可以实现类似Amazon.com的协同过滤的推荐效果。淘宝的商品推荐也是!在Yahoo!的40%的Hadoop作业是用pig运行的,包括垃圾邮件的识别和过滤,还有用户特征建模。(2012年8月25新更新,天猫的推荐系统是hive,少量尝试mahout!)

下面举例说明:

设想一下这样的应用场景. 我有一个100M 的数据库备份的sql 文件.我现在想在不导入到数据库的情况下直接用grep操作通过正则过滤出我想要的内容。例如:某个表中 含有相同关键字的记录那么有几种方式,一种是直接用linux的命令 grep 还有一种就是通过编程来读取文件,然后对每行数据进行正则匹配得到结果好了 现在是100M 的数据库备份.上述两种方法都可以轻松应对.
那么如果是1G , 1T 甚至 1PB 的数据呢 ,上面2种方法还能行得通吗? 答案是不能.毕竟单台服务器的性能总有其上限.那么对于这种 超大数据文件怎么得到我们想要的结果呢?
有种方法 就是分布式计算, 分布式计算的核心就在于 利用分布式算法 把运行在单台机器上的程序扩展到多台机器上并行运行.从而使数据处理能力成倍增加.但是这种分布式计算一般对编程人员要求很高,而且对服务器也有要求.导致了成本变得非常高.
Haddop 就是为了解决这个问题诞生的.Haddop 可以很轻易的把 很多linux的廉价pc 组成 分布式结点,然后编程人员也不需要知道分布式算法之类,只需要根据mapreduce的规则定义好接口方法,剩下的就交给Haddop. 它会自动把相关的计算分布到各个结点上去,然后得出结果.
例如上述的例子 : Hadoop 要做的事 首先把 1PB的数据文件导入到 HDFS中, 然后编程人员定义好 map和reduce, 也就是把文件的行定义为key,每行的内容定义为value , 然后进行正则匹配,匹配成功则把结果 通过reduce聚合起来返回.Hadoop 就会把这个程序分布到N 个结点去并行的操作.
那么原本可能需要计算好几天,在有了足够多的结点之后就可以把时间缩小到几小时之内.

这也就是所谓的 大数据 云计算了.如果还是不懂的话再举个简单的例子
比如  1亿个  1 相加 得出计算结果, 我们很轻易知道结果是 1亿.但是计算机不知道.那么单台计算机处理的方式做一个一亿次的循环每次结果+1
那么分布式的处理方式则变成 我用 1万台 计算机,每个计算机只需要计算 1万个 1 相加 然后再有一台计算机把 1万台计算机得到的结果再相加
从而得到最后的结果.
理论上讲, 计算速度就提高了 1万倍. 当然上面可能是一个不恰当的例子.但所谓分布式,大数据,云计算 大抵也就是这么回事了.

hadoop能为我司做什么?
零数据基础,零数据平台,一切起点都是0。

* 日志处理
* 用户细分特征建模
* 个性化广告推荐
* 智能仪器推荐
*    一切以增加企业的商业价值为核心目的、最终目的

怎么用hadoop

* hadoop的应用的在我司还属于研发型项目,拟用日志的分析来走通一次流程,因为此阶段目前来说还不需要数据挖掘的专业人员,在数据分析阶段即可,而系统有数据库工程师,Mapreduce有java开发工程师,而分析由我本人介入,而可视化暂时可由前端JS实现,本来我的调研方案,针对大数据的解决方案是hadoop+R的,但是对于R我们是完全不懂,在公司还没有大量投入人员的情况下,只有日志分析目前看来是最容易出成果的,也是可以通过较少人员能出一定成果的,所以选取了这个方向作为试点。

大数据系列相关文章:

最新评论
阿龙2014-09-10 06:49:46
好好查查 这个异常是什么原因
小金牛2014-09-09 02:01:44
不晚,大四时间多啊,一年
深ai2014-09-08 07:07:36
九头蛇与大象之争,Hydra或将取代Hadoop http://t.cn/8swP858 (via @推酷网)
坚强的某某2014-09-08 02:22:30
你们觉得呢?
简单果冻2014-09-07 06:51:35
已收藏,推荐大家观看!【视频:深入浅出Hadoop实战开发-短信话单应用】|深入浅出Hadoop实战开发-短信话单应用(来 @优酷教育 看我更多收藏视频:http://t.cn/8sNobhv)
奔腾2014-09-07 07:26:55
【Hadoop平台的基本组成与生态系统】Hadoop系统运行于一个由普通商用服务器组成的计算集群上,该服务器集群在提供大规模分布式数据存储资源的同时,也提供大规模的并行化计算资源。图1-15展示了Hadoop平台的基本组成与生态系统。http://t.cn/Rh7xtPB
韦一笑2014-09-07 07:49:14
[图片] 番禺市桥的路过 [图片]
Sam2014-09-06 10:54:43
真心推荐非广告
小哥2014-09-05 07:33:21
San Jose的Hadoop的供应商MapR Technologies获8000万美元新轮融资,领投为Google Capital和Qualcomm Ventures,之前投资者Lightspeed Venture, Mayfield Fund, NEA和Redpoint参投。MAPR同时向硅谷银行筹3000万美元债务融资。MAPR是企业级大数据平台,用于金融服务,零售,传媒,医保和政府,准备IPO。
逸笙2014-09-05 02:33:30
开源力量推荐: “云平台与架构应用实战”免费技术沙龙每日推荐: http://t.cn/8FQLJKT Linux内核开发技术推荐: http://t.cn/8FObC9Y 大数据Hadoop相关技术推荐: http://t.cn/8FH0cdT Linux系统虚拟化技术推荐: http://t.cn/8F82nGP
 
  • Hadoop生态系统资料推荐