Hive的工作原理是什么?Hive和Hadoop执行任务的流程

Hive是基于Hadoop的一个数据仓库工具,主要用来对数据进行抽取、转换、加载操作。HiveQL可以将结构化的数据文件映射为一张数据表,允许熟悉SQL的用户查询数据,也允许熟悉MapReduce的开发者开发自定义的mapper和reducer来处理内建的mapper和 reducer无法完成的复杂的分析工作,相对于Java代码编写的MapReduce来说,Hive的优势更加明显。Hive利用Hadoop的HDFS存储数据,利用Hadoop的MapReduce执行查询。

Hive的工作原理是什么?Hive和Hadoop执行任务的流程

Hive和Hadoop协作执行任务的工作原理

(1) 用户通过用户接口向Driver提交executeQuery。

(2) Driver向Compiler发送获取计划的请求。

(3) Compiler根据用户提交的executeQuery去MetaStore获取需要的元数据信息。

(4) MetaStore向Compiler发送元数据信息。

(5) Compiler得到元数据信息,并向Driver发送计划。

(6) Driver 向EXECUTION ENGINE提交executePlan。

(7) 用户接口向Driver发起获取结果集(fetchResults)的请求。

(8)Driver向EXECUTION ENGINE发起获取结果集的请求。

(9)EXECUTION ENGINE向Driver发送结果集,Driver获取到结果集后返回用户接口。

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:Hive的工作原理是什么?Hive和Hadoop执行任务的流程 https://www.dachanpin.com/a/cyfx/10942.html

(0)
上一篇 2023-05-12 02:35:27
下一篇 2023-05-12 02:36:29

相关推荐

  • 首次爆料 宠才网BOSS创业经历

      宠才网是一家专注于宠物行业的招聘网站,从创业之初的艰辛到现今能够成为业内耳熟闻详的网站。帮助数十万用户快速精准的招聘求职,在垂直招聘领域取得不菲的成绩。笔者有幸接触到宠才网的创始人——张书峰,并了解到他创业的故事。   众所周知,创业成功的三个必备条件:1.敢于尝试的勇气,2.持之以恒的恒心,3.选择一个比较有前景的项目。   特意提及这三个条件,是因为…

    创业分享 2023-05-30
    82
  • AI与其他产业的结合点都有哪些

    AI技术已经在很多行业中得到应用,并且在未来还有巨大的拓展空间。以下是几个AI技术与其他产业结合的案例: 医疗保健行业:AI技术可以进行医学诊断、医学影像分析、药物研发等,提高医疗效率和精度,减少医疗事故和人力资源的浪费。 金融行业:AI技术可以用于贷款评估、风险评估、投资管理等,提高金融服务的效率和精度,减少风险和人工成本。 餐饮行业:AI技术可以通过客流…

    创业分享 2023-05-10
    53
  • 从认知到交易,洗之朗重构2020年创业逻辑

      2019年,经济很寒,但“私域流量”很火!     因为向BATJ、双微一抖一头条超级平台购买流量的成本已经越来越高了:一个用户的单次引流成本基本都在千元以上了(按照CPA结算)。而在“寒冬“中,所有的企业都渴望获取更能多的“私域流量”拉动增量。     高成本重压之下,私域流量无疑成…

    创业分享 2023-05-12
    76
  • 石家庄小吃培训学校引领青年创业

    原标题:石家庄小吃培训学校引领青年创业 随着社会经济持续告诉增长,社会财富迅速增加,广大人民群众收入水平不断提高,生活方式随之发生巨大变化,为餐饮业的发展提供了无限可能,使得小吃行业更为火爆。最近多家新闻媒体上都报道了大学生选择小吃培训行业创业成功的案例,所以小吃培训成为石家庄创业者优先选择的行业。 选择一个正规的小吃培训学校尤为重要,结合自己的特长和爱好,…

    创业分享 2023-05-26
    113
  • 分析:深市逾九成公司实现盈利 创业板服务创新创业

    【新闻评论】   深交所5月1日发布的《深交所多层次资本公司业绩整体实现较快增长,盈利质量有所提高,三个板块差别化发展格局继续强化——主板市场化蓝筹持续做优做强,资本运作为国企改革注入新动力;中小板稳步增长助力结构转型,涌现一批细分行业龙头;创业板服务创新创业,为经济发展聚集新动能。 研究:海润影业星光不再 亏损持续扩大   通过观察可以发现,处于亏损状态的…

    2023-05-24
    69

发表回复

登录后才能评论

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信