ClouderaManager指的是什么?有哪些功能?

Cloudera Manager是用于管理CDH群集的端到端应用程序。Cloudera Manager通过对CDH集群的每个部分提供细粒度的可视性和控制来设置企业部署的标准,使运营商能够提高性能,提高服务质量,提高合规性并降低管理成本。

使用Cloudera Manager,可以轻松部署和集中操作完整的CDH堆栈和其他托管服务(Hadoop、Spark、Kudu、Impala)。其特点:应用程序的安装过程自动化,将部署时间从几周缩短到几分钟; 并提供运行主机和服务的集群范围的实时监控视图; 提供单个中央控制台,以在整个群集中实施配置更改; 并集成了全套的报告和诊断工具,可帮助您优化性能和利用率。

Cloudera Manager的核心是Cloudera Manager Server。提供了统一的UI和API方便用户和集群上的CDH以及其它服务进行交互,并实施监控和诊断等。

CM Server还负责安装配置CDH和其相关的服务软件,启动停止服务,维护集群中各个节点服务器以及上面运行的进程。

ClouderaManager指的是什么?有哪些功能?

Agent:安装在每台主机上。它负责启动和停止进程,解压缩配置,触发安装和监控主机

Management Service:执行各种监控、报警和报告功能的一组角色的服务。

Database:存储配置和监控信息

Cloudera Repository:可供Cloudera Manager分配的软件的存储库

Client:用于与服务器进行交互的接口

Admin Console:管理员控制台

API:开发人员使用 API可以创建自定义的Cloudera Manager应用程序

ClouderaManager功能

信号检测

默认情况下,Agent 每隔 15 秒向 Cloudera Manager Server 发送一次检测信号。但是,为了减少用户延迟,在状态变化时会提高频率。

状态管理

模型状态捕获什么进程应在何处运行以及具有什么配置 。

运行时状态是哪些进程正在何处运行以及正在执行哪些命令(例如:重新平衡 HDFS 或执行备份/灾难恢复计划或集群升级、停止) 。

​ 当您更新配置(例如Hue Server Web 端口)时,您即更新了模型状态。但是,如果 Hue 在更新时正在运行,则它仍将使用旧端口。当出现这种不匹配情况时,角色会标记为具有“过时的配置”。要重新同步,您需重启角色(这会触发重新生成配置和重启进程)。

​ 特殊情况如果要加入一些cloudera manager控制台没有的属性时候,都在高级配置选项里面嵌入。

服务器和客户端配置

​ 例如使用HDFS,

/opt/cloudera/parcels/CDH/lib/hadoop/etc/hadoop目录下仅包含与 HDFS 客户端相关的配置。

​ 而 HDFS 角色实例(例如:NameNode 和 DataNode)会从

/var/run/cloudera-scm-agent/process/812-hdfs-NAMENODE、820-hdfs-DATANODE 下的每个进程专用目录获取它们的配置,真正产生作用的是这个。

主机管理

​ Cloudera Manager 作为群集中的托管主机身份:JDK、Cloudera Manager Agent、CDH、Impala、Solr 等参与所需的所有软件部署到主机 。

​ Cloudera Manager 提供用于管理参与主机生命周期的操作以及添加和删除主机的操作。

​ Cloudera Management Service Host Monitor 角色执行运行状况检查并收集主机度量,以使您可以监控主机的运行状况和性能。

进程管理

​ 在 Cloudera Manager 管理的群集中,只能通过 Cloudera Manager 启动或停止服务。Cloudera Manager 使用一种名为 supervisord 的开源进程管理工具,它会重定向日志文件,通知进程失败,为合适用户设置调用进程的有效用户 ID 等等。Cloudera Manager 支持自动重启崩溃进程。如果一个角色实例在启动后反复失败,Cloudera Manager 还会用不良状态标记该实例。

​ 特别需要注意的是,停止 Cloudera Manager 和 Cloudera Manager Agent 不会停止群集;所有正在运行的实例都将保持运行。

​ Agent 的一项主要职责是启动和停止进程。当 Agent 从检测信号检测到新进程时,Agent 会在

/var/run/cloudera-scm-agent 中为它创建一个目录,并解压缩配置 。

​ Agent 受到监控,属于 Cloudera Manager 的主机监控的一部分:如果 Agent 停止检测信号,主机将被标记为运行状况不良。

身份验证

​ Hadoop中身份验证的目的仅仅是证明用户或服务确实是他或她所声称的用户或服务 。

​ 通常,企业中的身份验证通过单个分布式系统(例如:轻型目录访问协议 (LDAP) 目录)进行管理,LDAP 身份验证包含由各种存储系统提供支持的简单用户名/密码服务,ranger+ldap+freeipa。

​ Hadoop 生态系统的许多组件会汇总到一起来使用 Kerberos 身份验证并提供用于在 LDAP 或 AD 中管理和存储凭据的选项。

授权

CDH 当前提供以下形式的访问控制:

适用于目录和文件的传统 POSIX 样式的权限 。

适用于 HDFS 的扩展的访问控制列表 (ACL) 。

Apache HBase使用ACL来按列、列族和列族限定符授权各种操作 (READ, WRITE, CREATE, ADMIN)。

使用 Apache Sentry 基于角色进行访问控制。

Cloudera Management Service

功能:可作为一组角色实施各种管理功能

Activity Monitor:收集关于MapReduce服务运行的活动的信息。默认情况下不添加此角色。

Host Monitor:收集有关主机的运行状况和指标信息。

Service Monitor:从YARN和Impala服务中收集关于服务和活动信息的健康和度量信息。

Event Server:聚合组件的事件并将其用于警报和搜索。

Alert Publisher :为特定类型的事件生成和提供警报。

Reports Manager:生成图表报告,按用户,用户组和目录提供磁盘利用率的历史视图,按用户和YARN池处理活动,以及HBase表和命名空间。Cloudera Express中未添加此角色。

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:ClouderaManager指的是什么?有哪些功能? https://www.dachanpin.com/a/cyfx/10875.html

(0)
上一篇 2023-05-12 02:27:09
下一篇 2023-05-12 02:28:10

相关推荐

  • 如何不让中国贫困地区青年创业短命 专家现场支招

      其次以返乡下乡创业青年作为重点,引导更多的有志青年到乡村去,实现乡村振兴。以城乡融合、产业融合为抓手,集中资源扶持重点领域产业,支持创业就业咨询服务领域青年创业很有前景。   团队调研了471份问卷调查情况,一个企业寿命1-2年、2-4年是大多数。市场供求与价格变动风险、技术水平不足风险、自然灾害、产业发展政策等,是对贫困地区创业者最大的几个风险因素。 …

    创业分享 2023-05-12
    149
  • 晋江出台政策鼓励吸引大学生就业创业 中国劳动保障新闻网

      《意见》加大了保障就业、鼓励创业、注重帮扶三个方面的力度。在保障就业方面,放宽用人单位吸纳高校毕业生社保补贴、优秀毕业生社会保险补贴、自助创业高校毕业生适用条件,扩大政策受惠面,鼓励吸纳高校毕业生就业。鼓励创业方面,每年举办大学生创新创业大赛,并分别给予优秀项目、落地项目3千-1万元、1万-3万元奖励。对大学生创业项目采取工商注册专人专件办理、场租优惠、…

    创业分享 2023-05-13
    106
  • 全国新农民新技术创业创新博览会在南京开幕

       11月15日,由农业农村部、中央网信办和江苏省政府共同主办的全国新农民新技术创业创新博览会在南京开幕。上午举办了以“打造农村双创升级版、增强乡村振兴新动能”为主题的全国新农民新技术创业创新论坛,省委书记、省人大常委会主任娄勤俭致辞,中央农办主任、农业农村部部长韩长赋讲话。   娄勤俭在致辞中说,习近平总书记对江苏“三农”工作十分关心,作出一系…

    2023-05-13
    146
  • 浙江桐乡落地首家“创业银行” 助大学生实现创业梦

      “所以‘创业银行’不单单是一个金融平台,今后我们将依托该平台,为创业者提供各个方面的支持。”沈富春表示。 图为桐乡市委书记为大学生“站台吆喝”。 陈为民 摄   “大学生拥有知识、技术和创业热情,但缺乏专门的服务机构,创业存在一定的盲目性,成功率低。”桐乡市农商银行董事长陆高林在接受采访时介绍,“创业银行”的主要特点在于融合了金融与非金融功能,资金支持、…

    2023-05-13
    131
  • 河南返乡创业经验交流暨工作推进会召开陈润儿出席会议并讲话

    原标题:认真总结实践经验 大力改善优化环境 发挥返乡创业效应 推动乡村全面振兴 8月17日,全省返乡创业经验交流暨工作推进会召开。会议深入贯彻落实习近平新时代中国特色社会主义思想,贯彻省委十届九次全会精神,总结交流经验,部署下步工作,强调要发挥返乡创业效应,推动乡村全面振兴。省长陈润儿,人力资源和社会保障部副部长、党组成员游钧出席会议并讲话。 “工作格局更趋…

    创业分享 2023-05-12
    86

发表回复

登录后才能评论

联系我们

在线咨询: QQ交谈

邮件:362039258@qq.com

工作时间:周一至周五,9:30-16:30,节假日休息