大数据运维,原来工作的内容是这些

大数据
后台-插件-广告管理-内容页头部广告(手机)

今天跟大家分享一下大数据运维的主要工作内容,首先我们了解大数据运维和传统的区别,

大数据运维和传统运维的不同:

•  传统运维面对的底层软硬件基本稳固,大数 据运维面对的是商用硬件和复杂Linux版本

•  传统运维面对单机架构为主,大数据运维面 对复杂的分布式架构

•  传统运维大多维护闭源商业版系统,大数据运维通常面对开源系统,文档手册匮乏,对 阅读源码要求高

•  大数据运维对自动化工具的依赖大大增加

大数据运维,原来工作的内容是这些

运维三把斧子已经远远不足以维护分布式的大数据平台了,简单介绍一下三把斧子,重启:把有问题的服务器或者程序重启,切换:主备切换,查杀:把有问题的进程或者链接kill掉,三板斧可以解决90%以上的故障处理工作,但是面对复杂的分布式集群它就鞭长莫及了。

IaaS层运维一般中大型企业有自己的基础设施维护团队或者外包三方维护,这部分工作不会交给大数 据运维来做,大数据运维主要是:hadoop的运维、包括容量管理、进程管理、配置管理、故障处理等。kafka的运维,关注吞吐量、负载均衡、消息不丢机制,topics管理等。hbase运维,关注读写性能、服务的可用性,节点维护等。Hive/Impala运维,元数据管理、sql问题排查等。

后台-插件-广告管理-内容页尾部广告(手机)
标签:

评论留言

我要留言

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。