博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Ranger安装部署
阅读量:4091 次
发布时间:2019-05-25

本文共 6333 字,大约阅读时间需要 21 分钟。

1. 概述

  Apache Ranger是大数据领域的一个集中式安全管理框架,目的是通过制定策略(policies)实现对Hadoop组件的集中式安全管理。用户可以通过Ranger实现对集群中数据的安全访问。

2. Ranger内部组件

  Ranger由三个模块组成:Ranger内部组件、依赖组件、扩展性组件。

2.1 内部组件

  包含的内部组件如下:

  • Ranger Admin 用户管理策略,提供WebUI和RestFul接口
  • Ranger UserSync 用于将Unix系统或LDAP用户/组同步到RangerAdmin
  • Ranger TagSync 同步Atlas中的Tag信息,基于标签的权限管理,当一个用户的请求涉及到多个应用系统中的多个资源的权限时,可以通过只配置这些资源的tag方便快速的授权
  • Ranger KMS 对hadoop KMS的策略管理和密钥管理

  注:Apache atlas 是Hadoop社区为解决Hadoop生态系统的元数据治理问题而产生的开源项目,它为Hadoop集群提供了包括数据分类、集中策略引擎、数据血缘、安全和生命周期管理在内的元数据治理核心能力。  

2.2 依赖组件

  • JDK8 用于运行RangerAdmin、RangerKMS
  • Python2.7 用于Ranger自动化安装
  • Maven3.6 用于Ranger编译
  • RDMS 用于存储授权策略,存储Ranger用户/组,存储审核日志
  • Solr(可选) 存储日志
  • Kerberos(可选) 确保所有请求都被认证

2.3 扩展性组件

  HDFSHBASEHIVEYARN、KNOX、STORM、SOLR、KAFKA、NIFI、KYLIN、NIFI-REGISTRY、SQOOP、ATLAS、ELASTICSEARCH、PRESTO、OZONE

2.4 总体架构

  

3. Ranger编译

  Ranger官网源码包最新版本是2.0.0,不提供二进制安装包,故需要maven编译。目前测试使用的版本为:

ranger版本 2.0.0
hadoop版本 2.7.3
hbase版本  
hive版本   2.1.0         
postgres版本       11
python版本 2.7

3.1 官网下载源码包

# wget http://mirrors.tuna.tsinghua.edu.cn/apache/ranger/2.0.0/apache-ranger-2.0.0.tar.gz

3.2 下载maven

  编译安装需要使用到maven,下载如下:

# wget http://mirrors.tuna.tsinghua.edu.cn/apache/maven/maven-3/3.6.2/binaries/apache-maven-3.6.2-bin.tar.gz

  解压,并添加环境变量,同时修改maven的Java堆内存最大值,避免编译内存溢出

# tar -zxvf apache-maven-3.6.2-bin.tar.gz# vim /etc/bashrcexport MAVEN_HOME=/opt/app/apache-maven-3.6.2export PATH=$PATH:$MAVEN_HOME/binMAVEN_OPTS=-Xmx2048mexport JAVA_HOME MAVEN_HOME MAVEN_OPTS JAVA_BIN PATH CLASSPATH

  修改maven源为阿里源或其他源

# pwd/opt/app/apache-maven-3.6.2/conf# vim settings.xml
nexus-aliyun
central
Nexus aliyun
http://maven.aliyun.com/nexus/content/groups/public
CN
OSChina Central
http://maven.oschina.net/content/groups/public/
central
alimaven
central
aliyun maven
https://maven.aliyun.com/nexus/content/repositories/central/
jboss-public-repository-group
central
JBoss Public Repository Group
https://repository.jboss.org/nexus/content/groups/public

3.3 编译Ranger

  首次编译ranger,需要时间比较长,时间主要用于maven下载相应的依赖包,时间快慢取决于机器网络带宽。

# pwd/opt/app/apache-ranger-2.0.0# mvn clean compile package assembly:assembly install -DskipTests -Drat.skip=true

  编译完成如下:

  编译完成后,在当前目录下的target会生成相应的tar包文件,如下:

   接下来就可以使用这些编译完成二进制tar文件。

  注:如果在编译安装的时候,需要对Hadoop、HBase、Hive等相应的版本有要求,那么可以在下载的源代码目录下pom.xml文件里面,修改Hadoop组件的相应版本,否则会导致后面使用的时候,出现版本兼容性问题。 

# pwd/opt/app/apache-ranger-2.0.0# vim pom.xml

4. Ranger-admin安装部署

  安装ranger-admin的机器可以不在Hadoop集群内部,可以是随便一台。

4.1 准备

4.1.1 检测是否安装python2

# pythonPython 2.7.5 (default, Aug  4 2017, 00:39:18) [GCC 4.8.5 20150623 (Red Hat 4.8.5-16)] on linux2Type "help", "copyright", "credits" or "license" for more information.>>> 如果没有检测到python2,则执行下面的命令# yum -y install python

4.1.2 postgres数据库安装以及下载驱动包

  请自行百度安装,在postgres安装目录 data下修改pg_hba.conf文件,使postgres可以被远程服务器访问,修改为如下:

# Allow replication connections from localhost, by a user with the# replication privilege.#host    replication     all             127.0.0.1/32            md5#host    replication     all             ::1/128                 md5host      all             all             0.0.0.0/0               md5

  从maven源库下载,

  把postgresql-42.2.8.jar下载,并创建 /usr/share/java/ 目录,最后转移到该目录下

# wget https://repo1.maven.org/maven2/org/postgresql/postgresql/42.2.8/postgresql-42.2.8.jar# mkdir -p /usr/share/java# mv postgresql-42.2.8.jar /usr/share/java/

4.2 解压ranger-admin软件包

# pwd/opt/app/apache-ranger-2.0.0/target# tar -zxvf ranger-2.0.0-admin.tar.gz

4.3 修改install.properties文件

# pwd/opt/app/apache-ranger-2.0.0/target/ranger-2.0.0-admin# vim install.properties

  修改install.properties文件,这里使用的数据库是postgres,不安装solr服务

1)数据库配置DB_FLAVOR=POSTGRES #指明使用数据库类型SQL_CONNECTOR_JAR=/usr/share/java/postgresql-42.2.8.jar #数据库连接驱动db_root_user=postgres        #数据库root用户名db_root_password=postgres #数据库主机db_host=192.168.1.33:5432 #数据库密码# 以下三个属性是用于设置ranger数据库的db_name=ranger          #数据库名db_user=postgres        #管理该数据库用户db_password=postgres    #密码# 不需要保存,为空,否则生成的数据库密码为'_'cred_keystore_filename=2) 审计日志, 如果没有安装solr,对应的属性值为空即可audit_store=audit_solr_urls=audit_solr_user=audit_solr_password=audit_solr_zookeepers=3)策略管理配置,配置ip和端口,默认即可policymgr_external_url=http://localhost:60804) 配置hadoop集群的core-site.xml文件,把core-site.xml文件拷贝到该目录hadoop_conf=/etc/hadoop/conf5) rangerAdmin、rangerTagSync、rangerUsersync、keyadmin密码配置。默认为空,可以不配,对应的内部组件该属性也要为空rangerAdmin_password=rangerTagsync_password=rangerUsersync_password=keyadmin_password=

4.4 初始化ranger-admin

# pwd/opt/frame-tools/apache-ranger-2.0.0/target/ranger-2.0.0-admin# ./setup.sh

  初始化结果如下则成功:

   接着,运行set_globals.sh

# ./set_globals.sh usermod: no changes[2019/11/27 21:54:32]:  [I] Soft linking /etc/ranger/admin/conf to ews/webapp/WEB-INF/classes/conf

4.5 启动ranger-admin

# ranger-admin start 或者# ./ews/ranger-admin-services.sh start

  Ranger的默认端口是6080,如图,则表明程序正常启动

  查看Ranger Admin Server运行的日志情况,日志路径默认为 ews/log , 软链接到 /var/log/admin ,如下:

  Ranger Admin Server的具体配置文件为 ranger-admin-site.xml ,如下:

  浏览器连接测试:http://192.168.1.10:6080,登录界面用户名和密码为:admin/admin,登录进去界面如下:

5. Ranger-usersync安装部署

5.1 解压ranger-usersync软件包

# pwd/opt/frame-tools/apache-ranger-2.0.0/target# tar -zxvf ranger-2.0.0-usersync.tar.gz

5.2 修改install.property文件

# pwd/opt/app/apache-ranger-2.0.0/target/ranger-2.0.0-usersync# vim install.properties配置ranger admin的地址POLICY_MGR_URL = http://localhost:6080同步源系统类型SYNC_SOURCE = unix同步间隔时间SYNC_INTERVAL = 1usersync程序运行的用户和用户组unix_user=usersyncunix_group=usersync修改rangerusersync用户的密码。注意,此密码应与Ranger admin中install.properties的rangerusersync_password相同。此处可以为空,同样Ranger admin的也要为空rangerUsersync_password=配置hadoop的core-site.xml路径hadoop_conf=/etc/hadoop/conf配置usersync的log路径logdir=logs

5.3 初始化ranger-usersync

# pwd/opt/app/apache-ranger-2.0.0/target/ranger-2.0.0-usersync# ./setup.sh

  执行结果:

 

5.4 启动ranger-usersync

# ranger-usersync start或# pwd/opt/frame-tools/apache-ranger-2.0.0/target/ranger-2.0.0-usersync# ./ranger-usersync-services.sh start

   验证是否安装成功,如图则成功:

总结

【参考资料】

转载地址:http://wkcii.baihongyu.com/

你可能感兴趣的文章
前端设计之CSS布局:上中下三栏自适应高度CSS布局
查看>>
Java的时间操作玩法实例若干
查看>>
JavaScript:时间日期格式验证大全
查看>>
pinyin4j:拼音与汉字的转换实例
查看>>
XML工具代码:SAX从String字符串XML内获取指定节点或属性的值
查看>>
时间日期:获取两个日期相差几天
查看>>
责任链模式 Chain of Responsibility
查看>>
高并发与大数据解决方案概述
查看>>
解决SimpleDateFormat线程安全问题NumberFormatException: multiple points
查看>>
MySQL数据库存储引擎简介
查看>>
处理Maven本地仓库.lastUpdated文件
查看>>
Kafka | 请求是怎么被处理的?
查看>>
Java并发编程1-线程池
查看>>
CentOS7,玩转samba服务,基于身份验证的共享
查看>>
计算机网络-网络协议模型
查看>>
计算机网络-OSI各层概述
查看>>
Java--String/StringBuffer/StringBuilder区别
查看>>
mySQL--深入理解事务隔离级别
查看>>
分布式之redis复习精讲
查看>>
数据结构与算法7-栈
查看>>