基於Hadoop HA 在kerberos中配置datax

news/2024/5/20 5:30:37 标签: hadoop, hdfs, 大数据, kerberos, datax

概要

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录

    • 概要
  • 前言
  • 一、基於HADOOP HA 搭建datax
  • 二、基於HADOOP HA 配置好的datax去配置kerberos
    • 1.在datax的配置文件中進行配置
    • 2.在shell腳本中加入認證語句
  • 总结


前言

基於Hadoop HA 在kerberos中配置datax

目的是基於HAODOP HA集群在kerberos中配置datax,配置分為兩個步驟進行:
1.基於HADOOP HA 搭建datax
2.在1的基礎上,在kerberos中配置datax


datax_15">一、基於HADOOP HA 搭建datax

1.解壓官網下載的datax
2.將hadoop中的配置文件:core-site.xml hdfs-site.xml 和hive中的hive-site.xml這個三個文件放入到datax中的hdfswriter和hdfsreader中

在这里插入图片描述

dataxkerberos_21">二、基於HADOOP HA 配置好的datax去配置kerberos

這裡有兩種方案:

datax_23">1.在datax的配置文件中進行配置

datax的配置文件中,添加如下內容,這裡添加的是hdfskerberos認證

"haveKerberos": true,
"kerberosKeytabFilePath": "/etc/security/keytab/hdfs.keytab",
"kerberosPrincipal": "hdfs/hadoop@EXAMPLE.COM"

2.在shell腳本中加入認證語句

1.在各节点创建hive用户,如已存在则跳过

[root@hadoop102 ~]# useradd hive -g hadoop
[root@hadoop102 ~]# echo hive | passwd --stdin hive

2.为hive用户创建Keberos主体
1)创建主体

[root@hadoop102 ~]# kadmin -padmin/admin -wNTVfPQY9kNs6  -q"addprinc -randkey hive"

2)生成keytab文件

[root@hadoop102 ~]# kadmin -padmin/admin -wNTVfPQY9kNs6  -q"xst -k /etc/security/keytab/hive.keytab hive"

3)修改keytab文件所有者和访问权限

[root@hadoop102 ~]# chown hive:hadoop /etc/security/keytab/hive.keytab
[root@hadoop102 ~]# chmod 440 /etc/security/keytab/hive.keytab

4)分发keytab文件

[root@hadoop102 ~]# xsync /etc/security/keytab/hive.keytab

5)修改datax每日同步脚本,在顶部增加如下认证语句

kinit -kt /etc/security/keytab/hive.keytab hive

总结

推薦第二種方式,非常的簡便,也非常的好用


http://www.niftyadmin.cn/n/457892.html

相关文章

国产MCU有哪些?

国产MCU有哪些? 文章目录 国产MCU有哪些?1、家电和消费电子2、物联网3、智能表计/IC卡和安全4、计算机和网络通信5、工业控制6、汽车电子7、总结 MCU是微控制器的简称,是一种集成了CPU、RAM、ROM、I/O等功能的单片机,广泛应用于各…

新电脑机环境安装笔记

「Navicat_15.0.25_64bit_Setup.exe」 下载https://www.aliyundrive.com/s/b9xUw2JpuJb Navicat Keygen Patch v5.6.0 下载 https://www.aliyundrive.com/s/YYyE5BQMMuN 全程断网操作 patch 将安装目录选中 提示 check 64 mysql安装: https://baijiahao.baidu…

linux如何设置守护进程

第一步:创建执行sh脚本,设置执行权限 #!/bin/bash # 检测的应用程序名称 APP_NAME"clash-linux-amd64-v1.13.0" while true; do # 检测应用程序是否正在运行 if ps -ef | grep clash-linux-amd64-v1.13.0 |grep -v grep >/dev/nul…

如何成为合格的测试开发工程师

😄作者简介: 小曾同学.com,一个致力于测试开发的博主⛽️,主要职责:测试开发、CI/CD 如果文章知识点有错误的地方,还请大家指正,让我们一起学习,一起进步。😊 座右铭:不想…

mtk preloader简介

前言 preloader按照mtk的说法是MTK in-house developed loader,也就说是mtk内部开发的一个loader,那么单独编译preloader也是可以的,使用命令./mk project_name n pl。 文章目录 前言计算机系统中常用的存储器类型1、启动流程2、下载流程3、代…

测试技术体系

目录: 软件测试分类分层测试体系 1.软件测试分类 软件测试的分类_安全性测试属于功能测试吗_阿瞒有我良计15的博客-CSDN博客 1.单元测试(Unit Testing):单元测试是指对软件的最小可测试单元进行测试,例如一个函数、一…

【JavaScript】arr.join()和arr.split()方法

join() 和 split() 是 JavaScript 数组的两个常用方法,用于处理字符串和数组之间的转换。 join() 方法: join() 方法将数组的所有元素连接成一个字符串,并返回该字符串。可以通过指定一个可选的分隔符将数组元素连接在一起。 示例&#xff1a…

ps beta爱国版下载全过程

​前言: 前段时间也是写了一篇ps beta版本下载的全过程呀,当时那篇文章还没有将软件变成永久免费试用,所以ps beta只能进行7天的免费使用,很多朋友可能意犹未尽呀,所以现在继续,将软件变成永久免费使用​。…