studio2.1版本脚本任务中TDH客户端的使用方法

  使用配置
内容纲要

概要描述


由于studio2.1版本中workflow镜像是基于centos8.3的,但centos8官方已停止服务,因此基于该镜像的yum源会有些问题,导致TDH客户端在使用yum时报错,需要参考以下方式修改。

详细说明


以下操作需要在所有 workflow-executor 所在节点都操作。

本文档以脚本任务访问开了安全的hdfs服务为例进行相关说明。

1. 准备TDH客户端

  1. 从manager管理页面下载TDH客户端,并上传到 workflow-executor 所在节点的持久化目录下,如 /var/log/workflow1/workflow-executor/

  2. 解压tdh-client.tar

    cd /var/log/workflow1/workflow-executor/
    tar -xvf tdh-client.tar

    file

2. 准备安全认证文件

将有权限访问hdfs的用户keytab上传到持久化目录,如 将 hdfs.keytab 文件上传到 /var/log/workflow1/workflow-executor/

file

3. 更新pod内的repo文件

该目录下有较多的 repo 文件,可能会影响到yum的速度,可以仅保留 CentOS 开头的repo文件,删除其他的repo文件。

file

如果在运行yum的时候报错 No URLs in mirrorlist error ,需要更新yum源。

cd /etc/yum.repos.d
sed -i -e "s|mirrorlist=|#mirrorlist=|g" CentOS-*
sed -i -e "s|#baseurl=http://mirror.centos.org|baseurl=http://vault.centos.org|g" CentOS-*

4. 在页面创建脚本任务

脚本内容可以参考下面的,kinit部分以实际环境为准。

#!/bin/bash
#在pod内配置dns
if [ grep -c "nameserver" /etc/resolv.conf -eq 0 ];then
echo "nameserver 114.114.114.114" >> /etc/resolv.conf
fi
echo "dns updated"
cat /etc/resolv.conf
yum -y install sudo   #安装sudo
source /var/log/workflow1/workflow-executor/TDH-Client/init.sh -y 
kinit hdfs/ddmidv111@TDH -kt /var/log/workflow1/workflow-executor/hdfs.keytab  #kinit认证
hdfs dfs -ls /  #使用hdfs

file

5. 调试运行该脚本任务,可以正常访问hdfs

file

这篇文章对您有帮助吗?

平均评分 0 / 5. 次数: 0

尚无评价,您可以第一个评哦!

非常抱歉,这篇文章对您没有帮助.

烦请您告诉我们您的建议与意见,以便我们改进,谢谢您。