内容纲要
概要描述
由于studio2.1版本中workflow镜像是基于centos8.3的,但centos8官方已停止服务,因此基于该镜像的yum源会有些问题,导致TDH客户端在使用yum时报错,需要参考以下方式修改。
详细说明
以下操作需要在所有 workflow-executor 所在节点都操作。
本文档以脚本任务访问开了安全的hdfs服务为例进行相关说明。
1. 准备TDH客户端
-
从manager管理页面下载TDH客户端,并上传到 workflow-executor 所在节点的持久化目录下,如 /var/log/workflow1/workflow-executor/ 。
-
解压tdh-client.tar
cd /var/log/workflow1/workflow-executor/ tar -xvf tdh-client.tar
2. 准备安全认证文件
将有权限访问hdfs的用户keytab上传到持久化目录,如 将 hdfs.keytab 文件上传到 /var/log/workflow1/workflow-executor/ 。
3. 更新pod内的repo文件
该目录下有较多的 repo 文件,可能会影响到yum的速度,可以仅保留 CentOS
开头的repo文件,删除其他的repo文件。
如果在运行yum的时候报错 No URLs in mirrorlist error ,需要更新yum源。
cd /etc/yum.repos.d
sed -i -e "s|mirrorlist=|#mirrorlist=|g" CentOS-*
sed -i -e "s|#baseurl=http://mirror.centos.org|baseurl=http://vault.centos.org|g" CentOS-*
4. 在页面创建脚本任务
脚本内容可以参考下面的,kinit部分以实际环境为准。
#!/bin/bash
#在pod内配置dns
if [ grep -c "nameserver" /etc/resolv.conf
-eq 0 ];then
echo "nameserver 114.114.114.114" >> /etc/resolv.conf
fi
echo "dns updated"
cat /etc/resolv.conf
yum -y install sudo #安装sudo
source /var/log/workflow1/workflow-executor/TDH-Client/init.sh -y
kinit hdfs/ddmidv111@TDH -kt /var/log/workflow1/workflow-executor/hdfs.keytab #kinit认证
hdfs dfs -ls / #使用hdfs