0%

一、集群

root

123456

shutdown -h now 关机

第一章 集群

1.1. 安装集群

将集群目录 复制 d:/opt/shixun2 目录中

1687748471325

双击 node1.vmx 文件即可启动

1687748508498

1687748518653

1687748531073

1687748548614

1.2. 配置网卡(每天开机后都需要配置)

1.2.1. 配置vmware的网卡

1687748565238

1.2.2. 配置windows系统的网卡信息

1687748593434

1687748608390

1687748619013

1687748633118

1687748644122

1.2.3. 测试是否可以连上互联网?

1687748664326

1.3. 通过crt客户端操作linux

1.3.1. 通过在windows中是否可以连上linux系统

1687748674646

1687748687033

1.3.2. 通过客户端操作linux系统

1687748698441

1687748713608

1688173003549

1688173023806

1.4. 一键启动集群

1
/onekey/my-start-all.sh 

1688173047593

1.5. 一键启动hive

1
2
cd /export/server/hive-2.1.0/bin
expect beeline.exp

1688173083306

1
show databases;

1688173101979

1.6. 查看进程

1
jps

1688173114789

1.7. 集群的页面访问

1.7.1. IP访问

一旦Hadoop集群启动并运行,可以通过web-ui进行集群查看,如下所述:

查看NameNode页面地址:

http://192.168.52.161:50070/

1688173127109

查看Yarn集群页面地址:

http://192.168.52.161:8088/cluster

1688173139364

查看MapReduce历史任务页面地址:

http://192.168.52.161:19888/jobhistory

1688173148887

1.7.2. 主机名访问

请注意,以上的访问地址只能使用IP地址,如果想要使用主机名,则对Windows进行配置。

配置方式:

1、打开Windows的C:\Windows\System32\drivers\etc目录下hosts文件

2、在hosts文件中添加以下域名映射

1
2
3
192.168.52.161  node1  node1.itcast.cn
192.168.52.162 node2 node2.itcast.cn
192.168.52.163 node3 node3.itcast.cn

配置完之后,可以将以上地址中的IP替换为主机名即可访问,如果还不能访问,则需要重启Windows电脑,比如访问NameNode,可以使用http://node1:50070/

1.8. Hadoop初体验: HDFS使用

1688173174570

1、从Linux本地上传一个文本文件到hdfs的/目录下

1
2
3
4
5
6
7
#在/export/data/目录中创建a.txt文件,并写入数据
cd /export/data/
touch a.txt
echo "hello" > a.txt

#将a.txt上传到HDFS的根目录
hadoop fs -put a.txt /

1、通过页面查看

通过NameNode页面.进入HDFS:http://node1:50070/

1688173245402

查看文件是否创建成功.

1688173258225

1.9. 一键关闭集群

1.9.1. 关闭 hdfs 和 yarn 和 historyserver

1
/onekey/my-stop-all.sh

1688173295113

1.9.2. 关闭跟hive相关的服务

查询进程号

1
jps

1688173335397

杀掉 RunJar 对应的进程号

1
kill -9 xxxx

1688173354052

1.9.3. 关闭系统

1
shutdown -h now

1688173371537

1.10. 给集群拍摄快照

1688173381373

1688173391188

1688173399743

注意: 一定要在关机的状态下拍摄快照!

-------------本文结束感谢您的阅读-------------
老板你好,讨口饭吃