首页 理论教育 底层存储系统配置案例与解析

底层存储系统配置案例与解析

时间:2023-06-25 理论教育 版权反馈
【摘要】:2)Tachyon_MASTER_ADDRESS为master对外可见的地址,这里设置为Master的host-name,即cluster04。3)Tachyon_UNDERFS_ADDRESS为底层文件系统,这里使用HDFS,HDFS的地址可以查看配置文件,也可以直接从界面查看,Web Interface界面如下,其中带方框的地方就是当前Hadoop集群的HDFS地址,如图5.20所示。

底层存储系统配置案例与解析

这一节以目前大数据平台最常用的HDFS作为底层存储系统,进行配置案例与解析。

一、环境配置

1.修改配置文件conf/tachyon-env.sh,添加或修改下面三个环境变量

978-7-111-51909-6-Chapter05-73.jpg

其中:

1)JAVA_HOME为本地Java安装目录。

2)Tachyon_MASTER_ADDRESS为master对外可见的地址,这里设置为Master的host-name,即cluster04。

3)Tachyon_UNDERFS_ADDRESS为底层文件系统,这里使用HDFS,HDFS的地址可以查看配置文件,也可以直接从界面查看,Web Interface(http∶//cluster04∶50070/)界面如下,其中带方框的地方就是当前Hadoop集群的HDFS地址,如图5.20所示。

978-7-111-51909-6-Chapter05-74.jpg

图5.20 Hadoop的概览界面

2.修改配置文件conf/tachyon-env.sh,添加或修改属性配置

修改前的属性配置:

978-7-111-51909-6-Chapter05-75.jpg

978-7-111-51909-6-Chapter05-76.jpg(www.xing528.com)

修改后的属性配置:

978-7-111-51909-6-Chapter05-77.jpg

修改tachyon.master.journal.folder配置属性,将journal的目录放置于HDFS上;

注意:修改完成后,需要将该配置文件复制到集群中的其他节点中,命令如下:

978-7-111-51909-6-Chapter05-78.jpg

3.重新格式化Tachyon

由于当前底层文件系统已经修改为HDFS,因此需要重新进行格式化,构建相关目录,用于存放文件系统的元数据等信息。

978-7-111-51909-6-Chapter05-79.jpg

4.验证

查看HDFS文件系统信息,进入Web Interface界面(http∶cluster04∶50070),如图5.21所示。

978-7-111-51909-6-Chapter05-80.jpg

图5.21 Tachyon格式化的后底层文件系统信息

可以看到,在HDFS的根目录下,已经成功创建了放置journal的目录和放置Tachyon的文件系统信息的tachyon.data.folder和tachyon.workers.folder目录。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈