ImageVerifierCode 换一换
格式:DOC , 页数:3 ,大小:289KB ,
资源ID:3434297      下载积分:2 积分
快捷下载
登录下载
邮箱/手机:
温馨提示:
快捷下载时,用户名和密码都是您填写的邮箱或者手机号,方便查询和重复下载(系统自动生成)。 如填写123,账号就是123,密码也是123。
特别说明:
请自助下载,系统不会自动发送文件的哦; 如果您已付费,想二次下载,请登录后访问:我的下载记录
支付方式: 支付宝扫码支付 微信扫码支付   
验证码:   换一换

加入VIP,免费下载
 

温馨提示:由于个人手机设置不同,如果发现不能下载,请复制以下地址【https://www.wnwk.com/docdown/3434297.html】到电脑端继续下载(重复下载不扣费)。

已注册用户请登录:
账号:
密码:
验证码:   换一换
  忘记密码?
三方登录: QQ登录  

下载须知

1: 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。
2: 试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓。
3: 文件的所有权益归上传用户所有。
4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
5. 本站仅提供交流平台,并不能对任何下载内容负责。
6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

版权提示 | 免责声明

本文(任务117: spark集群环境安装.doc)为本站会员(a****2)主动上传,蜗牛文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知蜗牛文库(发送邮件至admin@wnwk.com或直接QQ联系客服),我们立即给予删除!

任务117: spark集群环境安装.doc

1、我写的每一个字都要认真读,不然就掉坑里3台linux虚拟机,注意注意注意:最好都是centos,我挑战了一下两个centos一个ubuntu,结果ubuntu上的worker死活起不来。耗费了好长时间才起来,这里是坑,切记切记!1、安装配置JDK1.82、安装配置scala3、下载spark(注意注意注意,下载和解压的目录位置要一样,如果不这样做,那么要配置spark home)wget 4、修改主机名 ,配置hostsvim /etc/sysconfig/network把内容写进去 HOSTNAME=spark-master然后重启,生效。 重启后输入hostname ,检查是否与自己设置的

2、一致vim /etc/hosts格式: ip 主机名192.168.1.12 spark-master192.168.1.7 spark-slave1192.168.1.27 spark-slave25、配置用户useradd sparkpasswd spark 回车后添加密码6、master做免登陆:要切换到spark用户下执行主机登陆到另外两个从机上需要免密,所以主机配置即可生成秘钥:ssh-keygen -t rsa 然后一直回车无秘登陆设置:ssh-copy-id -i /.ssh/id_rsa.pub 192.168.1.7以下是所有服务器都要操作,并且都要用sprak用户操作,只有

3、再解决权限问题的时候才到root下7、 复制文件cp spark-2.4.0-bin-hadoop2.7/conf/spark-env.sh.template spark-env.sh创建文件夹修改vim spark-2.4.0-bin-hadoop2.7/conf/spark-env.sh添加export JAVA_HOME=/home/jdk1.8.0_181 这里是你自己的jdk homeexport SPARK_MASTER_IP=192.168.1.12 这里是主机的ip8、 复制conf下的slaves文件cp slaves.template slaves添加/data/servi

4、ce/bigdata/spark/conf/slaves文件添加主机名称 : vim slavesspark-masterspark-slave1spark-slave29、启动服务注意关闭防火墙,不然连不上 命令: systemctl stop firewalldcd spark/sbin/start-all.sh 启动所有服务 这个命令会自动启动在slave配置下的worker服务(如果这里启动有问题,可手动输入一下密码解决,也可以看一下免密配置)start-slave.sh spark:/主机名称:7077 单独启动某一个workerspark:/主机名称:7077 是master的连接地址启动成功访问 master的ip:8080

copyright@ 2008-2023 wnwk.com网站版权所有

经营许可证编号:浙ICP备2024059924号-2