正文

ubuntu14.04下搭建graphlab集群

AlexP5  AlexP5  2022-12-05  328

关键词：

ubuntu14.04下搭建GraphLab集群

1. GraphLab简单介绍

GraphLab是CMU（卡耐基梅隆大学）开发的一个以vertex为计算单元的大规模图处理系统，是继google的Pregel之后的第一个开源的大规模图处理系统，它解决了传统MapReduce框架对于机器学习应用的处理中最突出的两个问题（频繁迭代计算和大量节点通信）引起的计算效率的问题，与Haloop，Twister等基于MapReduce批量处理不同的是，它采用Pregel的以vertex为计算单元，并将机器学习抽象成GAS（gather，apply，scatter）三个步骤，然后按该抽象模型设计实现算法，事实已经证明该框架对于机器学习这一类跟图处理关系紧密的应用有很好的效果。

我们部署的版本是PowerGraph，是github上面的开源项目，可以直接基于它开发C++应用。现在GraphLab的小组已经成立了公司，对应的产品为GraphLab-Create,在原有的基础上用Python进行封装，还进行了一些优化。GraphLab-Create并不是免费的，可以加入Academic Program免费试用一年。相应地，他们小组也逐渐弃用了PowerGraph。

2. 整体部署说明

GraphLab的这个PowerGraph项目包括处于顶层的核心API、机器学习和数据挖掘的工具包。通过TCP/IP进行进程间通信，使用MPI来启动和管理PowerGraph程序，而且每一个程序都是多线程的。

在安装和编译GraphLab源代码之前，需要先安装配置SSH免密码登陆和MPI。因为结点间需要管理远程进程，就必须保证在节点间执行指令的时候不需要输入密码，所以需要SSH免密码登陆，而MPI的实现应用（MPI是一套标准，有很多此标准的实现应用，如MPICH2）则为并行应用提供消息传递或者相关服务。

3. 搭建过程

3.1. 安装Linux操作系统

1) 主机环境说明

集群中使用了3台主机，每台主机有CPU核4个，内存16G，每台主机上安装的操作系统为Ubuntu14.04 Desktop 64bit，每台主机上面都使用相同的用户名。注意graphlab的主机之间是没有主次之分的。

3.2. 修改主机文件

1) 在每台主机上修改主机名

可能安装系统的时候主机名不是自己想要的，那么就需要修改自己的主机名，如果觉得不影响，可以不作任何修改。

(1). 修改文件/etc/hostname,把主机名修改为自己想要的名字
(2). 修改文件/etc/hosts,把原来的主机名改为新的主机名

2) 在每台主机上修改主机文件

需要把其他主机的IP和主机名对应关系写在/etc/hosts文件中，那么集群中的主机就通过主机名互相识别，某一个主机的/etc/hosts文件内容示例如下：

127.0.0.1       localhost
192.168.0.5 graphlabmaster
192.168.0.6  graphlabslave1
192.168.0.7  graphlabslave2

\\#The following lines are desirable for IPv6 capable hosts
::1     ip6-localhost ip6-loopback
fe00::0 ip6-localnet
ff00::0 ip6-mcastprefix
ff02::1 ip6-allnodes
ff02::2 ip6-allrouters

我们配置的集群有三台主机，分别是graphlabmaster,graphlabslave1和graphlabslave2,前面是他们对应的IP地址，需要注意的是：默认会有一行内容为127.0.0.1+主机名，删掉就可以了。

3.3. 配置ssh免密码登陆

参见ssh配置。

3.4. 安装编译GraphLab

1) 为每台主机更新一下源，保证获取的安装包都是最新的

sudo apt-get update

2) 为每台主机安装GraphLab的依赖库

sudo apt-get install gcc g++ build-essential libopenmpi-dev openmpi-bin default-jdk cmake zlib1g-dev git

3) 从GitHub上下载GraphLab(接下来的操作在一台主机上)

　　选取集群中的一台机器，进入要安装GraphLab的目录，使用如下的git命令下载GraphLab

git clone https://github.com/graphlab-code/graphlab.git

4) 编译GraphLab

　　进入graphlab文件夹，使用graphlab自带的configure脚本配置编译环境

cd graphlab
./configure

　　配置成功后会在graphlab文件夹内生成release和debug两个新的目录。这两个目录分别对应不同项目的发行版和测试版，在这两个目录中都可以编译GraphLab的所有Toolkit，分别对应发行版和测试版。编译后发行版与测试版的不同是，发行版在编译过程中程序都做了优化，运行速度更快。

　　还有一点需要特别指出，GraphLab不仅提供了分布式大规模图计算模型，而且基于该模型实现了很多实用的工具集，这些工具集可以分成六类：主题建模、图分析、聚类、协同过滤、图模型和计算机视觉。可以根据自己的需要只编译其中的某一类或几类。如果全部编译，第一次编译时会下载很多的库文件，耗费很长时间。我只对其中的图分析工具集比较感兴趣，所以只编译了这一个。同时我也编译了apps目录中的相应样例代码。

　　编译release目录下的apps子目录：

cd release/apps
make -j 3

　　第二行中的参数-j 3是利用了make的并行编译特性，3指的是同时进行三个编译任务。该数字越大，并行性越高，编译速度越快，但是占用内存也越多。如果该数字过大，会因内存不够用而使编译过程卡住。

　　编译release目录下的toolkits中的graph_analytics：

cd release/toolkits/graph_analytics
make -j 3

　　如果希望编译整个GraphLab，那么可以在release目录下运行如下命令：

cd release
make -j 3

　　注意事项：编译的过程不一定都顺利，可能会有文件下载失败的问题和权限问题等

如果提示hash not match,则为文件内容不全，下载失败。解决办法：首先检查是否使用代理，网上说代理一般是不能成功的。如果没有使用代理，还是不能成功，可以自己手动下载文件，然后把文件放在指定的目录即可。

/hadoop/src/hadoop/src/c++/libhdfs/configure: Permission denied，则是文件权限的问题，解决办法：
chmod a+rx /hadoop/src/hadoop/src/c++/libhdfs/configure

就是给所以用户加上读和执行的权限。

5) 集群测试

　　在所有结点上创建一个文件，文件名为“machines”，文件里面内容为所有结点的主机名,最好是在一台主机上面新建文件，然后复制至其他主机，保证内容相同。内容示例如下：
graphlabmaster
graphlabslave1
graphlabslave2

　　在安装GraphLab的主机上面运行如下命令，GraphLab提供了脚本用于分发编译好的二进制可执行文件到集群中的所有其他机器上。在你下载并编译了GraphLab的那台机器上，使用下面的命令来分发二进制可执行文件和相关库文件把一些GraphLab文件拷贝至其他主机
　　cd ~/graphlab/release/toolkits
　　~/graphlab/scripts/mpirsync
　　cd ~/graphlab/deps/local
　　~/graphlab/scripts/mpirsync

　　单机测试，在每一台机器上，运行如下的命令来测试分发到每台机器上的二进制可执行程序能否正确运行：
cd ~/graphlab/release/toolkits/graph_analytics/
./pagerank –powerlaw=10000

　　分布式测试，在任意一台机器上，运行如下两条命令：
cd ~
mpiexec -n 2 -hostfile machines
graphlab/release/toolkits/graph_analytics/pagerank –powerlaw=100000

　　如果上述命令能够正确无误执行，那么GraphLab分布式集群运算环境搭建就算完成了。

4. 主要参考资料

(1) GraphLab部署过程
(2) 搭建GraphLab集群总结

kafka集群搭建

环境：ubuntu14.04版本：jdk1.8，zookeeper3.4.10，kafka2.11搭建步骤：1.搭建zookeeper集群参考链接：zookeeper集群搭建2.下载kafka源码包，并上传到服务器下载链接：http://mirrors.tuna.tsinghua.edu.cn/apache/kafka/1.0.0/kafka_2.11-1.0.0.tgz3.解压kafka源码包t 查看详情

ubuntu14.04搭建lamp环境

前言已经不记得搭建过多少次LAMP的环境了，不仅仅在windows上折腾过，也在linux上弄过，windows倒还好，麻烦事不多，搭建过一次基本上下次就知道应该怎么配置了，可是在linux每次搭建LAMP时我都总是忘记上一次是怎么搭建成功的... 查看详情

hadoop+spark:集群环境搭建

环境准备：在虚拟机下，大家三台Linuxubuntu14.04serverx64系统（下载地址：http://releases.ubuntu.com/14.04.2/ubuntu-14.04.2-server-amd64.iso）:192.168.1.200master192.168.1.201node1192.168.1.202node2在Master上安装Spark环境：具体请参考我的文章：《查看详情

ubuntu14.04+eclipse下cocos2d-x3.0正式版环境的搭建(代码片段)

环境:ubuntu14.04adt-bundle-linux-x86_64android-ndk-r9d-linux-x86_64cocos2d-x-3.0正式版apache-ant1.9.3python2.7(ubuntu自带)加入环境变量exportANDROID_SDK_ROOT=/home/yangming/adt-bundle-linux/sd 查看详情

ubuntu下搭建kubernetes集群--k8s部署(代码片段)

1.关闭swap并关闭防火墙首先，我们需要先关闭swap和防火墙,否则在安装Kubernetes时会导致不成功：#临时关闭swapoff-a#编辑/etc/fstab，注释掉包含swap的那一行即可，重启后可永久关闭ufwdisable2.配置阿里源sudoecho"debhttp://mirrors.ustc.edu.... 查看详情

ubuntu14.04下搭建arm架构的qemu虚拟机

参考技术Ax86架构的Ubuntu系统本次安装选用DebianARMkernelinitrdDebian-ARMiso安装QEMU虚拟机sudoapt-getinstallqemu-system-arm1.创建一个directory来存放相关文件mkdirqemu_debian&&cdqemu_debian2.获取kernel和initrd(7.9Wheezy版本)wgethttp://ftp.debian.org/debian/dists/Debia... 查看详情

hbase集群环境搭建(代码片段)

本文档环境基于ubuntu14.04版本，如果最终不使用SuperMapiServer9D，可以不配置geomesa-hbase_2.11-2.0.1-bin.tar.gz（转发请注明出处：http://www.cnblogs.com/zhangyongli2011/如发现有错，请留言，谢谢）一、准备1.1软件版本hadoop-2.6.5zookeeper-3.4.10.tar.gzh... 查看详情

ubuntu环境下用docker从0到1部署elasticsearch7集群(代码片段)

目录一、镜像准备二、配置准备1.ubuntu安装ssh2.开放22号端口3.配置密码可访问 4.登录到ubuntu服务器三、搭建集群准备1.FileZilla工具网盘下载2.启动单节点3.修改并挂载配置4.搭建集群1)启动3个节点2)查看Ip3)准备配置文件4)验证集... 查看详情

如何在ubuntu下搭建spark集群

你好，安装其实就是解压，配置/etc/profile环境变量exportSPARK_HOME=/data1/spark/sparkexportSCALA_HOME=/data1/spark/scala-2.9.3exportPATH=$PATH:$SPARK_HOME/bin:$SCALA_HOME/bin配置spark的conf下的spark-env.shexportJAVA_HOME=/usr/java/defaultexportSCALA_HOME=/data1/spark/scala-2.9.3... 查看详情

ubuntu-server14.04搭建lamp环境

...用于生产的LAMP环境是一件费时费力的事情，本文以 ubuntu-server14.04为例，给出一个搭建环境的教程，供大家参考； 1.更新软件源sudoapt-getupdate2.安装Apachesudoapt-getinst 查看详情

<ros;ubuntu14.04下rosindigoeclipse开发环境搭建(代码片段)

目前最优解决方案配置已有Catkin包到Eclipse1GlobalsettingsinEclipseIDE2ROScompilescriptforEclipseIDE3ImportingtheprojectintoEclipse4AddingrunconfigurationstorunROSnodesinEclipseROSBUILD配置方式1安装Eclipse2创建工程文件21创建ROS工程包并转成Eclipse工程文件211创建... 查看详情

<ros;ubuntu14.04下rosindigoeclipse开发环境搭建(代码片段)

ubuntu12.04下搭建xilinx交叉编译环境(代码片段)

Ubuntu12.04下搭建Xilinx交叉编译环境，本人的Linux是Ubuntu12.04LTS。1.更新源为方便使用，可以首先更新Linux系统的源。更新源的方法有很多，在此不细说。可以参考Linux公社的：Ubuntu14.04搜狐更新源及安装软件http://www.lin... 查看详情

ubuntu14.04自建局域网源在线安装cdh5.6.0(代码片段)

背景：要搭建一个可以添加节点的cloudera集群，但内部网络访问不了cloudera，能访问的主机访问速度也特别慢。实现方式：搭建一个内部的软件源，采用官网第二种方式安装1.搭建CDH源服务器源服务器地址：... 查看详情

如何在ubuntu14.04配置分布式hadoop

参考技术A我的环境是：Ubuntu14.04+Hadoop2.6.0+JDK1.8.0_25官网2.6.0的安装教程：http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-common/SingleCluster.html为了方面配置，我在每台机器上都使用了hadoop用户来操作，这样做的确够方便。结点信... 查看详情

kubeadm搭建kubernetes集群(代码片段)

一、环境准备首先我的三个ubuntu云主机的配置如下cpu数量内存磁盘Ubuntu28G20G18.04LTS而且能保证三台机器都能连接外网这里的所有命令都是在root用户下操作的二、安装1.在所有的节点上安装Docker和kubeadm[email protected]:~#apt-getinstall... 查看详情

如何在ubuntu14.04上搭建私有dockerregistry

...如果你想要docker的入门教程，也许这儿可以帮到你。基于Ubuntu14.04系统的单registry和单客户机模式，本教程已经通过测试，也许在其他基于debian的发布上仍可以运行。docker概念如果在此之前你尚未接触过docker，这需要花费你几分... 查看详情

ubuntu14.04搭建scikit-learn环境及pydev(代码片段)

1.安装ubuntu1.1下载镜像文件在下述链接中下载对应版本Ubuntu镜像文件.http://www.ubuntu.org.cn/download/ubuntu-kylin1.2制作启动盘找一个大于2G的U盘制作启动盘，工具推荐使用大白菜，里面有ISO模式，选择下载下来的镜像文件点... 查看详情