Windows10 Hadoop3.3.0源码编译

举报
lwq1228 发表于 2021/03/16 17:07:24 2021/03/16
【摘要】 Windows10下对Hadoop3.3.0源码进行编译

第一节、前期准备工作

1、环境准备

hadoop-3.3.0-src.tar.gz
jdk-8u261-windows-x64.exe
apache-ant-1.10.9-bin.zip
apache-maven-3.6.3-bin.zip
protoc-3.7.1-win64.zip
cmake-3.19.4-win64-x64.zip
GetGnuWin32-0.6.3.exe
Git-2.30.0.2-64-bit.exe
Visual Studio 2010 Professional
zlib1211.zip

第二节、环境安装

1、安装JDK并配置环境变量

1、安装jdk-8u261-windows-x64.exe
2、添加环境变量:
	JAVA_HOME=C:\Program Files\Java\jdk1.8.0_261
3PATH中追加:
	%JAVA_HOME%\bin
4、cmd验证:
	java -version
5、结果:
    java version "1.8.0_261"
    Java(TM) SE Runtime Environment (build 1.8.0_261-b12)
    Java HotSpot(TM) 64-Bit Server VM (build 25.261-b12, mixed mode)

2、安装Maven并配置Maven环境变量

1、解压apache-maven-3.6.3-bin.zip到本地文件夹(随意)
2、添加环境变量:
	M2_HOME=C:\Software\Installed\apache-maven-3.6.3
3PATH中追加:
	%M2_HOME%\bin
4、cmd验证:
	mvn -version
5、结果:
    Apache Maven 3.6.3 (cecedd343002696d0abb50b32b541b8a6ba2883f)
    Maven home: C:\Software\Installed\apache-maven-3.6.3\bin\..
    Java version: 1.8.0_261, vendor: Oracle Corporation, runtime: C:\Program Files\Java\jdk1.8.0_261\jre
    Default locale: zh_CN, platform encoding: GBK
    OS name: "windows 10", version: "10.0", arch: "amd64", family: "windows"
6、修改C:\Software\Installed\apache-maven-3.6.3\conf\settings.xml文件
	mirrors节点下添加如下代码,使用阿里云仓库,默认仓库比较慢:
	<mirror>
      <id>aliyunmaven</id>
      <mirrorOf>*</mirrorOf>
      <name>阿里云公共仓库</name>
      <url>https://maven.aliyun.com/repository/public</url>
    </mirror>

3、安装ANT并配置ANT环境变量

1、解压apache-ant-1.10.9-bin.zip到本地文件夹(随意)
2、添加环境变量:
	ANT_HOME=C:\Software\Installed\apache-ant-1.10.9
3PATH中追加:
	%ANT_HOME%\bin
4、cmd验证:
	ant -version
5、结果:
	Apache Ant(TM) version 1.10.9 compiled on September 27 2020

4、安装ProtocolBuffer并配置环境变量

1、解压protoc-3.7.1-win64.zip到本地文件夹(随意)
2PATH中追加:
	C:\Software\Installed\protoc-3.7.1-win64\bin
3、cmd验证:
	protoc --version
4、结果:
	libprotoc 3.7.1

5、安装CMake并配置环境变量

1、解压cmake-3.19.4-win64-x64.zip到本地文件夹(随意)
2、添加环境变量:
	CMAKE_HOME=C:\Software\Installed\cmake-3.19.4-win64-x64
3PATH中追加:
	%CMAKE_HOME%\bin
4、cmd验证:
	cmake --version
5、结果:
    cmake version 3.19.4

    CMake suite maintained and supported by Kitware (kitware.com/cmake).

6、安装Visual Studio

直接傻瓜式安装Visual Studio 2010 Professional

7、安装GetGnuWin32并配置环境变量

直接傻瓜式安装GetGnuWin32-0.6.3.exe

安装完成后将安装路径配置到环境变量PATH

8、安装Zlib库

1、解压zlib1211.zip到本地文件夹(随意)
2、使用VS2010 对zlib源码进行编译
3、将编译后生成的zlibwapid.dll、zlibwapid.lib、zlibstat.lib拷贝至独立文件夹中,将文件夹路径配置到环境变量PATH

9、安装Git

直接运行Git-2.30.0.2-64-bit.exe,傻瓜式安装即可

10、其他配置

1、添加如下环境变量:
	Platform=x64
	VCTargetsPath=C:\Program Files (x86)\MSBuild\Microsoft.Cpp\v4.0
	MSBUILD_HOME=C:\Program Files (x86)\MSBuild
2PATH中追加:
	%MSBUILD_HOME%

第三节、编译源码

1、解压源码到本地目录(路径所有文件夹不能包含中文)

C:\Software\hadoop-3.3.0

2、进入到hadoop源码主目录

cmd中进入以下路径:
C:\Software\hadoop-3.3.0

3、通过maven执行编译命令

一般指令如下所示:
mvn clean package -Pdist,native-win -DskipTests -Dtar

指令中加入 -Dmaven.javadoc.skip=true 参数,可以剔除指令文档的编译,如果使用的是JDK1.8,那么必须加入此参数才能编译通过:
mvn clean package -Pdist,native-win -DskipTests -Dtar -Dmaven.javadoc.skip=true

编译成功大概需要半小时,机器好的话可能更快,如果省略说明文档的编译也会提高速度, 
编译成功之后的目录为 C:\Software\hadoop-3.3.0\hadoop-dist\target

参数说明:
-Pdist,native:目的地
-DskipTests:跳过测试
-Dtar:打包类型
【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。