Linkis 编译打包
从github仓库 获取项目代码后,使用 maven 编译项目安装包。
- 方式1:从github仓库 获取项目的源代码。
- 方式2:从linkis的官方下载页面 下载所需版本的源码包。
请注意:官方推荐使用 Hadoop-2.7.2、Hive-1.2.1、Spark-2.4.3 和 Scala-2.11.12 对 Linkis 进行编译。
如果您想使用 Hadoop、Hive、Spark 的其他版本对 Linkis 进行编译,请参考:如何修改Linkis的依赖的Hadoop、Hive、Spark版本
1.2 修改依赖配置
注意" class="reference-link">注意
因为mysql-connector-java驱动是GPL2.0协议,不满足Apache开源协议关于license的政策,因此从1.0.3版本开始,对mysql-connector-java的依赖项作用域scope默认是test,若自行编译,可以修改顶级pom.xml的mysql-connector-java依赖的scope作用域(注释掉即可)
step1 首次编译(非首次可跳过此步)
如果您是本地第一次编译使用,必须在 Linkis 源码包根目录先执行以下命令:
mvn -N install
step2 执行编译
在 Linkis 源码包根目录执行以下命令:
cd incubator-linkis-x.x.x
mvn clean install
编译后的完整安装包,在工程的assembly-combined-package->target目录下:
#详细路径如下
incubator-linkis-x.x.x/assembly-combined-package/target/apache-linkis-x.x.x-incubating-bin.tar.gz
step1 首次编译(非首次可跳过此步)
cd incubator-linkis-x.x.x
mvn -N install
step2 进入到对应模块进行编译
进入到对应模块进行编译,比如想重新编译 Entrance,命令如下:
step3 获取安装包
获取安装包,在对应模块的->target目录下会有编译好的包:
ls incubator-linkis-x.x.x/linkis-computation-governance/linkis-entrance/target/linkis-entrance.x.x.x.jar
这里以编译 Linkis 的 Spark 引擎为例:
如果您是本地第一次使用,必须在 Linkis 源码包根目录先执行以下命令:
cd incubator-linkis-x.x.x
mvn -N install
step2 进入到对应模块进行编译
进入到 Spark 引擎所在的目录进行编译打包,命令如下:
cd incubator-linkis-x.x.x/linkis-engineconn-plugins/engineconn-plugins/spark
step3 获取安装包
获取安装包,在对应模块的->target目录下会有编译好的包:
incubator-linkis-x.x.x/linkis-engineconn-plugins/engineconn-plugins/spark/target/linkis-engineplugin-spark-x.x.x.jar
如何单独安装 Spark 引擎?请参考 Linkis 引擎插件安装文档
具体而言,修改 Hadoop 的版本与 Spark、Hive 等计算引擎的方式不同,下面详细介绍:
5.1 如何修改 Linkis 依赖的 Hadoop 版本
进入 Linkis 源码包根目录,手动修改 pom.xml 文件的 Hadoop 版本信息,具体如下:
<properties>
<scala.version>2.11.12</scala.version>
<jdk.compile.version>1.8</jdk.compile.version>
</properties>
请注意:如果你的hadoop版本是hadoop3,需要修改linkis-hadoop-common的pom文件 因为在hadoop2.8以下的时候,hdfs相关的class是在hadoop-hdfs模块中的,但是在hadoop 3.X中将对应的class移动到了模块hadoop-hdfs-client当中,您需要修改下这个文件:
pom:Linkis/linkis-commons/linkis-hadoop-common/pom.xml 修改依赖hadoop-hdfs为hadoop-hdfs-client:
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs</artifactId> <!-- 只需要将该行替换即可,替换为 <artifactId>hadoop-hdfs-client</artifactId>-->
</dependency>
将hadoop-hdfs修改为:
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs-client</artifactId>
<version>${hadoop.version}</version>
</dependency>
这里以修改 Spark 的版本为例进行介绍。进入 Spark 引擎所在的目录,手动修改 pom.xml 文件的 Spark 版本信息,具体如下:
cd incubator-linkis-x.x.x/linkis-engineconn-plugins/engineconn-plugins/spark
vim pom.xml
<properties>
修改其他引擎的版本与修改 Spark 版本类似,先进入相关引擎所在的目录,手动修改 pom.xml 文件的引擎版本信息即可。
然后请参考 编译某个引擎