配置参数介绍

    • Linkis 服务端参数,主要包含Linkis本身的参数和Spring的参数
    • Linkis SDK、Restful等客户端端调用提交的参数
    • Linkis 管理台参数
    1. Linkis本身的参数 linkis本身的参数支持在配置文件里面进行设置,也支持通过环境变量和系统属性进行设置,推荐使用配置文件进行设置。 Linkis配置文件格式如下所示:

    每个服务会加载两个属性配置文件,一个为公用的主配置文件linkis.properties,以及服务配置文件linkis-serviceName.properties。设置的优先级为服务配置文件高于主配置文件 建议通用的参数放置在主配置文件,个性化配置文件放在服务配置文件

    1. Spring 参数 Linkis服务是基于SpringBoot应用的,Spring相关的参数支持在application-linkis.yml进行设置,也支持在linkis配置文件里面进行配置。在linkis配置文件里面配置需要加上spring.的前缀。如下:
    1. server.port=9102
    2. # in linkis conf need spring prefix

    Linkis客户端参数主要是指任务提交时的参数,主要在提交接口里面进行指定的参数。 1.restful 如何设置参数:

    1. JobSubmitAction jobSubmitAction = JobSubmitAction.builder()
    2. .addExecuteCode(code)
    3. .setStartupParams(startupMap) //启动参数,如启动EC的内存参数,spark引擎参数、hive引擎参数等, 如:spark.executor.memory:5G 设置Spark的执行器内存,底层Spark、hive等引擎参数keyName是和原生参数一致的
    4. .setVariableMap(varMap) //代码中需要的自定义变量
    5. .setLabels(labels) //标签参数,支持设置引擎版本、用户和提应用等
    6. .setUser(user) //submit user
    7. .addExecuteUser(user) // execute user

    3.linkis-cli如何设置参数

    注意: 客户端参数提交时,只有引擎相关参数和标签参数,以及Yarn队列设置可以生效,其他Linkis服务端参数和资源限制参数,如任务和引擎并发参数wds.linkis.rm.instances不支持任务设置

    1. Map<String, Object> labels = new HashMap<String, Object>();
    2. labels.put(LabelKeyConstant.USER_CREATOR_TYPE_KEY, user + "-IDE");// 指定运行的用户和您的APPName
    3. labels.put(LabelKeyConstant.CODE_TYPE_KEY, "sql"); // 指定运行的脚本类型:spark支持:sql、scala、py;Hive:hql;shell:sh;python:python;presto:psql
    4. labels.put(LabelKeyConstant.JOB_RUNNING_TIMEOUT_KEY, "10000");//job运行10s没完成自动发起Kill,单位为s
    5. labels.put(LabelKeyConstant.JOB_QUEUING_TIMEOUT_KEY, "10000");//job排队超过10s没完成自动发起Kill,单位为s
    6. labels.put(LabelKeyConstant.RETRY_TIMEOUT_KEY, "10000");//job因为资源等原因失败重试的等待时间,单位为ms,如因为队列资源不足的失败,会默认按间隔发起10次重试
    7. labels.put(LabelKeyConstant.TENANT_KEY,"hduser02");//租户标签,任务如果指定了租户参数则任务会被路由到单独的ECM机器

    Linkis管理台参数时方便用户指定资源限制参数和默认的任务参数提供的Web界面,如下: 全局配置参数: 主要包含了全局队列参数[wds.linkis.rm.yarnqueue],任务默认采用的Yarn队列,支持在客户端StartUPMap里面另外进行指定 资源限制参数,这些参数不支持任务设置,支持管理台进行调整。

    引擎配置参数: 配置参数介绍 - 图2 主要指定引擎的启动参数和运行时参数,这些参数支持在客户端进行设置,建议使用客户端进行个性化提交设置,页面只设置默认值