EngineConn 历史信息记录特性

    1.2 目标

    • 完成EC信息和资源信息持久化到DB的存储
    • 支持通过restful接口完成历史EC信息的查看和搜索
    • 支持查看已经结束EC的日志

    2. 总体设计

    此次特性新增主要修改为LinkisManager下的RM和AM模块,并新增了一种信息记录表。

    2.1 技术架构

    因为此次的实现需要记录EC的信息和资源信息,而资源信息分为请求资源、真实使用资源、释放资源等三个概念,而且都需要进行记录。所以此次实现大体方案是:基于EC在ResourceManager的生命周期去进行实现,在EC完成以上三个阶段时,都加上EC信息的更新操作。整体如下图所示:

    此次的特性主要是为了完成历史EC的信息记录和支持历史技术EC的日志查看。功能点设计的模块如下:

    核心执行流程

    • [输入端] 输入端主要为创建引擎时的请求资源、引擎启动后上报的真实使用资源、引擎退出时释放资源时输入的信息,主要包括请求的label、资源、EC唯一的ticketid、资源类型等.
    • [处理流程] 信息记录service,对输入的数据进行处理,通过标签会解析出对应的引擎信息、用户、creator,以及日志路径。通过资源类型确认是资源请求、使用、释放。接着讲这些信息存储到DB中。

    调用时序图如下:

    4. 数据结构:

    6. 非功能性设计

    6.1 安全

    不涉及安全问题,restful接口需要登录认证

    对引擎生命周期性能影响较小

    6.3 容量

    6.4 高可用

    不涉及