最佳实践

    AGGREGATE KEY

    AGGREGATE KEY相同时，新旧记录进行聚合，目前支持的聚合函数有SUM, MIN, MAX, REPLACE。

    AGGREGATE KEY模型可以提前聚合数据, 适合报表和多维分析业务。

    UNIQUE KEY

    UNIQUE KEY 相同时，新记录覆盖旧记录。在1.2版本之前，UNIQUE KEY 实现上和 AGGREGATE KEY 的 REPLACE 聚合方法一样，二者本质上相同，自1.2版本我们给UNIQUE KEY引入了merge on write实现，该实现有更好的聚合查询性能。适用于有更新需求的分析业务。

    2. (
    3.     orderid     BIGINT,
    4.     status      TINYINT,
    6.     amount      BIGINT DEFAULT '0'
    7. )
    8. UNIQUE KEY(orderid)

    DUPLICATE KEY

    只指定排序列，相同的行不会合并。适用于数据无需提前聚合的分析业务。

    业务方建表时, 为了和前端业务适配, 往往不对维度信息和指标信息加以区分, 而将 Schema 定义成大宽表，这种操作对于数据库其实不是那么友好，我们更建议用户采用星型模型。

    • Schema 中字段数比较多, 聚合模型中可能 key 列比较多, 导入过程中需要排序的列会增加。
    • 维度信息更新会反应到整张表中，而更新的频率直接影响查询的效率。

    使用过程中，建议用户尽量使用 Star Schema 区分维度表和指标表。频繁更新的维度表也可以放在 MySQL 外部表中。而如果只有少量更新, 可以直接放在 Doris 中。在 Doris 中存储维度表时，可对维度表设置更多的副本，提升 Join 的性能。

    Doris 支持两级分区存储, 第一层为分区(partition)，目前支持 RANGE 分区和 LIST 分区两种类型, 第二层为 HASH 分桶(bucket)。

    分区(partition)

    RANGE分区

    业务上，多数用户会选择采用按时间进行partition, 让时间进行partition有以下好处：

    • 可用上Doris分级存储(SSD + SATA)的功能
    LIST分区

    业务上，用户可以选择城市或者其他枚举值进行partition。

    HASH分桶(bucket)

    根据hash值将数据划分成不同的 bucket。

    • 建议采用区分度大的列做分桶, 避免出现数据倾斜
    • 为方便数据恢复, 建议单个 bucket 的 size 不要太大, 保持在 10GB 以内, 所以建表或增加 partition 时请合理考虑 bucket 数目, 其中不同 partition 可指定不同的 buckets 数。

    Doris对数据进行有序存储, 在数据有序的基础上为其建立稀疏索引,索引粒度为 block(1024行)。

    稀疏索引选取 schema 中固定长度的前缀作为索引内容, 目前 Doris 选取 36 个字节的前缀作为索引。

    • 建表时建议将查询中常见的过滤字段放在 Schema 的前面, 区分度越大，频次越高的查询字段越往前放。
    • 这其中有一个特殊的地方,就是 varchar 类型的字段。varchar 类型字段只能作为稀疏索引的最后一个字段。索引会在 varchar 处截断, 因此 varchar 如果出现在前面，可能索引的长度可能不足 36 个字节。具体可以参阅 数据模型、。
    • 除稀疏索引之外, Doris还提供bloomfilter索引, bloomfilter索引对区分度比较大的列过滤效果明显。 如果考虑到varchar不能放在稀疏索引中, 可以建立bloomfilter索引。

    Rollup 本质上可以理解为原始表(Base Table)的一个物化索引。建立 Rollup 时可只选取 Base Table 中的部分列作为 Schema。Schema 中的字段顺序也可与 Base Table 不同。

    下列情形可以考虑建立 Rollup：

    Base Table 中数据聚合度不高。

    如对于 site_visit 表：

    1. site_visit(siteid, city, username, pv)

    siteid 可能导致数据聚合度不高，如果业务方经常根据城市统计pv需求，可以建立一个只有 city, pv 的 Rollup：

    Base Table 中的前缀索引无法命中

    这一般是 Base Table 的建表方式无法覆盖所有的查询模式。此时可以考虑调整列顺序，建立 Rollup。

    如对于 session_data 表：

    1. session_data(visitorid, sessionid, visittime, city, province, ip, brower, url)

    如果除了通过 visitorid 分析访问情况外，还有通过 brower, province 分析的情形，可以单独建立 Rollup。

    Schema Change

    用户可以通过 Schema Change 操作来修改已存在表的 Schema。目前 Doris 支持以下几种修改:

    • 增加、删除列
    • 修改列类型
    • 调整列顺序
    • 增加、修改 Bloom Filter
    • 增加、删除 bitmap index

    具体请参照 Schema 变更