Azure Blob 存储

    Flink 支持使用 wasb:// 或 访问 Azure Blob 存储。

    参见以下代码了解如何在 Flink 作业中使用 Azure Blob 存储:

    1. env.readTextFile("wasb://<your-container>@$<your-azure-account>.blob.core.windows.net/<object-path>");
    2. // 写入 Azure Blob 存储
    3. // 将 Azure Blob 存储用作 FsStatebackend
    4. env.setStateBackend(new FsStateBackend("wasb://<your-container>@$<your-azure-account>.blob.core.windows.net/<object-path>"));

    为使用 flink-azure-fs-hadoop,在启动 Flink 之前,将对应的 JAR 文件从 opt 目录复制到 Flink 发行版中的 plugin 目录下的一个文件夹中,例如:

    flink-azure-fs-hadoop 为使用 wasb://wasbs:// (SSL 加密访问) 的 URI 注册了默认的文件系统包装器。

    凭据配置

    1. fs.azure.account.key.<account_name>.blob.core.windows.net: <azure_storage_key>

    或者通过在 flink-conf.yaml 中设置以下配置键,将文件系统配置为从环境变量 AZURE_STORAGE_KEY 读取 Azure Blob 存储密钥:

    ABFS

    Hadoop 的 ABFS Azure 文件系统支持多种配置身份验证的方法。关于如何配置,请访问Hadoop ABFS文档

    Azure 推荐使用 Azure 托管身份来使用 abfs 访问 ADLS Gen2 存储帐户。关于如何做到这一点的细节超出了本文档的范围,更多细节请参阅 Azure 文档。

    使用存储密钥访问ABFS(不鼓励)