进阶 dagster.io 2026-10-10 01:48:56 · 6 阅读

第36章 Dagster 1.4 发布:增强 dbt 集成与资产控制

最新版本带来了显著的 dbt 新能力、新的资产实例化控制机制以及更多功能。我们很高兴地宣布,Dagster 1.4.0 ——“Material Girl”—— 现已上线至 Dagster Cloud 并开放源码下载。完整的发布细节请参阅发布说明,以下是主要亮点:

强化 dbt™

本次发布的头条内容是 dagster-dbt 的功能增强。虽然 Dagster 此前已提供 dagster-dbt 集成(以及 dbt Cloud 集成),但我们收集了那些重度依赖 dbt 的 Dagster 用户反馈,并引入了全新的能力:

* 新的 @dbt-assets 装饰器,让用户对 Dagster 如何运行 dbt 项目拥有更强的控制权。 * 新的脚手架命令行界面,方便为包裹现有 dbt 项目的 Dagster 项目创建文件和目录。 * 改进了用于定义上游 dbt 资产与下游非 dbt 资产之间依赖关系的 API。现在,通过在 dbt sources 的 dbt 元数据中指定 Dagster 资产键,可以更轻松地指定 dbt 模型与上游非 dbt 资产之间的依赖关系。

> 观看 2023 年 8 月 2 日的活动视频,Dagster 团队在其中回顾了新功能。

演进的资产实例化、优化的 UI 及更多

我们持续演进资产实例化功能,提供对计算运行的时间、原因及方式的更细粒度控制和可观测性。这包括自动实例化历史、自动实例化性能、资产回填取消功能,以及新的组级别资产状态 UI。 * Dagster 新的自动实例化历史提供了对实例化规则执行过程的完整透明度。 * 自动实例化历史可提供细至分区级别的详细数据。 * 新的资产概览仪表盘按组汇总显示部署中所有资产的状态。

我们引入了两个新的实验性功能:操作级并发限制,以及无需定义 Job 即可观察源资产的能力。

我们还专注于提升框架的人机交互体验,使其更加逻辑清晰且易于上手。改进包括:

* 弃用 non_argument_deps,改用新的 deps 参数(明确了这是一种定义依赖关系的一等公民方式,使代码更简洁,同时仍兼容旧参数)。 * 将 Dagit 更名为 Dagster UI(减少新用户需要学习的术语数量)。 * 启动台(Launchpad)默认填充字段值(降低认知负荷)。

部分功能已从“实验性”阶段转正:DynamicPartitionDefinition 和 SensorResult。

最后,我们调整了 UI 布局,标记为实验性并欢迎您在 [GitHub 讨论区](here) 提供反馈。新布局将图从左到右水平渲染,而非垂直排列。您可以通过在用户设置中启用“Experimental horizontal asset DAGs”功能标志来尝试新的水平资产 DAG 布局。请试一试,并告诉我们您的看法。 * Dagster 默认的垂直排列。 * Dagster 新的可选水平排列。

1.4 贡献者:

我们要感谢所有为 1.4 Dagster Core 版本做出贡献的贡献者。

askvinni | yuvalgimmunai | nigelainscoe | plaflamme | danielecappuccio | armandobelardo | boenshao | loerinczy | akan72 | out-running-27 | guy-rvvup | thijs-blom | jrouly | adeboyed | snikch | chrishiste | renzhe-brian | chodera | joel-olazagasti | danielgafni | KMontag42 | srggrs | Jinior | ldnicolasmay | Elliot2718 | PeterJCLaw | Tanguy-LeFloch | leehuwuj | weberdavid | keyz | pdstrnadJC | nina-j | wkeifenheim | rubikplanet

有反馈或问题?请在 Slack 或 GitHub 上发起讨论。 有兴趣加入我们?查看我们的[开放职位](here)。 想要更多此类内容?关注我们的 [LinkedIn](here)。

评论 (0)