Dask 分布式计算
- 唯一标识:
hub-dask - 显示名称:Dask 分布式计算
- 能力摘要:使用 Dask 将熟悉的 NumPy、Pandas 和任务图工作流扩展到多核、超内存和分布式计算,管理分区、调度、内存、集群和计算诊断。
案例素材
- 数据科学家需要处理超过笔记本内存的 Parquet 数据。该 skill 会延迟读取并按分区聚合,仅在必要时触发计算,检查任务图以避免过多小任务。
- 风险模型的参数扫描需要并行运行。该 skill 会将独立计算构造成可追踪的任务,控制 worker 资源和失败重试,收集运行时指标以发现倾斜任务。
- 作业迁移到云集群后变慢。该 skill 会检查分区大小、数据本地性、序列化和 worker 内存溢出,先用仪表板定位瓶颈,再调整而不盲目增加机器。
Scan to join WeChat group