国网每日数据拆分总表
概述
自动化处理国家管网天然气管道输配数据,将每日下发的 Excel 数据文件拆分为:
- 各托运商的数据总表(按气源分 Sheet,按站场×用户列布局)
- 管容监控优化版(跨托运商汇总,站场+气源维度)
- 用户每日用气总量统计表(跨托运商合并)
核心脚本为 scripts/auto_daily.py,位于桌面的 国网每日分割数据存档 目录运行。
工作目录
C:\Users\admin\Desktop\国网每日分割数据存档\
├── auto_daily.py ← 核心处理脚本
├── *.xlsx ← 待处理的新数据文件(放这里)
├── 已处理/ ← 处理完后自动归档此处
├── 输出/ ← 生成的报表输出
│ ├── 国网分割数据总表_{托运商}.xlsx
│ ├── 管容监控_优化版.xlsx
│ └── 用户每日用气总量.xlsx
└── logs/ ← 运行日志
核心能力
1. 增量拆分归档
给定新下发的 Excel 文件后,执行 auto_daily.py:
- 自动识别分割数据和上载数据
- 与已有总表合并(增量追加,不重建历史数据)
- 首次运行且无总表时,从
已处理/目录全量构建 - 处理完后自动将新文件移动到
已处理/目录
2. 管容监控优化版生成
从总表提取所有托运商数据,按站场+气源汇总为单一监控表。
3. 用户用气总量统计
从总表汇总所有用户的每日用气总量(万方),跨托运商去重合并。
使用方式
日常运行
当用户说"处理国网数据"、"更新拆分总表"、"生成管容监控"等时:
- 确认
C:\Users\admin\Desktop\国网每日分割数据存档\目录下有新的.xlsx文件 - 执行脚本:
cd "C:\Users\admin\Desktop\国网每日分割数据存档"
"C:\Users\admin\.workbuddy\binaries\python\envs\default\Scripts\python.exe" auto_daily.py
仅刷新报表(无新数据)
直接运行脚本,无新文件时会跳过增量步骤,仅重新生成管容监控和用户用量表。
首次全量构建
如果 输出/ 目录下没有 国网分割数据总表_*.xlsx 文件,脚本会自动从 已处理/ 读取所有历史文件进行全量构建。
数据输入格式
详细格式见 references/data_format.md。
关键要点:
- 普通
.xlsx文件按分割数据格式解析(列 C=托运商, D=日期, F=下载站场, G=用户, H=上载站场, I=气源, K=订单编号, O=合同日量, R=自动拆分值) - 文件名含"上载"或"托运商计量"的按上载数据格式解析
- 气源名称自动标准化(如"舟山LNG" → "新奥(舟山)液化天然气有限公司")
- 全角/半角括号自动统一
输出说明
国网分割数据总表_{托运商}.xlsx
- 每个托运商独立一个文件
- 每个气源一个 Sheet
- 行 1: 气源名称 | 行 2-3: 站场/用户标签 | 行 4: 订单编号 | 行 5: 合同日量 | 行 6+: 每日数据
- 上载列为暖橙色,下载列为蓝色
- 今日数据行高亮(浅蓝色)
- 冻结窗格 B6,站场组分隔粗线
管容监控_优化版.xlsx
- 所有托运商合并为一个文件
- 每个托运商一个 Sheet
- 按气源→站场→用户三层层级表头
用户每日用气总量.xlsx
- 行=日期,列=用户
- 包含合计行
- 用户名称自动去重(去除 occurrence 后缀
(2),(3)等)
依赖
- Python 3.13+
- openpyxl(Excel 读写)
- 默认使用 WorkBuddy 托管的 Python 环境:
C:\Users\admin\.workbuddy\binaries\python\envs\default\Scripts\python.exe
首次使用需确保 openpyxl 已安装:
"C:\Users\admin\.workbuddy\binaries\python\envs\default\Scripts\pip.exe" install openpyxl
常见操作场景
| 用户说法 | 对应操作 | |----------|----------| | "处理今天的国网数据" | 运行 auto_daily.py | | "更新拆分总表" | 运行 auto_daily.py | | "生成管容监控表" | 运行 auto_daily.py | | "查看用户用气总量" | 打开输出目录的用户用气总量文件 | | "首次初始化总表" | 首次运行 auto_daily.py(自动检测) | | "数据有问题想重新生成" | 删除输出目录下对应总表后重新运行 |
微信扫一扫