多智能体强化学习实战指南:MAPDN电力配电网主动电压控制一站式解决方案

多智能体强化学习实战指南:MAPDN电力配电网主动电压控制一站式解决方案 多智能体强化学习实战指南MAPDN电力配电网主动电压控制一站式解决方案【免费下载链接】MAPDNThis repository is for an open-source environment for multi-agent active voltage control on power distribution networks (MAPDN).项目地址: https://gitcode.com/gh_mirrors/ma/MAPDN随着可再生能源的快速接入电力配电网面临着前所未有的电压稳定性挑战。传统的集中式控制方法难以应对分布式光伏系统的动态变化而MAPDNMulti-Agent Reinforcement Learning for Active Voltage Control on Power Distribution Networks项目提供了一套创新的多智能体强化学习解决方案为智能电网的电压控制问题带来了革命性的突破。项目核心价值与应用场景MAPDN是一个专为电力配电网设计的主动电压控制环境通过分布式智能体协同工作确保电网中所有节点的电压保持在安全范围内。该项目特别适用于以下场景高比例可再生能源接入当分布式光伏系统大规模接入时传统控制方法难以应对电压波动智能电网实时调控需要快速响应负荷变化和新能源出力波动城市电力系统优化在复杂的城市电网中实现精细化的电压管理微电网与孤岛运行在独立运行的微电网中维持电压稳定图133节点电力系统拓扑结构展示了分区控制和智能体部署策略核心技术架构10大算法5种电压屏障MAPDN集成了当前最先进的多智能体强化学习算法为不同场景提供最优解决方案智能算法矩阵算法类型代表算法核心特点适用场景独立行动算法IAC, IDDPG, IPPO每个智能体独立学习决策速度快简单网络通信受限协同优化算法MADDPG, MAPPO, MAAC, MATD3智能体间共享信息协同决策复杂网络需要全局优化信用分配算法COMA精确评估每个智能体的贡献需要公平性评估的场景分解协作算法FacMADDPG将大问题分解为子问题协作解决大规模网络计算资源有限随机优化算法SQDDPG结合随机搜索与确定性策略探索未知环境避免局部最优电压屏障函数系统为精确评估电压是否在安全范围内MAPDN提供了5种电压屏障函数Bowl函数平滑的二次函数适用于连续优化L1范数函数对电压偏差进行线性惩罚L2范数函数对电压偏差进行二次惩罚Courant Beltrami函数结合物理约束的复杂函数Bump函数在安全边界处急剧增大的惩罚函数关键要点MAPDN的算法矩阵覆盖了从简单到复杂的所有控制需求用户可以根据具体场景选择合适的算法和电压屏障函数组合。3分钟快速部署指南环境配置与安装克隆项目仓库git clone https://gitcode.com/gh_mirrors/ma/MAPDN cd MAPDN创建虚拟环境Linux系统conda env create -f environment.yml conda activate mapdn下载数据集 项目支持三种规模的电力系统场景用户可以根据需求选择下载case33_3min_final33节点小型系统case141_3min_final141节点中型系统case322_3min_final322节点大型系统数据集目录结构environments/var_voltage_control/data/ ├── case33_3min_final/ ├── case141_3min_final/ └── case322_3min_final/实战演练从训练到测试全流程模型训练实战以下命令展示了如何在33节点系统上使用MATD3算法进行训练python train.py --alg matd3 --alias 0 --mode distributed --scenario case33_3min_final --voltage-barrier-type l1 --save-path trial参数解析--alg matd3选择MATD3算法多智能体双延迟确定性策略梯度--mode distributed使用分布式控制模式每个设备一个智能体--scenario case33_3min_final使用33节点电力系统场景--voltage-barrier-type l1使用L1范数电压屏障函数--save-path trial模型保存路径模型性能测试训练完成后使用以下命令评估模型性能python test.py --save-path trial --alg matd3 --alias 0 --mode distributed --scenario case33_3min_final --voltage-barrier-type l1 --test-mode single --test-day 730 --render测试模式说明single模式测试特定日期如第730天的性能batch模式批量测试多个日期的平均性能--render参数启用环境可视化实时观察电压控制效果预期输出文件结构trial/ ├── model_save/ │ └── var_voltage_control-case33_3min_final-distributed-matd3-l1-0/ │ ├── model.pt # 训练好的模型权重 │ ├── config.yaml # 训练配置参数 │ └── logs/ # 训练日志文件 └── tensorboard/ # 训练过程可视化数据电力系统场景配置详解MAPDN支持三种不同规模的电力系统场景满足从研究到实际应用的不同需求场景参数Case33Case141Case322节点数量33141322负荷数量3284337控制区域4922PV数量智能体数62238最大负载功率3.5 MW20 MW1.5 MW最大PV功率8.75 MW80 MW3.75 MW技术要点不同规模的系统对应不同的控制复杂度Case33适合算法验证和快速迭代Case141和Case322适合实际应用场景的模拟。与传统控制方法对比MAPDN不仅提供强化学习解决方案还集成了传统控制方法作为性能基准传统控制实现项目在traditional_control/目录下提供了两种传统控制方法的Matlab实现下垂控制pf_droop_matpower_all.m最优潮流控制opf_matpower_all.m这些传统方法基于MATPOWER工具包实现可以作为强化学习算法的性能对比基准。性能对比优势与传统方法相比MAPDN的多智能体强化学习方案具有以下优势自适应能力能够适应电网的动态变化分布式决策无需中央控制器提高系统可靠性实时响应毫秒级的决策速度应对突发电压波动协同优化多个智能体协同工作实现全局最优模块化架构设计MAPDN采用高度模块化的设计便于用户扩展和定制核心模块结构MAPDN/ ├── agents/ # 智能体实现 │ ├── mlp_agent.py # MLP智能体 │ ├── rnn_agent.py # RNN智能体 │ └── ... # 其他智能体变体 ├── models/ # 神经网络模型 │ ├── maddpg.py # MADDPG模型 │ ├── matd3.py # MATD3模型 │ └── model_registry.py # 模型注册器 ├── learning_algorithms/ # 学习算法 │ ├── ddpg.py # DDPG算法 │ ├── ppo.py # PPO算法 │ └── rl_algorithms.py # 算法基类 ├── critics/ # 价值函数评估器 │ ├── mlp_critic.py # MLP评估器 │ ├── rnn_critic.py # RNN评估器 │ └── qmix.py # QMIX混合网络 └── environments/ # 环境实现 └── var_voltage_control/ # 电压控制环境配置管理项目的配置文件位于args/目录支持灵活的算法和环境参数配置args/ ├── alg_args/ # 算法参数配置 │ ├── maddpg.yaml # MADDPG算法参数 │ ├── matd3.yaml # MATD3算法参数 │ └── ... └── env_args/ # 环境参数配置 └── var_voltage_control.yaml # 电压控制环境参数性能基准测试与结果验证复现论文结果用户可以通过提供的脚本快速复现论文中的实验结果source train_case33.sh 0 l1 reproduction source train_case141.sh 0 l2 reproduction source train_case322.sh 0 bowl reproduction硬件要求建议使用至少2块12GB显存的GPU进行训练论文结果基于Geforce RTX 2080Ti显卡获得。训练监控与可视化MAPDN集成了TensorBoard支持实时监控训练过程启动TensorBoardtensorboard --logdirtrial/tensorboard监控指标平均奖励曲线电压违规率功率损耗变化智能体协同效率扩展与定制指南自定义电力网络虽然MAPDN专注于训练和评估但项目提供了构建自定义电力网络的工具链。用户可以参考相关工具生成符合自己需求的电力系统场景。算法扩展项目采用模块化设计用户可以轻松添加新的强化学习算法在models/目录下创建新的模型文件在learning_algorithms/目录下实现算法逻辑在model_registry.py中注册新算法在args/alg_args/中添加对应的参数配置文件电压屏障函数定制用户可以根据具体需求实现自定义的电压屏障函数在environments/var_voltage_control/voltage_barrier/目录下创建新的屏障函数在voltage_barrier_registry.py中注册新函数在训练时通过--voltage-barrier-type参数指定使用社区支持与学术贡献MAPDN项目由伦敦帝国理工学院和巴斯大学的研究团队共同开发得到了电力系统与人工智能领域专家的广泛认可。项目基于NeurIPS 2021发表的论文为电力系统的智能化升级提供了坚实的技术基础。学术引用如果您在研究中使用了MAPDN请引用以下论文inproceedings{NEURIPS2021_1a672771, author {Wang, Jianhong and Xu, Wangkun and Gu, Yunjie and Song, Wenbin and Green, Tim C}, booktitle {Advances in Neural Information Processing Systems}, pages {3271--3284}, title {Multi-Agent Reinforcement Learning for Active Voltage Control on Power Distribution Networks}, volume {34}, year {2021} }技术支持与反馈项目团队持续维护和更新MAPDN欢迎用户通过邮件反馈问题和建议。无论是学术研究还是工业应用MAPDN都为您提供了一个强大而灵活的多智能体强化学习平台助力智能电网技术的发展与创新。图2项目合作机构 - 伦敦帝国理工学院通过MAPDN研究人员和工程师可以快速搭建电力系统电压控制实验环境验证新的算法思想推动多智能体强化学习在电力系统领域的实际应用。项目不仅提供了完整的代码实现还包含了详细的使用文档和示例降低了多智能体强化学习的入门门槛为智能电网技术的发展注入了新的活力。【免费下载链接】MAPDNThis repository is for an open-source environment for multi-agent active voltage control on power distribution networks (MAPDN).项目地址: https://gitcode.com/gh_mirrors/ma/MAPDN创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考