概率论仿真方法——蒙特卡洛实验方法分析

学习背景最近在学习徐大专老师《空间信息论》有关内容对于雷达距离信息、散射信息等表达式推导往往无法得到一个闭合的互信息表达式结果只能以期望和积分的形式给出。可以使用蒙特卡洛方法对概率分布结果进行仿真这里对其基本操作过程进行分析。问题表述下面给出了书中的一个推导结果可以看到4.101式就是一个无闭合表达式的结果其中涉及对w与x求期望由于w与x的分布函数是已知的但是它们是连续变量不易逐个求积分故可以使用蒙特卡洛实验方法进行抽样实验求出期望即可。操作过程这里要先仿真出4.100中的后验概率可以发现这是已知x、w情况下关于的概率分布PDF。因此为变量由于其满足内的均匀分布故可以在此范围内取n个点代入4.99求出它们的PDF如下这里h_phi.....向量存储了这1000个phi值对应的PDF矢量。根据熵的定义求出这一次蒙特卡洛实验中对应的后验熵加到蒙特卡洛求和变量sun_h中。然后重复进行若干次蒙特卡洛实验最后对sum_h求平均就相于对求期望即可求出。求期望公式为但是在蒙特卡洛方法中样本就是根据概率p(x)产生的因此在蒙特卡洛方法中样本出现的概率已经满足这个先验分布了求期望只需对每一次结果取平均便可。已经包含其代码如下最后实验结果对比课本仿真结果如下结果基本吻合实验过程正确。总结蒙特卡洛实验方法在求无闭合表达式的概率公式时比较常用根据已知变量分布率生成样本然后进行N次独立实验这个过程保证了得到的样本符合概率分布率同时简化了计算过程。对结果取平均后代替原来的概率积分操作求期望。