第二章 蒙特卡罗方法(3)

2018-11-22 21:02

f(x)。而不是总是接受建议的过渡xi?xj,我们拒绝它有时会使用以下规则

(决定是否随机步行者被允许搬到xj,或者如果它必须留在xi):

(1) 如果??xj????xi? ,允许移动到xj

(2) 如果γ (xj) < γ(xi),然后决定随机移动到xj,或留在xi,同

下面接受举动XJ的概率:

Pi?j??(xj)?(xi) (2.9) 然后有以下定理:随机步行者样品的结合g(x)(式(2.7)的的概率)密度函数f(x)和g(x)的。我们称上述接受Metropolis规则。请注意,以运行该算法,也没有必要知道在方程的归一化常数k(2.7)。

作为建议算法的特殊情况,我们可以利用函数f(x)??(x)的,在这种情况

h(x)?g(x), 作为该算法的一个特殊的情况下,然后开始,如果不不受干扰随

机游走,将采样均匀概率密度?(x),我们结束了一个随机游动的任何样本期望的概率密度?(x)的。附录6.11,层叠式使用的算法的描述,这使我们能够采样相结合。

h(x)?k?(x)f1(x)f2(x)fp(x) (2.10) ??(x)?(x)?(x)概率密度序列。 2.3.6遗传算法

人们通常在文献中发现另一种类型的蒙特卡罗技术,一种在生物学的基础上的类比,称为遗传算法(戈德堡,1989年)。不幸的是,遗传算法缺乏

Metropolis算法的基本定理(“如果你做到这一点,那么在生成的分布的样品,

精确的,技术意义上的样本),这里不作描述。

2.4蒙特卡洛解决反问题

如上述,在第2.2节的开头,在后验概率密度模型流形表示为

?M(m)?k?M(m)L(m) (2.11) 其中的概率密度?M(m)表示在模型上的先验信息参数和所述似然函数

L(m)为模型的品质因素的量度米在拟合数据。为L(m)的两个可能的表达式中

的方程给出(2.2)和(2.3)。 2.4.1 抽样前的概率分布 2.4.1抽样的先验概率分布

上面提出的电影战略要求我们首先生成前的样本概率密度?M(m)。在典型的逆问题,该概率密度?M(m)为很简单的(相反情况的后验概率密度?M(m)。因此,通常可以使用简单的方法完成?M(m)的采样。我们已经看到了两个这方面的例子(例如1.32第29页和例2.1第45页)。的采样先验概率密度通常涉及依次使用一维采样的方法,如上述的那些。有时,吉布斯采样,甚至是

Metropolis算法可能是需要的,但是这些通常是简单的开发。这样,让我们假

设,我们能够得到的先验概率密度的样品?M(m),让我们搬到获取后的样品的难题概率密度?M(m)。

2.4.2抽样后的概率分布

Metropolis算法的自适应(载于第2.3.5节),以问题采样后验概率密度(方

程(2.11)),

?M(m)?k?M(m)L(m) (2.12) 是及时的。正如刚才讨论的,假设我们能够获得的尽可能多的样本先验概率密度?M(m)如人所愿。在给定步长,随机步行者是在点mi,并且规则的应用将导致过渡到点mj。有时候,我们拒绝使用下面的规则这一提议的转换: 1. 如果L(mj)?L(mi),接受转换mj

2. 如果L(mj)?L(mi) , 然后决定随机移动到mj,还是留在mi,与 接受移动到mj的概率如下: pi?j?L(mj)L(mi) (2.13)

然后,该随机步行者样本后验概率密度?M(m)。

2.4.2 设计随机步长模型

我们的目标是获得的后验概率密度?M(m)的样品是独立。一个简单的方法

来获得后样品的独立性是呈现给Metropolis算法的先验概率密度?M(m)的独立样本。除了为问题所在的模型波形具有一个非常小的维数,这将不行,因为大维空间的空虚(第2.1项)因此,在现有的概率分布的采样必须做从跳点对点使得小的跳跃。这种采样,称为随机步长,是一种对布朗运动也就是远离产生独立的样品。然后,如果样品先验分布呈现给Metropolis算法不是独立的,将样品通过对Metropolis算法产生的后验分布不会是独立的。

只有一种解决这个问题:不是把所有的样品制作由Metropolis算法,以一个样品后,等到动作足够数量已经进行了,所以,该算法已经“遗忘”那样。有多少动作有我们等待,一个样本后,以具有一定的信心,下一个样本我们考虑是独立于先前的一个。没有通用的规则可以给予,因为这将强烈地依赖于手头的特定问题。

第二个重要点是:的无限只有一小部分许多随机步长,将采样先验分布将允许Metropolis算法有一个合理的效率。

基本规则是:在众多可能的随机游走,可以样的先验概率密度

?M(m)中,选择一个,从一个样品跳跃时先验概率密度下,似然函数L(x)的扰动的是尽可能地小(以便提高对Metropolis规则的接受率)。为了更加精确,在模型空间扰动的类型必须是使得大扰动(在模型空间)只产生预测数据的小扰动。当在模型空间中满足扰动的类型这样的要求,但它仍然决定要进行的扰动的大小还有就是我们的心愿之间的妥协在模型空间中快速移动和需要对

Metropolis算法找到一些建议的招式可以接受的。所以,在扰动模型中的空间

的大小必须是这样的Metropolis准则的接受率是,比方说,30%-50%。如果录取率较大,我们还不够快,在模型空间;如果它非常小,我们正在浪费计算机资源来测试不接受模型。在这这样,我们取得了广泛的的勘探模型空间(大步骤,但两者之间取 许多废品)和位于可能性极大的精心取样(小步骤,次品少,但缓慢步长)的平衡。

这些言论表明,可观的创造力,需要在设计随机步行即采样

?M(m)。例如,在一个问题涉及到质量密度的模型分布,包括重力场值的数据,Mosegaard和Tarantola(1995),选择使该质量密度分布的大的扰动,但总保持质量近似恒定。

最后一点要检查关切,停止随机步长时的决定后验概率密度?M(m)已被充分采样。有两种子问题在这里,一个容易和困难的。简单的问题是,当决定探索给定的最大的概率密度,即该最大具有方便被采样。文献中包含好的规则,

当然,困难问题,是关于可能性,我们可能会完全丢失了一些区域的显著概率

?M(m),分离的最大的,例如。这个问题是固有的所有蒙特卡罗方法,是非常严重的高非线性逆问题不幸的是,没有什么可以说这里是将适用于任何大型类逆的问题:每个问题都有自己的物理和实施者的经验是关键。这个问题必须在每次逆问题是使用蒙特卡罗解决时间讨论卡罗方法。

有关使用Metropolis算法求解逆问题的成本最后的评论:该算法的每个步骤中需要L(m)的值。这需要其中的似然函数由下式给出的情况下的前向问题(分辨率表达式(2.3)),或者一个整体的评价(在该情况下的似然函数如式(2.2))。这可能是非常苛刻的计算资源。

2.5模拟退火

模拟退火技术的设计,以获得最大似然点任何概率密度,特别是对于后验概率密度?M(m)。但在模拟退火的核心有一个Metropolis算法,能够进行采样

?M(m)。我的观点是,如果我们能够采样概率密度?M(m)我们不应该有兴趣的最大似然点。正如任何中央估计(如平均或中值),最大似然点是非常小的兴趣时的处理复杂的概率分布。

模拟退火技术 描述的原理的完整性,但不是因为它是它的一个重要组成部分。

退火包括加热固体,直到热应力被释放,则在冷却它非常缓慢的环境温度。理想情况下,该物质被加热,直到其熔化,并然后冷却得非常缓慢,直至完全结晶而形成。该物质然后到达能量最低的状态。如果冷却不慢足够,亚稳的玻璃可以形成。模拟退火(帕特里克等人,1983,格曼和格曼,1984)是一个数值方法,使用物理退火和数学的方法之间的类似得到的函数的全局最小值的问题(同化的能量)可能有局部极小(亚稳态)。它已在框架被引入由罗斯曼(1985年,1985年b,1986)相反理论。

即将看到,模拟退火有,其核心是一个Metropolis算法。我们已经看到上面,在使用Metropolis算法人们可以采样概率分布在模型空间中。扭曲它,直到它达到峰值时的最大似然点(这是模拟退火一样)不一定是一个优雅的策略。 让我们,不过,这里提到的基本工具。让?M(m)是在的(不一定是归一化)后验概率密度模型空间流形,并让?M(m)是其均匀的限制。我们希望得到的最大似然点MML:

?M(m) maximumfor m?mML (2.14)

?M(m)如第1.6.4解释,概率密度的最大不(目不暇接)定义一个点;的最大概率

密度的比值至均匀概率密度一样。要找到这个最大的,我们可以定义能量函数

S(m)??T0log?M(m) (2.15)

?M(m)其中T0是任意的,但固定的,真实的正数,被称为环境温度(例如,

T0?1)。这使

?M(m)??M(m)e?S(m)T0 (2.16)

现在定义,任意温度T,新函数

?M(m,T)??M(m)e?S(m)T (2.17)

并且,对于T的任意固定值,就产生了采样的Metropolis算法?M(M,T)。如果,而Metropolis算法是在工作中,是一个非常缓慢的改变?趋于零的值,很明显,该采样算法将结束采样只模型,这些模型中的能量函数的最大值的附近

S(m),即,在最大似然点MML的附近。

如果温度T引导到零速度过快,那么系统会收敛到一个“亚稳态”的解决方案,即,对一个局部最大值?M(m)?M(m),而不是到全局最大。

对于?M(m)?常数。方程(2.17)清楚地类似Gibbs分布(也所谓规范分配),给出在m点概率能量S(m)在温度T的统计系统(这里Boltzmann常数k取1)。这证明了名称为“能量函数”为S??m?和对于T“温度”该因素?M(m)略概括了吉布斯分布:在无限的概率密度温度是均匀的概率密度?M(m)。 例2.4。在高斯情况下研究例1.37,我们已经来到了后验概率密度

?M(m)?kexp(?S(m)), (2.18) 其中,k是归一化常数和S(m)为最小二乘失配函数。

1?1?1?(g(m)?dobs)tCD(g(m)?dobs)?(m?mprior)CM(m?mprior)? (2.19) 2我们看到,在等式(2.15)引入的能量函数相同的这里的失配函数。改变温度仅S(m)?仅意味着有(以代替方程式(2.18)T0?1) ?M(m)?kexp(?S(m)) (2.20) T

即,乘以一个常数的失配函数。


第二章 蒙特卡罗方法(3).doc 将本文的Word文档下载到电脑 下载失败或者文档不完整,请联系客服人员解决!

下一篇:2017-2018郑州市省实验中学初三四模化学试卷

相关阅读
本类排行
× 注册会员免费下载(下载后可以自由复制和排版)

马上注册会员

注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: