随机模拟:马尔可夫链中的蒙特卡洛推断采样法MCMC「1」
cac55 2024-10-03 17:49 18 浏览 0 评论
最近学习了机器学习中的马尔科夫链蒙特卡洛(Markov Chain Monte Carlo, 简称MCMC) 相关的知识。
主要内容包括：
【1】蒙特卡洛原则，及其应用于采样的必要性
【2】用于求解最大似然、近似推断、期望问题的经典采样算法：Metropolis-Hastings，Rejection，Importan，Metropolis和Gibbs算法。
【3】马尔可夫链各个性质在蒙特卡洛采样问题中的应用，包括同质性，平移不变性
————————————————【1】——————————————————
MC采样的基本想法是，选择一个样本，用一个简单问题近似复杂的混合问题。对于一个复杂分布，使用从中获得的样本来表示该分布，而不是直接猜测该分布。
首先学习复杂分布与近似推断approximate inference的例子：
【需要采样的第一类场景】贝叶斯推断与学习：假设未知变量x，已知数据y，下列难以处理的整合问题是贝叶斯统计的中心问题。
1、正态化问题
已知p(x)先验，似然p(y|x)，为求得后验概率p(x|y)，需要计算贝叶斯理论中的正态系数：
这个分母也就是对似然和先验关于x求边缘分布，得到p(y)。由于分母不能直接计算，转而从P(x|y)后验分布中采样，之后用采样的样本们表示此分布。更多的样本来自后验概率大的情况。近似推断在这里就是用样本的集合近似后验概率分布，而不是使用上图中公式直接计算之。
2、边缘分布问题
给定一个具有隐变量z的联合分布（x,z）-y，求边缘后验（边缘概率分布）P(x|y)，需对隐变量z积分。若z维度过高，则难以处理。从该分布中采样而非求积分。
3、求期望
假定目的为获取如下格式的描述统计结果：
求该条件概率的期望需要对x作条件积分，当x高维时难以处理。上式的含义为，给定y，特化了x的集合，只对这种情况下的x求期望。
【需要采样的第二类场景】优化，通常直接计算所有方案取最优是不可计算的。
【蒙特卡洛原则】从定义在一个很高维度空间的变量X的目标概率密度函数p(x)中，独立同分布地抽取样本xi N次。这N个样本被用来近似目标概率密度函数，使用如下的经验点质量函数（empirical point-mass function）：
经验点质量函数-计算x取某个特定值的概率。
【大数弱定律】当n趋近正无穷时，样本均至值按照概率收敛期望（真实分布均值）。但仍存在一个间隔。
【大数强定律】当n趋近正无穷时，样本均至值几乎完全收敛期望（真实分布均值）。
P(x)可能是一个非常复杂的分布，从X中抽取N个样本xi，函数f的样本均值逼近函数f在x上的期望（应用强大数定律）。
若此f(x)的方差（population variance总体方差）不是无穷大，且等于Ep(x)[f(x)^2]-I(f)^2,则IN(f)样本均值f的方差为f(x)的方差/N。样本方差是总体方差的1/N。
【中心极限定理】样本估计f和真实f的差，在N趋向正无穷时趋向0。差*sqrt(N)服从N（0，总体方差）。
x_ =argmax P(xi) xi来自N个样本之一。
【非参数表示】
概率分布可以被参数表示为分布及其参数，也可以被从该分布中抽取的假设/样本集合表示。非参数表示的优点有不限制分布的类型。
至此，明白了MC原则和抽样的必要性，【2】将解决怎么从函数/分布里抽样的问题。
相关推荐
- Linux :远程访问的 16 个最佳工具(一)
-
通过远程桌面协议(RDP)可以访问远程Linux桌面计算机，这是Microsoft开发的专有协议。它为用户提供了一个图形界面，可以通过网络连接连接到另一台/远程计算机。FreeRDP是...
- Guacamole安装部署_guacamole简单搭建
-
Guacamole安装部署Guacamole简介Guacamole是提供连接远程桌面的解决方案的开源项目（也可以说是一个远程桌面网关），通过浏览器就能远程操作服务器，适用于Chrome、Firefox...
- 1-FreeRTOS入门指南_freertos+lwip
-
本专栏是根据官方提供的文档进行FreeRTOS的各个功能函数的说明，以及函数的使用本专栏不涉及动手操作，只是对原理进行说明，FreeRTOS基础知识篇更新完成会对如何在开发板上进行上手实战操作。这里不...
- Windows暂停远程桌面，这些工具可替代
-
Windows暂停远程桌面，这些工具可替代近日，Windows官方宣布将于2025年5月27日起，在Windows10和Windows11应用商店中下架“Microsoft远程桌面”应用。这一消...
- 现在做 Web 全景合适吗?_前端全景
-
作者：前端藏经阁转发链接：https://www.yuque.com/xwifrr/uxqg5v/cgclx0前言Web全景在以前带宽有限的条件下常常用来作为街景和360°全景图片可查看。它可以...
- 网页直连，MSTSC远程控制Windows新姿势!
-
不用安装软件，打开浏览器就能远程办公？今天要聊的是一种颠覆传统的远程控制玩法，直接用网页连接Windows电脑，无需下载客户端，手机、平板、Mac甚至Linux都能轻松操作。这可不是吹牛，结合MSTS...
- QQ出现大面积盗号，原因已查明，请抓紧改密码
-
你没有看错，QQ又上了微博热搜，这次比较严重了，QQ出现大面积盗号，多个QQ群出现yellow信息，其次导致多位成员被踢出，并且还被封号处理，到底怎么回事？请继续往下看。在6月26日晚上10点左...
- 我在淘宝花10块钱，买到了能玩“宝可梦”的Q群机器人
-
十一月雨|文我是个没事喜欢逛淘宝的人，虽然是个不怎么好的习惯，但总是能够发现一些奇奇怪怪的东西，这次我发现的是一种Q群机器人。Q群机器人，大多是基于腾讯SmartQQ协议实现的一种能自动回复、自定...
- Metasploit最实用的攻击模块"Meterpreter"
-
Meterpreter命令详解Meterpreter是Metasploit渗透测试平台框架中功能最强大的攻击载荷模块，在最新的Metasploitv4.5.0版本中，攻击载荷模块已经达到了25...
- 手机QQ再更新，上线了一个想让人“无法回避”的新功能
-
近日，手机QQ更新了V8.2.6.700版本，苹果iOS版和安卓版手机QQ上线了一个新功能：可以实时显示对方的手机电量以及充电状态。开通电量显示也很简单，长按主页左上方的头像，在在线状态中选择我的电量...
- 「网络安全」常见攻击篇(20)——点击劫持
-
什么是点击劫持？点击劫持(Clickjacking)技术又称为界面伪装攻击(UIredressattack)，是一种视觉上的欺骗手段。通常有两种方式：攻击者使用一个透明的iframe，覆盖...
- 曾利用驱动人生升级通道传播的木马下载器攻击方法再次升级
-
一、概述御见威胁情报中心1月25日再次监测到曾利用驱动人生升级通道传播的木马下载器攻击方法再升级。本次升级主要变化在于攻击模块，木马在之前的版本上，新增计划任务“DnsScan”，在其中将永恒之蓝攻击...
- QQ飞车手游:点券首个功能性宠物上架，实战稳定触发还不快入手?
-
随着版本的逐渐更新，点券宠物在道具模式发挥逐渐越来越小，曾经探讨点券宠物在道具是不是真的没有用？直到出现了波斯猫改变了，我对点券宠物在道具模式的看法，如今又一个强势点券宠物来袭，而且特性触发简单，还是...
- 工单系统设计实战(上):核心配置与效能提升
-
流程的标准化并非终点，而是研发效能持续革命的基石。当工单系统真正成为研发团队的“神经中枢”，每一次需求的精准流转、每一行代码的受控提交、每一次版本的可靠发布，都将汇聚成驱动产品持续进化的强大动力...
- 6个编辑PDF文档内容的工具(软件+网站)
-
在日常办公、学习和生活中，PDF文件因其格式稳定、跨平台兼容性强等特点，被广泛应用。但有时我们拿到PDF文件后，却发现需要修改其中的内容，总感觉有点难搞。其实PDF文档编辑修改也很简单，这里分享6个软...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- 如何绘制折线图 (52)
- javaabstract (48)
- 新浪微博头像 (53)
- grub4dos (66)
- s扫描器 (51)
- httpfile dll (48)
- ps实例教程 (55)
- taskmgr (51)
- s spline (61)
- vnc远程控制 (47)
- 数据丢失 (47)
- wbem (57)
- flac文件 (72)
- 网页制作基础教程 (53)
- 镜像文件刻录 (61)
- ug5 0软件免费下载 (78)
- debian下载 (53)
- ubuntu10 04 (60)
- web qq登录 (59)
- 笔记本变成无线路由 (52)
- flash player 11 4 (50)
- 右键菜单清理 (78)
- cuteftp 注册码 (57)
- ospf协议 (53)
- ms17 010 下载 (60)