[research] sampling - swgr's Blog

[research] sampling

swgr posted @ 2011年10月18日 19:58 in other with tags statistics sampling , 1874 阅读

今天的group meeting延续了上周的话题,讲的是sampling(采样)。听得不是很明白。

--------------------------------------

假设我们要在分布y上采样,并且,假设所求的分布y可以表述为在标准分布z上施加一个操作f产生的,即 $p(z) = 1, y = f(z)$

从概率密度函数(pdf)的定义出发,就有$p(y)=p(z)\left|{\frac{dz}{dy}}\right|$

把右边的微分乘到左边并且积分,就有

$$z = h(y) = \int_{-\infty}^{y}p(\tilde{y})d\tilde{y}$$

这样,就通过z把h和f建立起了关系,即$f = h^{-1}$

这也就是说,假设我们能求出p(y)的cumulative density fucntion(累计密度函数)h(y)的反函数h^{-1}(y),那也就是知道f了,这样,通过在z上均匀采样(由于z是一个标准分布,采样很容易),再经过y=f(z)变换,就能在y分布上均匀地采样了。

--------------------------------------

当然,以上是最简单的情况(所谓“直接法”)。但是实际上在sampling的时候,由于很难求出分布的方程p(y),或者求出了cdf但是不好求反函数,或者所求的分布p(y)的范围太大不好积分,因此很难用上述办法来做。因此,采用了各种方法来进行sampling。

--------------------------------------

比如reject sampling的方法。思路是:

既然p(x)不好采样,我们搞一个比较容易采样的函数q(x),并且乘上一个系数k让它保证$k*q(x)\geq p(x)$

这样在kq(x)上采样即可。当然,这样采样的时候不总是能保证采样的结果是有效的,

因此如果采样的结果是落在p(x)内,就accept,落在p(x)到kq(x)直接,就reject。

这就是reject sampling的思路。这里需要考虑一个reject rate的问题,就是如果kq(x)太大了,那么就很难取到p(x)内的采样点,实际效果就是大部分的sampling都要reject掉,效率很低。因此kq(x)的选择要恰当。

常用的q(x)有Guassian Distribution、Cauthy Distribution,指数分布等等。

--------------------------------------

先写到这,后面的Importance sampling和MCMC没怎么听懂,基于MCMC的Particle Filtering以前倒是听过,有空找个时间学一下。

 

另外,写这篇日志的过程中学到一些Tex的语法..

teachersbadi.in 说:
2023年4月16日 15:52

TeachersBadi is information about education, students and teachers.‘TeachersBadi‘, the name itself discloses the nature of the site. The site is being launched and run by a dedicated Team for teachers, students and educators. We love to share mainly educational information teachersbadi.in and employees, teacher’s related content in the education world.

留学生作业代写 说:
2024年1月12日 14:26

留学生作业代写行业是一个既有利又有弊的行业。对于有需要的留学生而言,合理利用论文代写服务可以提高论文质量,减轻学术压力。然而,留学生也需要保持警惕,选择诚信可靠的代写机构,避免因为依赖代写而忽视自身学术的发展。同时,教育机构和学校也应该加强监管,完善学术诚信教育,以及提供充足的支持和辅导,帮助留学生更好地适应学术环境和提升学术能力。

网课代修 说:
2024年8月22日 11:42

我们的网课代修服务涵盖了从课程报名、课程内容学习、作业完成到考试准备的全程服务。无论是繁琐的每周讨论区发帖,还是复杂的期末考试准备,我们的专业团队都会为您全程代管,确保每一个环节都能顺利进行。您只需将时间投入到更重要的事情上,而我们将负责确保您的课程顺利完成。


登录 *


loading captcha image...
(输入验证码)
or Ctrl+Enter
Host by is-Programmer.com | Power by Chito 1.3.3 beta | © 2007 LinuxGem | Design by Matthew "Agent Spork" McGee