首页天道酬勤kl距离,豪斯多夫距离

kl距离,豪斯多夫距离

张世龙 05-12 06:07 36次浏览

3359 blog.csdn.net/nockinonheavensdoor/article/details/82055147

附注:只是凭直觉了解,好的严密证明请参考底部。

earth移动器’s distance

推土机距离的例子:很多土的分布是PrPr,其随机变量是xx,现在要求将这座土堆偏移到分布PgPg,其随机变量是yy (图中为PP) ),这样做的方法很多。 那么,最小工作移动应该做什么? 这是对应优化问题的最优解。

在此,(Pr,Pg ) Pr,Pg )是边缘分布为PrPr和PgPg联合分布(Pr,Pg ) Pr,Pg )的集合的x(x,y )=pr ) yx(x,y )=pr )

对于(pr,P)(pr,P),当求解(x,y ) )并遵循联合分布时,对于|||xy|||的期望在所有解中最小的期望是推土机距离。

直观测度论

测度论提供了若干集合的特征,来描述适合于RnRn空间的大多数点。

零测度(零测度集合在我们的测量空间中不占用任何体积。 例如,二维空间中的一直线的测度是0。

高维空间的低维子空间

高维空间的很多点是多余的,实际数据被压缩成低维子空间的流形,即高维曲面。 由于维数低,所占空间体积几乎为0,所以原始的GANs中发生器的生成数据广泛分布在高维空间中,由于未检测到实际数据,KL距离始终为log2,所以对发生器的梯度始终为0,无论如何训练都是无用的问题

Wasserstein距离的对偶公式

相当于找到函数ff求出(3)的最大目标函数。 该函数满足fl1fl1,1-lip schitz函数。

参考: https://www.zhi Hu.com/question/41752299

: https://Vincent herrmann.github.io/blog/wasser stein /

《深度学习》 《hulu百面》

-----------------

作者: NockinOnHeavensDoor

来源: CSDN

译文: 3359 blog.csdn.net/nockinonheavensdoor/article/details/82055147

声明:本文为博客原创文章。 转载请附上博文链接!

转载于:https://www.cn blogs.com/fpzs/p/10479924.html

,