Користувач:Анастасія196/Метрика Вассерштейна

У математиці, відстань Вассерштейна або метрика Канторовича-Рубінштейна — це функція відстані, визначена між розподілами ймовірностей у заданому метричному просторі $M$. Названа на честь Леоніда Вассерштейна.

Означення

Нехай $(M,d)$ — метричний простір, де кожна міра є мірою Радона. Для $p\in [1,+\infty ]$, $p$-відстань Вассерштейна між двома ймовірнісними мірами $\mu$ та $\nu$ на $M$ зі скінченними $p$-ми моментами визначається як

$W_{p}(\mu .\nu )=\left(\inf \limits _{\gamma \in \Gamma (\mu ,\nu )}\mathbb {E} _{(x,y)\sim \gamma }d(x,y)^{p}\right)^{\frac {1}{p}},$

де $\Gamma (\mu ,\nu )$ — множина всіх каплінгів $\mu$ та $\nu .$ Каплінг $\gamma$ — це спільний розподіл ймовірностей на $M\times M$ такий, що

${\begin{aligned}\int _{M}\gamma (x,y){\rm {d}}y&=\mu (x),\\\int _{M}\gamma (x,y){\rm {d}}x&=\nu (y).\end{aligned}}$

Приклади

Детерміновані розподіли

Нехай $\mu _{1}=\delta _{a_{1}}$ та $\mu _{2}=\delta _{a_{2}}$ — два виродженні розподіли, зосереджені в точках $a_{1}$ та $a_{2}$ в $\mathbb {R} .$ Існує тільки один можливий каплінг цих двох мір — $\delta _{(a_{1},a_{2})},~(a_{1},a_{2})\in \mathbb {R} ^{2}.$ Тоді, використовуючи модуль різниці як метрику на $\mathbb {R} ,$ для довільного $p\geq 1,$ $p$-відстань Вассерштейна між мірами $\mu _{1}$ та $\mu _{2}$ визначається як

$W_{p}(\mu _{1},\mu _{2})=|a_{1}-a_{2}|.$

Одновимірні розподіли

Нехай $\mu _{1},\mu _{2}$ — ймовірнісні міри на $\mathbb {R} .$ Позначимо їхні функції розподілу ймовірностей як $F_{1}(x)$ та $F_{2}(x)$ відплвідно. Тоді $p$-відстань Вассерштейна між мірами $\mu _{1}$ та $\mu _{2}$ визначається як

$W_{p}(\mu _{1},\mu _{2})=\left(\int _{0}^{1}|F_{1}^{-1}(q)-F_{2}^{-1}(q)|^{p}{\rm {d}}q\right)^{\frac {1}{p}}.$

У випадку $p=1$, використовуючи формулу заміни змінних, отримуємо

$W_{1}(\mu _{1},\mu _{2})=\int _{\mathbb {R} }|F_{1}(x)-F_{2}(x)|{\rm {d}}x.$

Нормальний розподіл

Нехай $\mu _{1}=N(m_{1},C_{1}),~\mu _{2}=N(m_{2},C_{2})$ — дві невиродженні гаусові міри в $\mathbb {R} ^{n}$ з середніми $m_{1}$ та $m_{2}$ і матрицями коваріації $C_{1}$ та $C_{2}$ відповідно. Тоді, використовуючи звичайну евклідову метрику на $\mathbb {R} ^{n}$, $2$-відстань Вассерштейна для $\mu _{1}$ та $\mu _{2}$ визначається як

$W_{2}(\mu _{1},\mu _{2})^{2}=||m_{1}-m_{2}||_{2}^{2}+\operatorname {tr} (C_{1}+C_{2}-2(C_{2}^{\frac {1}{2}}C_{1}C_{2}^{\frac {1}{2}})^{\frac {1}{2}}).$

Властивості

• Збіжність в метриці $W_{p}$ еквівалентна звичайній слабкій збіжності плюс збіжності перших $p$-их моментів.
• Якщо $\mu$ та $\nu$ мають обмежений носій, то

$W_{1}(\mu ,\nu )=\sup {\bigg \{}\int _{M}f(x){\rm {d}}(\mu -\nu )(x){\bigg |}{\text{continuous}}~f\colon M\to \mathbb {R} ,~\operatorname {Lip} (f)\leq 1{\Big \}},$ де $\operatorname {Lip} (f)$ — найменша константа Ліпшиця для $f.$

• Нехай ${\boldsymbol {P}}_{p}(M)$ — сукупність всіх ймовірнісних мір на $M$ зі скінченним $p$-м моментом. Для довільного $p\geq 1,$ метричний простір $\left({\boldsymbol {P}}_{p}(M),W_{p}\right)$ є повним та сепарабельним, якщо $(M,d)$ — повний та сепарабельний.

Див. також

• Метрика Леві
• Транспортна задача
• Критерій узгодженості Колмогорова

Додаткова література

• Ambrosio L, Gigli N, Savaré G (2005). Gradient Flows in Metric Spaces and in the Space of Probability Measures. Basel: ETH Zürich, Birkhäuser Verlag. ISBN 978-3-7643-2428-5.
• Jordan R, Kinderlehrer D, Otto F (January 1998). The variational formulation of the Fokker–Planck equation. SIAM Journal on Mathematical Analysis. 29 (1): 1–17 (electronic). doi:10.1137/S0036141096303359. ISSN 0036-1410. MR 1617171. S2CID 13890235.
• Rüschendorf L (2001), metric Wasserstein metric, у Hazewinkel, Michiel (ред.), Математична енциклопедія, Springer, ISBN 978-1-55608-010-4
• Villani C (2008). Optimal Transport, Old and New. Springer. ISBN 978-3-540-71050-9.

Зовнішні посилання

• What is the advantages of Wasserstein metric compared to Kullback–Leibler divergence?. Stack Exchange. 1 серпня 2017.