wasserstein distance简单记录

**Wasserstein距离简介**

Wasserstein距离（也称为Earth Mover距离或最大均值匹配距离）是一种用于衡量两个分布之间差异的距离度量。它是由法国数学家Leonid V. Wasserstein于1949年提出的一种距离度量方法。

**定义**

给定两个随机变量X和Y，其概率密度函数分别为p(x)和q(y)，Wasserstein距离d_W(X,Y)定义为：

d_W(X,Y) = inf_{π∈Π} E[||x-y||_2]

其中，Π是所有从X到Y的转移矩阵的集合，||.||_2表示L2范数。

**计算方法**

Wasserstein距离可以通过以下步骤计算：

1.生成两个随机变量X和Y的样本。
2. 计算每个样本点之间的距离。
3. 对所有样本点进行排序，得到两个序列。
4. 使用动态规划法找到从X到Y的最优转移矩阵π。
5. 计算转移矩阵π下的期望值E[||x-y||_2]。

**代码示例**

以下是Python代码示例：

import numpy as npdef wasserstein_distance(x, y):
 # 计算每个样本点之间的距离 distances = np.abs(x[:, None] - y[None, :])
 # 对所有样本点进行排序，得到两个序列 sorted_x = np.sort(distances)
 sorted_y = np.sort(distances.T)
 # 使用动态规划法找到从X到Y的最优转移矩阵π n = len(x)
 m = len(y)
 pi = np.zeros((n, m))
 for i in range(n):
 for j in range(m):
 pi[i, j] = sorted_x[i, j] / (i +1) * (m - j) / m # 计算转移矩阵π下的期望值E[||x-y||_2]
 return np.sum(pi * distances)

#生成两个随机变量X和Y的样本np.random.seed(0)
x = np.random.normal(size=100)
y = np.random.normal(size=100)

# 计算Wasserstein距离distance = wasserstein_distance(x, y)
print("Wasserstein距离：", distance)

**注释**

* `wasserstein_distance`函数计算两个随机变量X和Y的Wasserstein距离。
* `distances`变量存储每个样本点之间的距离。
* `sorted_x`和`sorted_y`变量存储对所有样本点进行排序后的序列。
* `pi`变量存储从X到Y的最优转移矩阵。
* 最后，函数返回转移矩阵π下的期望值E[||x-y||_2]。

**应用**

Wasserstein距离有许多应用：

1. **数据匹配**: Wasserstein距离可以用于衡量两个分布之间的差异，从而帮助选择最合适的匹配算法。
2. **图像处理**: Wasserstein距离可以用于衡量图像之间的相似度，从而帮助图像分类和识别。
3. **自然语言处理**: Wasserstein距离可以用于衡量文本之间的相似度，从而帮助文本分类和推荐。

总之，Wasserstein距离是一种强大的距离度量方法，可以用于衡量两个分布之间的差异。它有许多应用，并且可以通过动态规划法计算。