编辑距离（Minimum Edit Distance，MED），也叫 Levenshtein Distance。他的含义是计算字符串a转换为字符串b的最少单字符编辑次数。编辑操作有：插入、删除、替换(都是对a进行的变换)。用lev(i, j) 表示 a的前i个单词和 b的前j个单词的最短编辑距离（即从后往前）。可以分为以下几种情况：

i == 0 或 j == 0

\(lev(i, j) = max(i, j)\)
i，j 不为0， 且 \(a[i] == a[j]\)
\(lev(i, j) = lev(i-1, j-1)\)
i，j 不为0， 且 \(a[i] != a[j]\)
插入： \(lev(i, j-1)\)
删除： \(lev(i-1, j)\)
替换： \(lev(i-1, j-1) + 1\)
三者取最小

这里的插入是在 a[i] 后方插入，这样，b[j] 已经和 a[i] 后方的元素匹配，所以j前移;删除表示删除当前元素，a[i] 前面的元素顶上来，所以i前移，但是顶上来的元素不一定和j匹配，所以j不动。

C++ 实现

解法就是动态规划：

class Solution {

public:

	vector<vector<int>> matrix;

	int editDistance(string str1, string str2) {

		int len1 = str1.size();

		int len2 = str2.size();

		matrix = vector<vector<int>>(len1 + 1, vector<int>(len2 + 1, 0));

		for (int i = 0; i <= len1; ++i)

			matrix[i][0] = i;

		for (int j = 1; j <= len2; ++j)

			matrix[0][j] = j;

		for (int i = 1; i <= len1; ++i) {

			for (int j = 1; j <= len2; ++j) {

				if (str1[i] == str2[j])		matrix[i][j] = matrix[i - 1][j - 1];	// 最后一个字母相同

				else {

					int insert = matrix[i][j - 1] + 1;		// 插入

					int del = matrix[i - 1][j] + 1;			// 删除

					int replace = matrix[i - 1][j - 1] + 1;	// 替换

					matrix[i][j] = min(insert, min(del, replace));

				}

			}

		}

		return matrix[len1][len2];

	}

};

python-Levenshtein 库

pip install python-Levenshtein

import Levenshtein

print(Levenshtein.distance("the","teh"))

单词纠错

前几天看到一个很有意思的代码，通过统计的方式，计算最后可能的单词。w是输入单词，c是可能的正确单词。根据贝叶斯，按照惯例忽略分母。

\[p(c | w)=\frac{p(c) * p(w | c)}{p(w)}
\]
\(p(w|c)\) : 计算通过w所有编辑距离为i的所有正确单词(就是c)，i越小表示p越大
\(p(c)\) : 在上面的c中，找出频率最高的单词

import re

from collections import Counter

def words(text): return re.findall(r'\w+', text.lower())

WORDS = Counter(words(open('big.txt').read()))

def P(word, N=sum(WORDS.values())):

    # 返回单词的概率

    return WORDS[word] / N

def correction(word):

    # 找到频率最高的c

    return max(candidates(word), key=P)

def candidates(word):

    '''

    找到候选单词c

    '''

    return (known([word]) or known(edits1(word)) or known(edits2(word)) or [word])

def known(words):

    # 返回 words 和 WORDS的交集. 找出正确单词

    return set(w for w in words if w in WORDS)

def edits1(word):

    # 编辑距离为1的所有单词

    "All edits that are one edit away from `word`."

    letters    = 'abcdefghijklmnopqrstuvwxyz'

    splits     = [(word[:i], word[i:])    for i in range(len(word) + 1)]

    deletes    = [L + R[1:]               for L, R in splits if R]

    transposes = [L + R[1] + R[0] + R[2:] for L, R in splits if len(R)>1]

    replaces   = [L + c + R[1:]           for L, R in splits if R for c in letters]

    inserts    = [L + c + R               for L, R in splits for c in letters]

    return set(deletes + transposes + replaces + inserts)

def edits2(word):

    # 编辑距离为2的所有单词

    return (e2 for e1 in edits1(word) for e2 in edits1(e1))

在python中 list1 or list2 的含义是：

如果list1不为空，那么返回list1
如果list1为空，那么返回list2

所以这行代码的意思是：

return (known([word]) or known(edits1(word)) or known(edits2(word)) or [word])

如果单词是正确的就直接返回
如果但是错的，就返回编辑距离是1的所有正确单词作为候选词
如果编辑距离是1的正确单词没有，就返回编辑距离是2的所有正确单词作为候选词
如果还是为空，就返回他自己

编辑距离（Minimum Edit Distance）的相关教程结束。