编辑距离问题
什么是两个字符串的编辑距离(edit distance)?给定字符串s1和s2,以及在s1上的如下操作:
- 插入(Insert)一个字符
- 移除(Remove)一个字符
- 替换(Replace)一个字符
试问最小需要多少次这样的操作才能使得s1转换为s2?
比如,单词“cat”和“hat”,这样的操作最少需要一次,只需要把“cat”中的“c”替换为“h”即可。单词“recall”和“call”,这样的操作最少需要两次,只需要把“recall”中的“r”和“e”去掉即可。单词“Sunday”和“Saturday”,这样的操作最少需要3次,在“Sunday”的“S”和“u”中插入“a”和“t”,再把“n”替换成“r”即可。
那么,是否存在一种高效的算法,能够快速、准确地计算出两个字符串的编辑距离呢?
动态规划算法
我们使用动态规划算法(Dynamic Programming)来计算出两个字符串的编辑距离。
我们从两个字符串s1和s2的最末端向前遍历来考虑。假设s1的长度为m,s2的长度为n,算法如下:
- 如果两个字符串的最后一个字符一样,那么,我们就可以递归地计算长度为m-1和n-1的两个字符串的情形;
- 如果两个字符串的最后一个字符不一样,那么,进入以下三种情形:
- 插入: 递归地计算长度为m和n-1的两个字符串的情形,这是因为在s1中的末端插入了一个s2的最后一个字符,这样s1和s2的末端字符一样,就是1中情形;
- 删除: 递归地计算长度为m-1和n的两个字符串的情形,这是在s1中的末端删除了一个字符;
- 替换: 递归地计算长度为m-1和n-1的两个字符串的情形,这是因为把s1中末端字符替换成了s2的最后一个字符,这样s1和s2的末端字符一样,就是1中情形;
这样,我们就有了子结构问题。对于动态规划算法,我们还需要一个初始化的过程,然后中间维护一张二维表即可。初始化的过程如下: 如果m为0,则至少需要操作n次,即在s1中逐个添加s2的字符,一共是n次;如果n为0,则至少需要操作m次,即把s1的字符逐个删除即可,一共是m次。
Python实现
利用DP算法解决两个字符串的编辑距离的Python代码如下:
# -*- coding: utf-8 -*-
# using Dynamic Programming to solve edit distance problem
# s1, s2 are two strings
def editDistDP(s1, s2):
m, n = len(s1), len(s2)
# Create a table to store results of subproblems
dp = [[0 for _ in range(n+1)] for _ in range(m+1)]
# using DP in bottom-up manner
for i in range(m + 1):
for j in range(n + 1):
# If first string is empty, only option is to
# isnert all characters of second string, thus the
# min opration is j
if i == 0:
dp[i][j] = j
# If second string is empty, only option is to
# remove all characters of second string, thus the
# min opration is i
elif j == 0:
dp[i][j] = i
# If last characters are same, ignore last character
# and recursive for remaining string
elif s1[i-1] == s2[j-1]:
dp[i][j] = dp[i-1][j-1]
# If last character are different, consider all
# possibilities and find minimum of inserting, removing, replacing
else:
dp[i][j] = 1 + min(dp[i][j-1], # Insert
dp[i-1][j], # Remove
dp[i-1][j-1]) # Replace
return dp[m][n]
# Driver program
s1 = "sunday"
s2 = "saturday"
edit_distance = editDistDP(s1, s2)
print("The Edit Distance of '%s' and '%s' is %d."%(s1, s2, edit_distance))
输出结果如下:
The Edit Distance of 'sunday' and 'saturday' is 3.
Java实现
利用DP算法解决两个字符串的编辑距离的Java代码如下:
package DP_example;
// 计算两个字符串的编辑距离(Edit Distance)
public class Edit_Distance {
// 主函数
public static void main(String[] args) {
String str1 = "cat";//"Sunday";
String str2 = "hat";//"Saturday";
int edit_dist = edit_distance(str1, str2);
System.out.println(String.format("The edit distance of '%s' and '%s' is %d.",
str1, str2, edit_dist));
}
/*
函数edit_distanc: 计算两个字符串的编辑距离(Edit Distance)
传入参数: 两个字符串str1和str2
返回: 编辑距离
*/
public static int edit_distance(String str1, String str2){
// 字符串的长度
int m = str1.length();
int n = str2.length();
// 初始化表格,用于维护子问题的解
int[][] dp = new int[m+1][n+1];
for(int i=0; i <= m; i++)
for(int j=0; j <= n; j++)
dp[i][j] = 0;
// using DP in bottom-up manner
for(int i=0; i <= m; i++){
for(int j=0; j <= n; j++) {
/* If first string is empty, only option is to
* isnert all characters of second string, thus the
* min opration is j
*/
if(i == 0) { dp[i][j] = j;}
/* If second string is empty, only option is to
* remove all characters of second string, thus the
* min opration is i
*/
else if(j == 0){dp[i][j] = i;}
/* If last characters are same, ignore last character
* and recursive for remaining string
*/
else if(str1.charAt(i-1) == str2.charAt(j-1)){
dp[i][j] = dp[i-1][j-1];
}
/*If last character are different, consider all
*possibilities and find minimum of inserting, removing, replacing
*/
else{
/*
* dp[i][j-1]: Insert
* dp[i-1][j]: Remove
* dp[i-1][j-1]: Replace
*/
dp[i][j] = 1 + min(min(dp[i][j-1], dp[i-1][j]), dp[i-1][j-1]);
}
}
}
return dp[m][n];
}
public static int min(int i, int j){
return (i <= j) ? i : j;
}
}
输出结果如下:
The edit distance of 'cat' and 'hat' is 1.
其它实现方式
以上,我们用Python和Java以及动态规划算法自己实现了编辑距离的计算。当然,我们也可以调用第三方模块的方法,比如NTLK中的edit_distance()函数,示例代码如下:
# 利用NLTK中的edit_distance计算两个字符串的Edit Distance
from nltk.metrics import edit_distance
s1 = "recall"
s2 = "call"
t = edit_distance(s1, s2)
print("The Edit Distance of '%s' and '%s' is %d." % (s1, s2, t))
输出结果如下:
The Edit Distance of 'recall' and 'call' is 2.
总结
在本文中,我们对于两个字符串的编辑距离的计算,只采用了插入、删除、替换这三种操作,在实际中,可能还会有更多的操作,比如旋转等。当然,这并不是重点,重点是我们需要了解解决这类问题的算法,即动态规划算法。在后续的文章中,笔者会介绍编辑距离在文本处理中的应用。
本次分享到此结束,欢迎大家交流~~
注意:本人现已开通微信公众号: Python爬虫与算法(微信号为:easy_web_scrape), 欢迎大家关注哦~~