在 Javascript 中以最佳性能按“Levenshtein 距离”对数组进行排序

IT技术 javascript jquery sorting levenshtein-distance
2021-01-27 05:58:00

所以我有一个随机的 javascript 名称数组......

[@larry,@nicholas,@notch] 等。

它们都以@ 符号开头。我想按 Levenshtein 距离对它们进行排序,以便列表顶部的那些最接近搜索词。目前,我有一些 javascript 使用 jQuery.grep()在它上面使用 javascript.match()方法围绕按键输入的搜索词:

(自首次发布以来编辑的代码)

limitArr = $.grep(imTheCallback, function(n){
    return n.match(searchy.toLowerCase())
});
modArr = limitArr.sort(levenshtein(searchy.toLowerCase(), 50))
if (modArr[0].substr(0, 1) == '@') {
    if (atRes.childred('div').length < 6) {
        modArr.forEach(function(i){
            atRes.append('<div class="oneResult">' + i + '</div>');
        });
    }
} else if (modArr[0].substr(0, 1) == '#') {
    if (tagRes.children('div').length < 6) {
        modArr.forEach(function(i){
            tagRes.append('<div class="oneResult">' + i + '</div>');
        });
    }
}

$('.oneResult:first-child').addClass('active');

$('.oneResult').click(function(){
    window.location.href = 'http://hashtag.ly/' + $(this).html();
});

它还有一些 if 语句检测数组是否包含主题标签 (#) 或提及 (@)。忽略那个。imTheCallback是名称的阵列,或者主题标签或提及,然后modArr是阵列排序。然后.atResults.tagResults元素是它每次在数组中附加的元素,这形成了基于输入的搜索词的名称列表。

有 Levenshtein 距离算法:

var levenshtein = function(min, split) {
    // Levenshtein Algorithm Revisited - WebReflection
    try {
        split = !("0")[0]
    } catch(i) {
        split = true
    };

    return function(a, b) {
        if (a == b)
            return 0;
        if (!a.length || !b.length)
            return b.length || a.length;
        if (split) {
            a = a.split("");
            b = b.split("")
        };
        var len1 = a.length + 1,
            len2 = b.length + 1,
            I = 0,
            i = 0,
            d = [[0]],
            c, j, J;
        while (++i < len2)
            d[0][i] = i;
        i = 0;
        while (++i < len1) {
            J = j = 0;
            c = a[I];
            d[i] = [i];
            while(++j < len2) {
                d[i][j] = min(d[I][j] + 1, d[i][J] + 1, d[I][J] + (c != b[J]));
                ++J;
            };
            ++I;
        };
        return d[len1 - 1][len2 - 1];
    }
}(Math.min, false);

如何在我当前的代码中使用算法(或类似的算法)对其进行排序而不会导致性能不佳?

更新:

所以我现在使用 James Westgate 的 Lev Dist 函数。工作 WAYYYY 快。所以性能解决了,现在的问题是将它与源一起使用......

modArr = limitArr.sort(function(a, b){
    levDist(a, searchy)
    levDist(b, searchy)
});

我现在的问题是对使用该.sort()方法的一般理解感谢帮助,谢谢。

谢谢!

6个回答

几年前我写了一个内联拼写检查器并实现了一个 Levenshtein 算法——因为它是内联的,对于 IE8 我做了很多性能优化。

var levDist = function(s, t) {
    var d = []; //2d matrix

    // Step 1
    var n = s.length;
    var m = t.length;

    if (n == 0) return m;
    if (m == 0) return n;

    //Create an array of arrays in javascript (a descending loop is quicker)
    for (var i = n; i >= 0; i--) d[i] = [];

    // Step 2
    for (var i = n; i >= 0; i--) d[i][0] = i;
    for (var j = m; j >= 0; j--) d[0][j] = j;

    // Step 3
    for (var i = 1; i <= n; i++) {
        var s_i = s.charAt(i - 1);

        // Step 4
        for (var j = 1; j <= m; j++) {

            //Check the jagged ld total so far
            if (i == j && d[i][j] > 4) return n;

            var t_j = t.charAt(j - 1);
            var cost = (s_i == t_j) ? 0 : 1; // Step 5

            //Calculate the minimum
            var mi = d[i - 1][j] + 1;
            var b = d[i][j - 1] + 1;
            var c = d[i - 1][j - 1] + cost;

            if (b < mi) mi = b;
            if (c < mi) mi = c;

            d[i][j] = mi; // Step 6

            //Damerau transposition
            if (i > 1 && j > 1 && s_i == t.charAt(j - 2) && s.charAt(i - 2) == t_j) {
                d[i][j] = Math.min(d[i][j], d[i - 2][j - 2] + cost);
            }
        }
    }

    // Step 7
    return d[n][m];
}
我没有仔细阅读代码,但我已经做了一个快速测试,可以验证这比 OP 的算法要快得多。干得好!
2021-03-14 05:58:00
谢谢!老实说,这是我在网上看到的唯一一个性能良好的功能。所有其他人在长字符串上变得非常慢,这太棒了。做得好。拍手
2021-03-19 05:58:00
一件小事:我注意到这是您计算的 Damerau-Levenshtein 距离,而不仅仅是 Levenshtein 距离。如果您取消对换位的测试,这将更接近 OP 想要的并且运行得更快。:)
2021-03-23 05:58:00
有趣的事实是,var关键字有实际用途,而不是重置按钮。
2021-04-07 05:58:00
如果你设置了一个限制,然后你去掉了 DT,那么性能就会飞速发展。 jsperf.com/levenshtein-distance/2 注意:我最初的实现有按字母顺序排序的项目桶,然后字母表的每个字母也有一个按长度排列的桶,这样我只能比较相同长度或长度的项目没有算法内部检查的限制。
2021-04-13 05:58:00

我来到了这个解决方案:

var levenshtein = (function() {
        var row2 = [];
        return function(s1, s2) {
            if (s1 === s2) {
                return 0;
            } else {
                var s1_len = s1.length, s2_len = s2.length;
                if (s1_len && s2_len) {
                    var i1 = 0, i2 = 0, a, b, c, c2, row = row2;
                    while (i1 < s1_len)
                        row[i1] = ++i1;
                    while (i2 < s2_len) {
                        c2 = s2.charCodeAt(i2);
                        a = i2;
                        ++i2;
                        b = i2;
                        for (i1 = 0; i1 < s1_len; ++i1) {
                            c = a + (s1.charCodeAt(i1) === c2 ? 0 : 1);
                            a = row[i1];
                            b = b < a ? (b < c ? b + 1 : c) : (a < c ? a + 1 : c);
                            row[i1] = b;
                        }
                    }
                    return b;
                } else {
                    return s1_len + s2_len;
                }
            }
        };
})();

另见http://jsperf.com/levenshtein-distance/12

大多数速度是通过消除一些阵列使用而获得的。

更新:http : //jsperf.com/levenshtein-distance/5

新修订版消灭了所有其他基准。我特别追求 Chromium/Firefox 的性能,因为我没有 IE8/9/10 测试环境,但所做的优化应该普遍适用于大多数浏览器。

莱文斯坦距离

执行 Levenshtein Distance 的矩阵可以一次又一次地重复使用。这是一个明显的优化目标(但要小心,这现在对字符串长度施加了限制(除非您要动态调整矩阵的大小))。

jsPerf Revision 5 中没有追求的唯一优化选项是记忆化。根据您对 Levenshtein Distance 的使用,这可能会有很大帮助,但由于其实现特定的性质而被省略。

// Cache the matrix. Note this implementation is limited to
// strings of 64 char or less. This could be altered to update
// dynamically, or a larger value could be used.
var matrix = [];
for (var i = 0; i < 64; i++) {
    matrix[i] = [i];
    matrix[i].length = 64;
}
for (var i = 0; i < 64; i++) {
    matrix[0][i] = i;
}

// Functional implementation of Levenshtein Distance.
String.levenshteinDistance = function(__this, that, limit) {
    var thisLength = __this.length, thatLength = that.length;

    if (Math.abs(thisLength - thatLength) > (limit || 32)) return limit || 32;
    if (thisLength === 0) return thatLength;
    if (thatLength === 0) return thisLength;

    // Calculate matrix.
    var this_i, that_j, cost, min, t;
    for (i = 1; i <= thisLength; ++i) {
        this_i = __this[i-1];

        for (j = 1; j <= thatLength; ++j) {
            // Check the jagged ld total so far
            if (i === j && matrix[i][j] > 4) return thisLength;

            that_j = that[j-1];
            cost = (this_i === that_j) ? 0 : 1;  // Chars already match, no ++op to count.
            // Calculate the minimum (much faster than Math.min(...)).
            min    = matrix[i - 1][j    ] + 1;                      // Deletion.
            if ((t = matrix[i    ][j - 1] + 1   ) < min) min = t;   // Insertion.
            if ((t = matrix[i - 1][j - 1] + cost) < min) min = t;   // Substitution.

            matrix[i][j] = min; // Update matrix.
        }
    }

    return matrix[thisLength][thatLength];
};

Damerau-Levenshtein 距离

jsperf.com/damerau-levenshtein-distance

Damerau-Levenshtein Distance 是对 Levenshtein Distance 的一个小修改,包括换位。几乎没有什么可以优化的。

// Damerau transposition.
if (i > 1 && j > 1 && this_i === that[j-2] && this[i-2] === that_j
&& (t = matrix[i-2][j-2]+cost) < matrix[i][j]) matrix[i][j] = t;

排序算法

这个答案的第二部分是选择一个合适的排序函数。我将很快将优化的排序功能上传到http://jsperf.com/sort

你好!抱歉,我的错误...我以为 stackoverflow 会在“匿名”或“访客”下发布我的消息...我看到它创建了一个伪帐户...我想我会完全注册。
2021-03-16 05:58:00
嗨,您包含的原型方法肯定会变慢,所以我看不到它们在这些测试中的相关性。
2021-03-26 05:58:00
完全不用担心!谢谢!
2021-04-04 05:58:00
欢迎使用堆栈溢出!谢谢你的帖子!请不要在您的帖子中使用签名/标语。您的用户邮箱算作您的签名,您可以使用您的个人资料发布任何您喜欢的关于您自己的信息。关于签名/标语的常见问题
2021-04-08 05:58:00

如果您仍然需要它,我实现了一个非常高效的 levenshtein 距离计算实现。

function levenshtein(s, t) {
    if (s === t) {
        return 0;
    }
    var n = s.length, m = t.length;
    if (n === 0 || m === 0) {
        return n + m;
    }
    var x = 0, y, a, b, c, d, g, h, k;
    var p = new Array(n);
    for (y = 0; y < n;) {
        p[y] = ++y;
    }

    for (; (x + 3) < m; x += 4) {
        var e1 = t.charCodeAt(x);
        var e2 = t.charCodeAt(x + 1);
        var e3 = t.charCodeAt(x + 2);
        var e4 = t.charCodeAt(x + 3);
        c = x;
        b = x + 1;
        d = x + 2;
        g = x + 3;
        h = x + 4;
        for (y = 0; y < n; y++) {
            k = s.charCodeAt(y);
            a = p[y];
            if (a < c || b < c) {
                c = (a > b ? b + 1 : a + 1);
            }
            else {
                if (e1 !== k) {
                    c++;
                }
            }

            if (c < b || d < b) {
                b = (c > d ? d + 1 : c + 1);
            }
            else {
                if (e2 !== k) {
                    b++;
                }
            }

            if (b < d || g < d) {
                d = (b > g ? g + 1 : b + 1);
            }
            else {
                if (e3 !== k) {
                    d++;
                }
            }

            if (d < g || h < g) {
                g = (d > h ? h + 1 : d + 1);
            }
            else {
                if (e4 !== k) {
                    g++;
                }
            }
            p[y] = h = g;
            g = d;
            d = b;
            b = c;
            c = a;
        }
    }

    for (; x < m;) {
        var e = t.charCodeAt(x);
        c = x;
        d = ++x;
        for (y = 0; y < n; y++) {
            a = p[y];
            if (a < c || d < c) {
                d = (a > d ? d + 1 : a + 1);
            }
            else {
                if (e !== s.charCodeAt(y)) {
                    d = c + 1;
                }
                else {
                    d = c;
                }
            }
            p[y] = d;
            c = a;
        }
        h = d;
    }

    return h;
}

这是我对类似问题的回答 Fastest general purpose Levenshtein Javascript implementation

更新

上面的改进版本现在在 github/npm 上,请参阅 https://github.com/gustf/js-levenshtein

好的,我明白你的意思。现在也添加了实现,还做了一些其他的改进。感谢您花时间查看我的答案,我仍在学习 SO 方式。
2021-03-21 05:58:00
一种思考方式是,如果您的网站链接不存在,那就是答案。对于 27,它有 400 多行代码。所以不知道该说什么。把它放在这里并不容易。
2021-03-22 05:58:00
@Drew 谢谢,有点不清楚该链接是否指向另一个类似的 SO 问题。我改变了一点。都好?
2021-04-03 05:58:00

这样做的明显方法是将每个字符串映射到一个 (distance, string) 对,然后对该列表进行排序,然后再次删除距离。这样你就可以确保 levenstein 距离只需要计算一次。也许也先合并重复项。