如何在 JavaScript 中使用可识别 Unicode 的正则表达式?

IT技术 javascript regex unicode character-properties
2021-01-25 23:01:57

应该有类似的东西\w可以匹配字母或标记类别中的任何代码点(不仅仅是 ASCII 的),并且希望有像 [[P*]] 这样的过滤器用于标点符号等。

6个回答

ES 6 的情况

ECMAScript 语言规范第 6 版(通常也称为 ES2015)包括可识别 Unicode 的正则表达式。必须使用u正则表达式上的修饰符启用支持。请参阅ES6中的Unicode-aware 正则表达式以了解该功能的细分和一些注意事项。

ES6 在浏览器和独立的 Javascript 运行时(例如 Node.js)中被广泛采用,因此在大多数情况下使用此功能不需要额外的努力。完整兼容性列表:https : //kangax.github.io/compat-table/es6/

ES 5 及以下的情况(旧版浏览器)

一个名为regexpu 的转译器,可将 ES6 Unicode 正则表达式转换为等效的 ES5。它可以用作构建过程的一部分。在线试用。.

尽管 JavaScript 对 Unicode 字符串进行操作,但它没有实现可识别 Unicode 的字符类,也没有 POSIX 字符类或 Unicode 块/子范围的概念。

6to5traceur支持u标志以及一些其他ES6功能与Unicode的工作。
2021-03-30 23:01:57
如果您需要像 \pL 这样的 unicode 字符类并支持旧浏览器,那么 XRegExp 库(请参阅那里的专有 A 标志)绝对是一个流畅的解决方案。谢谢!
2021-03-31 23:01:57
@UselessCode 是的,Babel 和 Traceur 使用regexpu作为转换这些u正则表达式的依赖项
2021-04-02 23:01:57
不幸的是,在线转译器对我使用带有中文字符的 \w 不起作用。试图转译"a品cd!e f".replace(/[^\w]/ug, ""),但产生的正则表达式(在 Chrome 59 中运行)仍然删除了字符并且只返回"acdef"
2021-04-05 23:01:57
最后一个工具非常适合块,但当您需要分散在许多块中的字符类型(如字母或数字)时,它的作用很小。有关这种情况的类似方法,请参阅this
2021-04-08 23:01:57

就个人而言,我宁愿不安装另一个库来获得此功能。我的答案不需要任何外部库,并且除了 JavaScript 之外,它也可以对正则表达式风格进行很少的修改。

Unicode 的网站提供了一种将 Unicode 类别转换为一组代码点的方法。由于它是Unicode的网站,因此它的信息应该是准确的。

请注意,您需要排除高端字符,因为 JavaScript 只能处理小于FFFF(hex) 的字符我建议选中 Abbreviate Collat​​e 和 Escape 复选框,它们在避免不可打印的字符和最小化正则表达式的大小之间取得平衡。

以下是不同 Unicode 属性的一些常见扩展:

\p{L} (字母):

[A-Za-z\u00AA\u00B5\u00BA\u00C0-\u00D6\u00D8-\u00F6\u00F8-\u02C1\u02C6-\u02D1\u02E0-\u02E4\u02EC\u02EE\u0370-\u0374\u0376\u0377\u037A-\u037D\u037F\u0386\u0388-\u038A\u038C\u038E-\u03A1\u03A3-\u03F5\u03F7-\u0481\u048A-\u052F\u0531-\u0556\u0559\u0561-\u0587\u05D0-\u05EA\u05F0-\u05F2\u0620-\u064A\u066E\u066F\u0671-\u06D3\u06D5\u06E5\u06E6\u06EE\u06EF\u06FA-\u06FC\u06FF\u0710\u0712-\u072F\u074D-\u07A5\u07B1\u07CA-\u07EA\u07F4\u07F5\u07FA\u0800-\u0815\u081A\u0824\u0828\u0840-\u0858\u08A0-\u08B4\u0904-\u0939\u093D\u0950\u0958-\u0961\u0971-\u0980\u0985-\u098C\u098F\u0990\u0993-\u09A8\u09AA-\u09B0\u09B2\u09B6-\u09B9\u09BD\u09CE\u09DC\u09DD\u09DF-\u09E1\u09F0\u09F1\u0A05-\u0A0A\u0A0F\u0A10\u0A13-\u0A28\u0A2A-\u0A30\u0A32\u0A33\u0A35\u0A36\u0A38\u0A39\u0A59-\u0A5C\u0A5E\u0A72-\u0A74\u0A85-\u0A8D\u0A8F-\u0A91\u0A93-\u0AA8\u0AAA-\u0AB0\u0AB2\u0AB3\u0AB5-\u0AB9\u0ABD\u0AD0\u0AE0\u0AE1\u0AF9\u0B05-\u0B0C\u0B0F\u0B10\u0B13-\u0B28\u0B2A-\u0B30\u0B32\u0B33\u0B35-\u0B39\u0B3D\u0B5C\u0B5D\u0B5F-\u0B61\u0B71\u0B83\u0B85-\u0B8A\u0B8E-\u0B90\u0B92-\u0B95\u0B99\u0B9A\u0B9C\u0B9E\u0B9F\u0BA3\u0BA4\u0BA8-\u0BAA\u0BAE-\u0BB9\u0BD0\u0C05-\u0C0C\u0C0E-\u0C10\u0C12-\u0C28\u0C2A-\u0C39\u0C3D\u0C58-\u0C5A\u0C60\u0C61\u0C85-\u0C8C\u0C8E-\u0C90\u0C92-\u0CA8\u0CAA-\u0CB3\u0CB5-\u0CB9\u0CBD\u0CDE\u0CE0\u0CE1\u0CF1\u0CF2\u0D05-\u0D0C\u0D0E-\u0D10\u0D12-\u0D3A\u0D3D\u0D4E\u0D5F-\u0D61\u0D7A-\u0D7F\u0D85-\u0D96\u0D9A-\u0DB1\u0DB3-\u0DBB\u0DBD\u0DC0-\u0DC6\u0E01-\u0E30\u0E32\u0E33\u0E40-\u0E46\u0E81\u0E82\u0E84\u0E87\u0E88\u0E8A\u0E8D\u0E94-\u0E97\u0E99-\u0E9F\u0EA1-\u0EA3\u0EA5\u0EA7\u0EAA\u0EAB\u0EAD-\u0EB0\u0EB2\u0EB3\u0EBD\u0EC0-\u0EC4\u0EC6\u0EDC-\u0EDF\u0F00\u0F40-\u0F47\u0F49-\u0F6C\u0F88-\u0F8C\u1000-\u102A\u103F\u1050-\u1055\u105A-\u105D\u1061\u1065\u1066\u106E-\u1070\u1075-\u1081\u108E\u10A0-\u10C5\u10C7\u10CD\u10D0-\u10FA\u10FC-\u1248\u124A-\u124D\u1250-\u1256\u1258\u125A-\u125D\u1260-\u1288\u128A-\u128D\u1290-\u12B0\u12B2-\u12B5\u12B8-\u12BE\u12C0\u12C2-\u12C5\u12C8-\u12D6\u12D8-\u1310\u1312-\u1315\u1318-\u135A\u1380-\u138F\u13A0-\u13F5\u13F8-\u13FD\u1401-\u166C\u166F-\u167F\u1681-\u169A\u16A0-\u16EA\u16F1-\u16F8\u1700-\u170C\u170E-\u1711\u1720-\u1731\u1740-\u1751\u1760-\u176C\u176E-\u1770\u1780-\u17B3\u17D7\u17DC\u1820-\u1877\u1880-\u18A8\u18AA\u18B0-\u18F5\u1900-\u191E\u1950-\u196D\u1970-\u1974\u1980-\u19AB\u19B0-\u19C9\u1A00-\u1A16\u1A20-\u1A54\u1AA7\u1B05-\u1B33\u1B45-\u1B4B\u1B83-\u1BA0\u1BAE\u1BAF\u1BBA-\u1BE5\u1C00-\u1C23\u1C4D-\u1C4F\u1C5A-\u1C7D\u1CE9-\u1CEC\u1CEE-\u1CF1\u1CF5\u1CF6\u1D00-\u1DBF\u1E00-\u1F15\u1F18-\u1F1D\u1F20-\u1F45\u1F48-\u1F4D\u1F50-\u1F57\u1F59\u1F5B\u1F5D\u1F5F-\u1F7D\u1F80-\u1FB4\u1FB6-\u1FBC\u1FBE\u1FC2-\u1FC4\u1FC6-\u1FCC\u1FD0-\u1FD3\u1FD6-\u1FDB\u1FE0-\u1FEC\u1FF2-\u1FF4\u1FF6-\u1FFC\u2071\u207F\u2090-\u209C\u2102\u2107\u210A-\u2113\u2115\u2119-\u211D\u2124\u2126\u2128\u212A-\u212D\u212F-\u2139\u213C-\u213F\u2145-\u2149\u214E\u2183\u2184\u2C00-\u2C2E\u2C30-\u2C5E\u2C60-\u2CE4\u2CEB-\u2CEE\u2CF2\u2CF3\u2D00-\u2D25\u2D27\u2D2D\u2D30-\u2D67\u2D6F\u2D80-\u2D96\u2DA0-\u2DA6\u2DA8-\u2DAE\u2DB0-\u2DB6\u2DB8-\u2DBE\u2DC0-\u2DC6\u2DC8-\u2DCE\u2DD0-\u2DD6\u2DD8-\u2DDE\u2E2F\u3005\u3006\u3031-\u3035\u303B\u303C\u3041-\u3096\u309D-\u309F\u30A1-\u30FA\u30FC-\u30FF\u3105-\u312D\u3131-\u318E\u31A0-\u31BA\u31F0-\u31FF\u3400-\u4DB5\u4E00-\u9FD5\uA000-\uA48C\uA4D0-\uA4FD\uA500-\uA60C\uA610-\uA61F\uA62A\uA62B\uA640-\uA66E\uA67F-\uA69D\uA6A0-\uA6E5\uA717-\uA71F\uA722-\uA788\uA78B-\uA7AD\uA7B0-\uA7B7\uA7F7-\uA801\uA803-\uA805\uA807-\uA80A\uA80C-\uA822\uA840-\uA873\uA882-\uA8B3\uA8F2-\uA8F7\uA8FB\uA8FD\uA90A-\uA925\uA930-\uA946\uA960-\uA97C\uA984-\uA9B2\uA9CF\uA9E0-\uA9E4\uA9E6-\uA9EF\uA9FA-\uA9FE\uAA00-\uAA28\uAA40-\uAA42\uAA44-\uAA4B\uAA60-\uAA76\uAA7A\uAA7E-\uAAAF\uAAB1\uAAB5\uAAB6\uAAB9-\uAABD\uAAC0\uAAC2\uAADB-\uAADD\uAAE0-\uAAEA\uAAF2-\uAAF4\uAB01-\uAB06\uAB09-\uAB0E\uAB11-\uAB16\uAB20-\uAB26\uAB28-\uAB2E\uAB30-\uAB5A\uAB5C-\uAB65\uAB70-\uABE2\uAC00-\uD7A3\uD7B0-\uD7C6\uD7CB-\uD7FB\uF900-\uFA6D\uFA70-\uFAD9\uFB00-\uFB06\uFB13-\uFB17\uFB1D\uFB1F-\uFB28\uFB2A-\uFB36\uFB38-\uFB3C\uFB3E\uFB40\uFB41\uFB43\uFB44\uFB46-\uFBB1\uFBD3-\uFD3D\uFD50-\uFD8F\uFD92-\uFDC7\uFDF0-\uFDFB\uFE70-\uFE74\uFE76-\uFEFC\uFF21-\uFF3A\uFF41-\uFF5A\uFF66-\uFFBE\uFFC2-\uFFC7\uFFCA-\uFFCF\uFFD2-\uFFD7\uFFDA-\uFFDC]

\p{Nd} (数字十进制数字):

[0-9\u0660-\u0669\u06F0-\u06F9\u07C0-\u07C9\u0966-\u096F\u09E6-\u09EF\u0A66-\u0A6F\u0AE6-\u0AEF\u0B66-\u0B6F\u0BE6-\u0BEF\u0C66-\u0C6F\u0CE6-\u0CEF\u0D66-\u0D6F\u0DE6-\u0DEF\u0E50-\u0E59\u0ED0-\u0ED9\u0F20-\u0F29\u1040-\u1049\u1090-\u1099\u17E0-\u17E9\u1810-\u1819\u1946-\u194F\u19D0-\u19D9\u1A80-\u1A89\u1A90-\u1A99\u1B50-\u1B59\u1BB0-\u1BB9\u1C40-\u1C49\u1C50-\u1C59\uA620-\uA629\uA8D0-\uA8D9\uA900-\uA909\uA9D0-\uA9D9\uA9F0-\uA9F9\uAA50-\uAA59\uABF0-\uABF9\uFF10-\uFF19]

\p{P} (标点):

[!-#%-*,-/\:;?@\[-\]_\{\}\u00A1\u00A7\u00AB\u00B6\u00B7\u00BB\u00BF\u037E\u0387\u055A-\u055F\u0589\u058A\u05BE\u05C0\u05C3\u05C6\u05F3\u05F4\u0609\u060A\u060C\u060D\u061B\u061E\u061F\u066A-\u066D\u06D4\u0700-\u070D\u07F7-\u07F9\u0830-\u083E\u085E\u0964\u0965\u0970\u0AF0\u0DF4\u0E4F\u0E5A\u0E5B\u0F04-\u0F12\u0F14\u0F3A-\u0F3D\u0F85\u0FD0-\u0FD4\u0FD9\u0FDA\u104A-\u104F\u10FB\u1360-\u1368\u1400\u166D\u166E\u169B\u169C\u16EB-\u16ED\u1735\u1736\u17D4-\u17D6\u17D8-\u17DA\u1800-\u180A\u1944\u1945\u1A1E\u1A1F\u1AA0-\u1AA6\u1AA8-\u1AAD\u1B5A-\u1B60\u1BFC-\u1BFF\u1C3B-\u1C3F\u1C7E\u1C7F\u1CC0-\u1CC7\u1CD3\u2010-\u2027\u2030-\u2043\u2045-\u2051\u2053-\u205E\u207D\u207E\u208D\u208E\u2308-\u230B\u2329\u232A\u2768-\u2775\u27C5\u27C6\u27E6-\u27EF\u2983-\u2998\u29D8-\u29DB\u29FC\u29FD\u2CF9-\u2CFC\u2CFE\u2CFF\u2D70\u2E00-\u2E2E\u2E30-\u2E42\u3001-\u3003\u3008-\u3011\u3014-\u301F\u3030\u303D\u30A0\u30FB\uA4FE\uA4FF\uA60D-\uA60F\uA673\uA67E\uA6F2-\uA6F7\uA874-\uA877\uA8CE\uA8CF\uA8F8-\uA8FA\uA8FC\uA92E\uA92F\uA95F\uA9C1-\uA9CD\uA9DE\uA9DF\uAA5C-\uAA5F\uAADE\uAADF\uAAF0\uAAF1\uABEB\uFD3E\uFD3F\uFE10-\uFE19\uFE30-\uFE52\uFE54-\uFE61\uFE63\uFE68\uFE6A\uFE6B\uFF01-\uFF03\uFF05-\uFF0A\uFF0C-\uFF0F\uFF1A\uFF1B\uFF1F\uFF20\uFF3B-\uFF3D\uFF3F\uFF5B\uFF5D\uFF5F-\uFF65]

该页面还识别了许多晦涩的字符类,例如\p{Hira},它只是(日语)平假名字符:

[\u3041-\u3096\u309D-\u309F]

最后,可以插入一个具有多个 Unicode 属性的 char 类以获得比组合它们更短的正则表达式(只要检查某些设置)。

\p- 语法似乎在 JS 中不起作用,/\p{L}/.test('a')false
2021-03-13 23:01:57
@DmitriZaitsev 我认为您可能在这里忽略了这一点,他提供了一组在 JS 中都可以使用的正则表达式。由于它们取代了应该(和将)成为本机功能的内容,因此它们一定很长。您将如何对本机功能进行单元测试?
2021-03-15 23:01:57
也许您可以更明确地提及哪些适用于 JS,哪些不适用,以提高清晰度。
2021-03-25 23:01:57
@DmitriZaitsev 当然不是。您将需要使用我在下面列出的“扩展”。
2021-03-30 23:01:57
水平滚动条1/100行的“扩展”?在带有单元测试的生产代码中?;)
2021-04-08 23:01:57

也没有找到好的解决方案,我很久以前写了一个小脚本,通过从 unicode规范(v.5.0.0)下载数据并为 BMP 中的每个 unicode 类别和子类别生成间隔(最近被一个小使用自己的原生 Unicode 支持的Java 程序)。

基本上它会转换\p{...}为一系列值,很像Tomalak 提到工具的输出,但间隔最终可能会很大(因为它不是处理块,而是处理分散在许多不同地方的字符)。

例如,一个这样写的正则表达式:

var regex = unicode_hack(/\p{L}(\p{L}|\p{Nd})*/g);

将被转换成这样:

/[\u0041-\u005a\u0061-\u007a...]([...]|[\u0030-\u0039\u0660-\u0669...])*/g

在实践中没有经常使用它,但从我的测试来看它似乎工作正常,所以我在这里发布以防有人发现它有用。尽管生成的正则表达式很长(上面的示例在扩展时有 3591 个字符),但性能似乎可以接受(请参阅jsFiddle上的测试;感谢 @modiX 和 @Lwangaman 的改进)。

这是源代码(原始,27.5KB;缩小,24.9KB,也好不到哪里去......)。通过对 unicode 字符进行转义,可能会变小,但是 OTOH 会冒编码问题的风险,所以我将保持原样。希望 ES6 不再需要这种事情。

更新:这看起来与Tim Down 提到XRegExp Unicode 插件中采用的策略相同,只是在这种情况下使用的是常规 JavaScript 正则表达式。

我已将它添加到 JSFiddle 示例中(并让 ul 和 li 正确呈现):jsfiddle.net/Waxkc/49 您可以在此处找到对 \p{L&} 修饰符的引用regular-expressions.info/unicode 。 HTML 我一直在使用它在我自己的脚本最近,用于识别某些非欧洲语言的字母没有大写或小写变体,不会让我正确的情况下,字符串(这是我在这个脚本正在做的到它可以完成的所有字符串)。
2021-03-11 23:01:57
谢谢你。Wheee,在unicode的补充多语言平面上,需要做的事情很多,不知道它还没有包括在内。在将这些添加到您当前的 Java 程序(输出)时,请通知我。
2021-03-21 23:01:57
@modiX 感谢您指出这一点!我更新了脚本,这次使用 Java 来生成列表- 而不是从 Unicode 文件中删除它们。如果可行,我还计划增加对 SMP 的支持。
2021-04-03 23:01:57
好吧,这很简单。使用此 unicode 表的台湾、中文和日文:rikai.com/library/kanjitables/kanji_codes.unicode.shtml当您在 中使用片假名表时\p{Lo},您会错过其中的两个汉字表。
2021-04-04 23:01:57
我使用您的脚本解决了我的问题(stackoverflow.com/questions/23391573/...),但您的 unicode 范围不包括台湾、中文或日文字符。所以/^\p{L}+$/应该匹配東海林但它不匹配每当您更新收藏时,请通知我。非常感谢。
2021-04-07 23:01:57

正如其他答案中提到的,JavaScript 正则表达式不支持 Unicode 字符类。然而,有一个库确实提供了这一点:Steven Levithan 的优秀XRegExp及其Unicode 插件

虽然此链接可能会回答问题,但最好在此处包含答案的基本部分并提供链接以供参考。如果链接页面发生更改,仅链接答案可能会无效。-来自评论
2021-03-27 23:01:57
@mustaccio:我不同意。这个答案建议使用图书馆。如果库消失了,那么复制库文档快照的答案与仅链接到库的答案一样无用。
2021-04-05 23:01:57

2018 年 9 月(2019 年 2 月更新)

似乎/\p{L}/u匹配字母的正则表达式(作为unicode 类别

  • 适用于Chrome 68.0.3440.106 和Safari 11.1.2 (13605.3.8)
  • 不适用于 Firefox 65.0 :(

这是一个工作示例

In below field you should be able to to type letters but not numbers<br>
<input type="text" name="field" onkeydown="return /\p{L}/u.test(event.key)" >

在这里报告这个错误

更新

经过 2 年多根据: 1500035 > 1361876 > 1634135终于这个错误得到修复,将在 Firefox v.78+ 中可用