-
Notifications
You must be signed in to change notification settings - Fork 180
Unicode: flag "u" and class \p{...} #374
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
Merged
dolgachio
merged 2 commits into
javascript-tutorial:master
from
lanachayka:regexpUnicode
Oct 12, 2022
Merged
Changes from all commits
Commits
Show all changes
2 commits
Select commit
Hold shift + click to select a range
File filter
Filter by extension
Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
There are no files selected for viewing
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Original file line number | Diff line number | Diff line change |
---|---|---|
@@ -1,161 +1,161 @@ | ||
# Unicode: flag "u" and class \p{...} | ||
# Юнікод: прапорець "u" та клас \p{...} | ||
|
||
JavaScript uses [Unicode encoding](https://en.wikipedia.org/wiki/Unicode) for strings. Most characters are encoded with 2 bytes, but that allows to represent at most 65536 characters. | ||
У JavaScript для рядків використовується кодування [Юнікод](https://uk.wikipedia.org/wiki/Юнікод). Більшість символів кодуються 2 байтами, що дозволяє представити максимум 65536 символів. | ||
|
||
That range is not big enough to encode all possible characters, that's why some rare characters are encoded with 4 bytes, for instance like `𝒳` (mathematical X) or `😄` (a smile), some hieroglyphs and so on. | ||
Цей діапазон недостатньо великий для кодування всіх можливих символів, тому деякі рідкісні символи кодуються 4 байтами, наприклад `𝒳` (математичний X) або `😄` (смайл), деякі ієрогліфи тощо. | ||
|
||
Here are the Unicode values of some characters: | ||
Ось значення Юнікодів для деяких символів: | ||
|
||
| Character | Unicode | Bytes count in Unicode | | ||
| Символ | Юнікод | Кількість байтів у Юнікоді | | ||
|------------|---------|--------| | ||
| a | `0x0061` | 2 | | ||
| ≈ | `0x2248` | 2 | | ||
|𝒳| `0x1d4b3` | 4 | | ||
|𝒴| `0x1d4b4` | 4 | | ||
|😄| `0x1f604` | 4 | | ||
|
||
So characters like `a` and `≈` occupy 2 bytes, while codes for `𝒳`, `𝒴` and `😄` are longer, they have 4 bytes. | ||
Таким чином, такі символи, як `a` і `≈`, займають 2 байти, а коди для `𝒳`, `𝒴` і `😄` довші, в них -- 4 байти. | ||
|
||
Long time ago, when JavaScript language was created, Unicode encoding was simpler: there were no 4-byte characters. So, some language features still handle them incorrectly. | ||
Коли створювалась мова JavaScript, кодування Юнікод було простіше: 4-байтових символів не існувало. Тому досі деякі функції мови все ще обробляють їх неправильно. | ||
|
||
For instance, `length` thinks that here are two characters: | ||
Наприклад, властивість `length` вважає, що тут два символи: | ||
|
||
```js run | ||
alert('😄'.length); // 2 | ||
alert('𝒳'.length); // 2 | ||
``` | ||
|
||
...But we can see that there's only one, right? The point is that `length` treats 4 bytes as two 2-byte characters. That's incorrect, because they must be considered only together (so-called "surrogate pair", you can read about them in the article <info:string>). | ||
...Але ми бачимо, що лише один, правда ж? Річ у тому, що властивість `length` трактує 4 байти, як два символи по 2 байти. Це не правильно, адже їх необхідно розглядати тільки разом (так звана "сурогатна пара", детальніше у розділі <info:string>). | ||
|
||
By default, regular expressions also treat 4-byte "long characters" as a pair of 2-byte ones. And, as it happens with strings, that may lead to odd results. We'll see that a bit later, in the article <info:regexp-character-sets-and-ranges>. | ||
За замовчуванням регулярні вирази також розглядають 4-байтові "довгі символи" як пару 2-байтових. Як і у випадку з рядками, це може призвести до дивних результатів. Ми побачимо це трохи пізніше, у розділі <info:regexp-character-sets-and-ranges>. | ||
|
||
Unlike strings, regular expressions have flag `pattern:u` that fixes such problems. With such flag, a regexp handles 4-byte characters correctly. And also Unicode property search becomes available, we'll get to it next. | ||
На відміну від рядків, регулярні вирази мають прапорець `pattern:u`, який виправляє такі проблеми. З таким прапорцем регулярний вираз правильно обробляє 4-байтові символи. А також стає доступним пошук з використанням властивостей Юнікоду, який ми розглянемо далі. | ||
|
||
## Unicode properties \p{...} | ||
## Властивості Юнікоду \p{...} | ||
|
||
Every character in Unicode has a lot of properties. They describe what "category" the character belongs to, contain miscellaneous information about it. | ||
Кожен символ в кодуванні Юнікод має багато властивостей. Вони описують, до якої "категорії" належить символ та містять різну інформацію про нього. | ||
|
||
For instance, if a character has `Letter` property, it means that the character belongs to an alphabet (of any language). And `Number` property means that it's a digit: maybe Arabic or Chinese, and so on. | ||
Наприклад, якщо символ містить властивість `Letter`, це означає, що він належить до алфавіту (будь-якої мови). А властивість `Number` означає, що це цифра: може бути арабська, китайська тощо. | ||
|
||
We can search for characters with a property, written as `pattern:\p{…}`. To use `pattern:\p{…}`, a regular expression must have flag `pattern:u`. | ||
Ми можемо шукати символи за властивістю, записаною як `pattern:\p{…}`. Щоб використовувати `pattern:\p{…}`, регулярний вираз повинен мати прапорець `pattern:u`. | ||
|
||
For instance, `\p{Letter}` denotes a letter in any language. We can also use `\p{L}`, as `L` is an alias of `Letter`. There are shorter aliases for almost every property. | ||
Наприклад, `\p{Letter}` позначає літеру будь-якою мовою. Ми також можемо використовувати коротший запис `\p{L}`, оскільки `L` є псевдонімом `Letter`. Майже для кожної властивості існують варіанти коротшого запису. | ||
|
||
In the example below three kinds of letters will be found: English, Georgian and Korean. | ||
У наведеному нижче прикладі буде знайдено три види літер: англійська, грузинська та корейська. | ||
|
||
```js run | ||
let str = "A ბ ㄱ"; | ||
|
||
alert( str.match(/\p{L}/gu) ); // A,ბ,ㄱ | ||
alert( str.match(/\p{L}/g) ); // null (no matches, \p doesn't work without the flag "u") | ||
alert( str.match(/\p{L}/g) ); // null (немає збігів, \p не працює без прапорця "u") | ||
``` | ||
|
||
Here's the main character categories and their subcategories: | ||
|
||
- Letter `L`: | ||
- lowercase `Ll` | ||
- modifier `Lm`, | ||
- titlecase `Lt`, | ||
- uppercase `Lu`, | ||
- other `Lo`. | ||
- Number `N`: | ||
- decimal digit `Nd`, | ||
- letter number `Nl`, | ||
- other `No`. | ||
- Punctuation `P`: | ||
- connector `Pc`, | ||
- dash `Pd`, | ||
- initial quote `Pi`, | ||
- final quote `Pf`, | ||
- open `Ps`, | ||
- close `Pe`, | ||
- other `Po`. | ||
- Mark `M` (accents etc): | ||
- spacing combining `Mc`, | ||
- enclosing `Me`, | ||
- non-spacing `Mn`. | ||
- Symbol `S`: | ||
- currency `Sc`, | ||
- modifier `Sk`, | ||
- math `Sm`, | ||
- other `So`. | ||
- Separator `Z`: | ||
- line `Zl`, | ||
- paragraph `Zp`, | ||
- space `Zs`. | ||
- Other `C`: | ||
- control `Cc`, | ||
- format `Cf`, | ||
- not assigned `Cn`, | ||
- private use `Co`, | ||
- surrogate `Cs`. | ||
|
||
|
||
So, e.g. if we need letters in lower case, we can write `pattern:\p{Ll}`, punctuation signs: `pattern:\p{P}` and so on. | ||
|
||
There are also other derived categories, like: | ||
- `Alphabetic` (`Alpha`), includes Letters `L`, plus letter numbers `Nl` (e.g. Ⅻ - a character for the roman number 12), plus some other symbols `Other_Alphabetic` (`OAlpha`). | ||
- `Hex_Digit` includes hexadecimal digits: `0-9`, `a-f`. | ||
- ...And so on. | ||
|
||
Unicode supports many different properties, their full list would require a lot of space, so here are the references: | ||
|
||
- List all properties by a character: <https://unicode.org/cldr/utility/character.jsp>. | ||
- List all characters by a property: <https://unicode.org/cldr/utility/list-unicodeset.jsp>. | ||
- Short aliases for properties: <https://www.unicode.org/Public/UCD/latest/ucd/PropertyValueAliases.txt>. | ||
- A full base of Unicode characters in text format, with all properties, is here: <https://www.unicode.org/Public/UCD/latest/ucd/>. | ||
|
||
### Example: hexadecimal numbers | ||
|
||
For instance, let's look for hexadecimal numbers, written as `xFF`, where `F` is a hex digit (0..9 or A..F). | ||
|
||
A hex digit can be denoted as `pattern:\p{Hex_Digit}`: | ||
Ось основні категорії властивостей та їх підкатегорії: | ||
|
||
- Літери `L`: | ||
- мала літера `Ll` | ||
- модифікатор `Lm`, | ||
- регістр `Lt`, | ||
- велика літера `Lu`, | ||
- інші `Lo`. | ||
- Числа `N`: | ||
- десяткові цифри `Nd`, | ||
- числа позначені за допомогою літер `Nl`, | ||
- інші `No`. | ||
- Знаки пунктуації `P`: | ||
- з'єднувачі `Pc`, | ||
- тире `Pd`, | ||
- відкриваючі лапки `Pi`, | ||
- закриваючі лапки `Pf`, | ||
- відкриваючі дужки `Ps`, | ||
- закриваючі дужки `Pe`, | ||
- інші `Po`. | ||
- Знак `M` (акценти): | ||
- двокрапка `Mc`, | ||
- вкладення `Me`, | ||
- апострофи `Mn`. | ||
- Символи `S`: | ||
- валюти `Sc`, | ||
- модифікатори `Sk`, | ||
- математичні `Sm`, | ||
- інші `So`. | ||
- Розділювачі `Z`: | ||
- лінія `Zl`, | ||
- параграф `Zp`, | ||
- пробіл `Zs`. | ||
- Інші `C`: | ||
- контроль `Cc`, | ||
- форматування `Cf`, | ||
- не призначенні `Cn`, | ||
- для приватного користування `Co`, | ||
- сурогат `Cs`. | ||
|
||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. Додайте тут, будь ласка, пустий рядок як було в оригінальній статті. Це потрібно знову ж таки для сумісності з англійським варіантом. |
||
|
||
Наприклад, якщо нам потрібно знайти маленькі літери, ми можемо написати `pattern:\p{Ll}`, знаки пунктуації `pattern:\p{P}` і так далі. | ||
|
||
Існують також інші похідні категорії, наприклад: | ||
- `Alphabetic` (`Alpha`), містить в собі літери `L`, а також числа позначені за допомогою літер `Nl` (наприклад, Ⅻ - символ для римської цифри 12), і деякі інші символи `Other_Alphabetic` (`OAlpha`). | ||
- `Hex_Digit` містить шістнадцяткові числа: `0-9`, `a-f`. | ||
- ...І так далі. | ||
|
||
Юнікод підтримує велику кількість властивостей, і їхній повний перелік вимагав би дуже багато місця, тому ось посилання: | ||
|
||
- Перелік усіх властивостей за символом: <https://unicode.org/cldr/utility/character.jsp>. | ||
- Перелік усіх символів за властивістю: <https://unicode.org/cldr/utility/list-unicodeset.jsp>. | ||
- Псевдоніми властивостей: <https://www.unicode.org/Public/UCD/latest/ucd/PropertyValueAliases.txt>. | ||
- Повна база символів Юнікод у текстовому форматі з усіма властивостями: <https://www.unicode.org/Public/UCD/latest/ucd/>. | ||
|
||
### Приклад: шістнадцяткові числа | ||
|
||
Наприклад, пошукаймо шістнадцяткові числа, записані в форматі `xFF`, де замість `F` може бути будь-яка шістнадцяткова цифра (0..9 or A..F). | ||
|
||
Шістнадцяткову цифру можна позначити як `pattern:\p{Hex_Digit}`: | ||
|
||
```js run | ||
let regexp = /x\p{Hex_Digit}\p{Hex_Digit}/u; | ||
|
||
alert("number: xAF".match(regexp)); // xAF | ||
alert("число: xAF".match(regexp)); // xAF | ||
``` | ||
|
||
### Example: Chinese hieroglyphs | ||
### Приклад: китайські ієрогліфи | ||
|
||
Let's look for Chinese hieroglyphs. | ||
Пошукаймо китайські ієрогліфи. | ||
|
||
There's a Unicode property `Script` (a writing system), that may have a value: `Cyrillic`, `Greek`, `Arabic`, `Han` (Chinese) and so on, [here's the full list](https://en.wikipedia.org/wiki/Script_(Unicode)). | ||
Нам допоможе властивість Юнікоду -- `Script` (система письма), яка може мати значення: `Cyrillic`(Кирилиця), `Greek` (Грецька), `Arabic` (Арабська), `Han` (Китайська) та інші, [тут повний перелік](https://en.wikipedia.org/wiki/Script_(Unicode)). | ||
|
||
To look for characters in a given writing system we should use `pattern:Script=<value>`, e.g. for Cyrillic letters: `pattern:\p{sc=Cyrillic}`, for Chinese hieroglyphs: `pattern:\p{sc=Han}`, and so on: | ||
Для пошуку символів у певній системі письма ми повинні використати `pattern:Script=<value>`, наприклад для літер кирилиці: `pattern:\p{sc=Cyrillic}`, для китайських ієрогліфів: `pattern:\p{sc=Han}`, і так далі. | ||
|
||
```js run | ||
let regexp = /\p{sc=Han}/gu; // returns Chinese hieroglyphs | ||
let regexp = /\p{sc=Han}/gu; // поверне китайські ієрогліфи | ||
|
||
let str = `Hello Привет 你好 123_456`; | ||
let str = `Hello Привіт 你好 123_456`; | ||
|
||
alert( str.match(regexp) ); // 你,好 | ||
``` | ||
|
||
### Example: currency | ||
### Приклад: валюти | ||
|
||
Characters that denote a currency, such as `$`, `€`, `¥`, have Unicode property `pattern:\p{Currency_Symbol}`, the short alias: `pattern:\p{Sc}`. | ||
Символи, які позначають валюту, такі як `$`, `€`, `¥`, мають властивість `pattern:\p{Currency_Symbol}`, короткий псевдонім: `pattern:\p{Sc}`. | ||
|
||
Let's use it to look for prices in the format "currency, followed by a digit": | ||
Використаємо його для пошуку цін у форматі «валюта, за якою йде цифра»: | ||
|
||
```js run | ||
let regexp = /\p{Sc}\d/gu; | ||
|
||
let str = `Prices: $2, €1, ¥9`; | ||
let str = `Ціни: $2, €1, ¥9`; | ||
|
||
alert( str.match(regexp) ); // $2,€1,¥9 | ||
``` | ||
|
||
Later, in the article <info:regexp-quantifiers> we'll see how to look for numbers that contain many digits. | ||
Пізніше у розділі <info:regexp-quantifiers> ми побачимо, як шукати числа, які містять багато цифр. | ||
|
||
## Summary | ||
## Підсумки | ||
|
||
Flag `pattern:u` enables the support of Unicode in regular expressions. | ||
Прапорець `pattern:u` вмикає підтримку Юнікоду у регулярних виразах. | ||
|
||
That means two things: | ||
Це означає дві речі: | ||
|
||
1. Characters of 4 bytes are handled correctly: as a single character, not two 2-byte characters. | ||
2. Unicode properties can be used in the search: `\p{…}`. | ||
1. Символи розміром 4 байти обробляються правильно: як один символ, а не як два 2-байтові символи. | ||
2. Працює пошук за допомогою властивостей Юнікоду: `\p{…}`. | ||
|
||
With Unicode properties we can look for words in given languages, special characters (quotes, currencies) and so on. | ||
За допомогою властивостей Юнікоду ми можемо шукати слова певними мовами, спеціальні символи (лапки, валюти) тощо. |
Add this suggestion to a batch that can be applied as a single commit.
This suggestion is invalid because no changes were made to the code.
Suggestions cannot be applied while the pull request is closed.
Suggestions cannot be applied while viewing a subset of changes.
Only one suggestion per line can be applied in a batch.
Add this suggestion to a batch that can be applied as a single commit.
Applying suggestions on deleted lines is not supported.
You must change the existing code in this line in order to create a valid suggestion.
Outdated suggestions cannot be applied.
This suggestion has been applied or marked resolved.
Suggestions cannot be applied from pending reviews.
Suggestions cannot be applied on multi-line comments.
Suggestions cannot be applied while the pull request is queued to merge.
Suggestion cannot be applied right now. Please check back later.
There was a problem hiding this comment.
Choose a reason for hiding this comment
The reason will be displayed to describe this comment to others. Learn more.
Перенесіть, будь ласка, цей текст на наступний рядок. У перекладі має бути стільки ж рядків, як і в оригінальній статті. Це необхідно щоб у майбутньому синхронізувати зміни.