Java Unicode NCR 處理

Java 中 Unicode NCR 的轉換與處理

Transcript

1. Unicode NCR 處理 BrianHsu brianhsu.hsu@gmail.com
2. 基本的概念 • 電腦是二進位，只能儲存 0/1 兩種狀態 • 使用對於 bit 的解讀來存放不同類型的資料 – 整數（二補數） – 浮點數（ IEEE754 ） – 字元
3. ASCII • 使用一個 BYTE 來儲存字元 • 1byte=8bit=2^8=256 種狀態 • ASCII 針對前 128 個有統一的定義 – 剩下的 128 個由各系統自行決定應用 • A=65 、 B=66 、 C=67... • 0=48 、 1=49 、 2=50.... – 剩下的 128 個字元，由 CodePage 決定如何解讀
4. CJK 字元的儲存 • ASCII 使用的 1 個 byte=256 個字元對英文語 系很夠用，但漢字圈的字元多達上萬個 – Unicode 3.1 收錄超過七萬個 • 使用兩個 Byte 來儲存非 ASCII 內定義的字元
5. 萬碼奔騰的年代 • 繁體中文： BIG5 • 簡體中文： GB2312 • 日文： EUC-JP/Shift_JIS... • BIG5 – 聯合目錄現行 XML 交換編碼 – 以 1 個 byte 儲存 ASCII 範圍字元 – 以 2 個 byte 儲存中文字元 – 缺字問題 • 堃、喆……等
6. Unicode 編碼
7. Unicode 解決的問題 • 解決各系統編碼不同的問題 – 只要有字型，可以同時顯示不同國家的語言，如中 日韓混合 • 已成為網際網路實質標準 • 收錄的漢字比 BIG5 多很多 – 堃、喆
8. Unicode 的基本概念 • 每個字元對應到一個抽象的 CodePoint – CodePoint 是整數數值 – CodePoint 是抽象的，不是實際上儲存的值 • 為了與 ASCII 相容、 ASCII 內的字元數值和 Unicode 裡的 CodePoint 相同 – A=0x0041=65 – B=0x0042=66 • 其他的字元範例 – 公 =0x516C=20844 – 喆 =0x5586=21894
9. 沒有 「儲存為 Unicode 」 這種事！！
10. Unicode 實際儲存時 • Unicode CointPoint 是抽象的！ • 儲存時需要依照編碼規則儲存 – UTF-8 – UTF-16BE – UTF-16LE
11. UTF-8 • 網際網路上的實質資料交換標準 • 使用 1~4 個 byte 來儲存 – 與 ASCII 相容，在 ASCII 範圍內的字使用 1 個 byte 儲存 – 其於字元視需要使用２～４個 byte 來儲存
12. UTF-16BigEndean • Java 內部字元的儲存方式 – Java 裡 1 char = 2byte • 固定使用 2 個 byte 的倍數 – 一個 UnicodePoint 存為 2 個 byte – 一個 UnicodePoint 存為 4 個 byte • 若 CodePoint 是在 2^16=65535 內 – 直接儲存 CodePoint 轉二進位後的值 – A=0x0041 – 堃 =0x5B03
13. UTF-16BigEndean • 若字元的 CodePoint 超過 65535 • 使用兩個 Byte 表示 – 並非直接對應 CodePoint ，需經過編碼 – 編碼過後的第一個 Byte 必定為 HighSurrogate 範圍 內 (0xD800–0xDBFF) – 言㐌 • CodePoint 0x279A7 • 實際編碼 – 0xD85E 0xDDA7
14. NCR • Numeric character reference • 使用 Unicode 的 CodePoint 來表示字元 – 用在 XML/HTML 中 – 可以在非 UTF-8/UTF-16 編碼的文件中，表示 Unicode 的字元 • 型式 – 堃 // 十進位 – &#0x5803; // 十六進位 – 堃 // 十六進位
15. NCR • 可以在 Big5 的文件中表示出 Big5 中沒有的字 • 例： – <Title> 游鍚 &#22531;</Title> – <Author> 陶 &#21894;</Author>
16. 從 NCR 轉回 UTF-16 • 不要自己做！ • 光是 CodePoint 在 65535 以上字元編碼就很 麻煩而且容易出錯 • 使用 Apache Commons Language 函式庫 – JAR檔連結 – JavaDoc API
17. 從 NCR 轉回 UTF-16 import org.apache.commons.lang3.StringEscapeUtils; public class Test { public static void main(String [] args) { String str1 = " 游鍚 &#22531; 與陶 &#21894;"; String str2 = StringEscapeUtils.unescapeXml(str1); String str3 = "&#162215; 懷 "; String str4 = StringEscapeUtils.unescapeXml(str3); System.out.println(str2); System.out.println(str4); } }
18. 將 BIG5 中沒有的字轉成 NCR • 「游鍚堃」轉成「游鍚堃 &#22531; 」 • 將字串轉為字元陣列 – 記得有一個 Unicode 字元對應到四個 Byte 的狀態 – 把字元陣列掃過一次 • 先確定是否為 CodePoint 的開頭 • 如果是的話 – 檢查是否為 Big5 中的字元，如果不是就轉成 NCR • 如果不是的話 – 這是四個 Byte 的狀態的尾巴二個 byte ，不理他 • 參照 tw.digitalarchives.util.TextUtil
19. 將 BIG5 中沒有的字轉成 NCR import tw.digitalarchives.util.TextUtil; public class Test { public static void main(String [] args) { String str1 = " 游鍚堃與陶喆 "; String str2 = " 懷 "; String str3 = TextUtil.normalizeString(str1); String str4 = TextUtil.normalizeString(str2); System.out.println(str3); System.out.println(str4); } }
20. 參考資料 • Unicode Code Point列表 • Unicode Code Point查詢