9.4.?Unicode · Dive Into Python

# 9.4.?Unicode Unicode 是一個系統，用來表示世界上所有不同語言的字符。當 Python 解析一個 XML 文檔時，所有的數據都是以unicode的形式保存在內存中的。一會兒你就會了解，但首先，先看一些背景知識。 **歷史注解.?**在 unicode 之前，對于每一種語言都存在獨立的字符編碼系統，每個系統都使用相同的數字(0-255)來表示這種語言的字符。一些語言 (像俄語) 對于如何表示相同的字符還有幾種有沖突的標準；另一些語言 (像日語) 擁有太多的字符，需要多個字符集。在系統之間進行文檔交流是困難的，因為對于一臺計算機來說，沒有方法可以識別出文檔的作者使用了哪種編碼模式；計算機看到的只是數字，并且這些數字可以表示不同的東西。接著考慮到試圖將這些 (采用不同編碼的) 文檔存放到同一個地方 (比如在同一個數據庫表中)；你需要在每段文本的旁邊保存字符的編碼，并且確保在傳遞文本的同時將編碼也進行傳遞。接著考慮多語言文檔，即在同一文檔中使用了不同語言的字符。(比較有代表性的是使用轉義符來進行模式切換；噗，我們處于俄語 koi8-r 模式，所以字符 241 表示這個；噗，現在我們處于 Mac 希臘語模式，所以字符 241 表示其它什么。等等。) 這些就是 unicode 被設計出來要解決的問題。為了解決這些問題，unicode 用一個 2 字節數字表示每個字符，從 0 到 65535。\[8\] 每個 2 字節數字表示至少在一種世界語言中使用的一個唯一字符。(在多種語言中都使用的字符具有相同的數字碼。) 這樣就確保每個字符一個數字，并且每個數字一個字符。Unicode 數據永遠不會模棱兩可。當然，仍然還存在著所有那些遺留的編碼系統的情況。例如，7 位 ASCII，它可以將英文字符存諸為從 0 到 127 的數值。(65 是大寫字母 “`A`”，97 是小寫字母 “`a`”，等等。) 英語有著非常簡單的字母表，所以它可以完全用 7 位 ASCII 來表示。像法語、西班牙語和德語之類的西歐語言都使用叫做 ISO-8859-1 的編碼系統 (也叫做“latin-1”)，它使用 7 位 ASCII 字符表示從 0 到 127 的數字，但接著擴展到了 128-255 的范圍來表示像 n 上帶有一個波浪線(241)，和 u 上帶有兩個點(252)的字符。Unicode 在 0 到 127 上使用了同 7 位 ASCII 碼一樣的字符表，在 128 到 255上同 ISO-8859-1 一樣，接著使用剩余的數字，256 到 65535，擴展到表示其它語言的字符。在處理 unicode 數據時，在某些地方你可能需要將數據轉換回這些遺留編碼系統之一。例如，為了同其它一些計算機系統集成，這些系統期望它的數據使用一種特定的單字節編碼模式，或將數據打印輸出到一個不識別 unicode 的終端或打印機。或將數據保存到一個明確指定編碼模式的 XML 文檔中。在了解這個注解之后，讓我們回到 Python上來。從 2.0 版開始，Python 整個語言都已經支持 unicode。XML 包使用 unicode 來保存所有解析了的 XML 數據，而且你可以在任何地方使用 unicode。 ## 例?9.13.?unicode 介紹 ``` >>> s = u'Dive in' >>> s u'Dive in' >>> print s Dive in ``` | | | | --- | --- | | \[1\] | 為了創建一個 unicode 字符串而不是通常的 ASCII 字符串，要在字符串前面加上字母 “`u`”。注意這個特殊的字符串沒有任何非 ASCII 的字符。這樣很好；unicode 是 ASCII 的一個超集 (一個非常大的超集)，所以任何正常的 ASCII 都可以以 unicode 形式保存起來。 | | \[2\] | 在打印字符串時，Python 試圖將字符串轉換為你的默認編碼，通常是 ASCII 。(過會兒有更詳細的說明。) 因為組成這個 unicode 字符串的字符都是 ASCII 字符，打印結果與打印正常的 ASCII 字符串是一樣的；轉換是無縫的，而且如果你沒有注意到 `s` 是一個 unicode 字符串的話，你永遠也不會注意到兩者之間的差別。 | ## 例?9.14.?存儲非 ASCII 字符 ``` >>> s = u'La Pe\xf1a' >>> print s Traceback (innermost last): File "<interactive input>", line 1, in ? UnicodeError: ASCII encoding error: ordinal not in range(128) >>> print s.encode('latin-1') La Pe?a ``` | | | | --- | --- | | \[1\] | unicode 真正的優勢，理所當然的是它保存非 ASCII 字符的能力，例如西班牙語的 “`?`”(`n` 上帶有一個波浪線)。用來表示波浪線 n 的 unicode 字符編碼是十六進制的 `0xf1` (十進制的241)，你可以像這樣輸入：`\xf1`。 | | \[2\] | 還記得我說過 `print` 函數會嘗試將 unicode 字符串轉換為 ASCII 從而打印它嗎？嗯，在這里將不會起作用，因為你的 unicode 字符串包含非 ASCII 字符，所以 Python 會引發 `UnicodeError` 異常。 | | \[3\] | 這兒就是將 unicode 轉換為其它編碼模式起作用的地方。`s` 是一個 unicode 字符串，但 `print` 只能打印正常的字符串。為了解決這個問題，我們調用 `encode` 方法 (它可以用于每個 unicode 字符串) 將 unicode 字符串轉換為指定編碼模式的正常字符串。我們向此函數傳入一個參數。在本例中，我們使用 `latin-1` (也叫 `iso-8859-1`)，它包括帶波浪線的 n (然而缺省的 ASCII 編碼模式不包括，因為它只包含數值從 0 到 127 的字符)。 | 還記得我說過：需要從一個 unicode 得到一個正常字符串時，Python 通常默認將 unicode 轉換成 ASCII 嗎？嗯，這個默認編碼模式是一個可以定制的選項。 ## 例?9.15.?`sitecustomize.py` ``` # sitecustomize.py # this file can be anywhere in your Python path, # but it usually goes in ${pythondir}/lib/site-packages/ import sys sys.setdefaultencoding('iso-8859-1') ``` | | | | --- | --- | | \[1\] | `sitecustomize.py` 是一個特殊的腳本；Python 會在啟動的時候導入它，所以在其中的任何代碼都將自動運行。就像注解中提到的那樣，它可以放在任何地方 (只要 `import` 能夠找到它)，但是通常它位于 Python 的`lib` 目錄的 `site-packages` 目錄中。 | | \[2\] | 嗯，`setdefaultencoding` 函數設置默認編碼。Python 會在任何需要將 unicode 字符串自動轉換為正規字符串的地方，使用這個編碼模式。 | ## 例?9.16.?設置默認編碼的效果 ``` >>> import sys >>> sys.getdefaultencoding() 'iso-8859-1' >>> s = u'La Pe\xf1a' >>> print s La Pe?a ``` | | | | --- | --- | | \[1\] | 這個例子假設你已經按前一個例子中的改動對 `sitecustomize.py` 文件做了修改，并且已經重啟了 Python。如果你的默認編碼還是 `'ascii'`，可能你就沒有正確設置 `sitecustomize.py` 文件，或者是沒有重新啟動 Python。默認的編碼只能在 Python 啟動的時候改變；之后就不能改變了。(由于一些我們現在不會仔細研究的古怪的編程技巧，你甚至不能在 Python 啟動之后調用 `sys.setdefaultencoding` 函數。仔細研究 `site.py`，并搜索 “`setdefaultencoding`” 去發現為什么吧。) | | \[2\] | 現在默認的編碼模式已經包含了你在字符串中使用的所有字符，Python 對字符串的自動強制轉換和打印就不存在問題了。 | ## 例?9.17.?指定`.py`文件的編碼如果你打算在你的 Python 代碼中保存非 ASCII 字符串，你需要在每個文件的頂端加入編碼聲明來指定每個 `.py` 文件的編碼。這個聲明定義了 `.py` 文件的編碼為 UTF-8： ``` #!/usr/bin/env python # -*- coding: UTF-8 -*- ``` 現在，想想 XML 中的編碼應該是怎樣的呢？不錯，每一個 XML 文檔都有指定的編碼。重復一下，ISO-8859-1 是西歐語言存放數據的流行編碼方式。KOI8-R 是俄語流行的編碼方式。編碼――如果指定了的話――都在 XML 文檔的首部。 ## 例?9.18.?`russiansample.xml` ``` <?xml version="1.0" encoding="koi8-r"?> <preface> <title>Предисловие</title> </preface> ``` | | | | --- | --- | | \[1\] | 這是從一個真實的俄語 XML 文檔中提取出來的示例；它就是這本書俄語翻譯版的一部分。注意，編碼 `koi8-r` 是在首部指定的。 | | \[2\] | 這些是古代斯拉夫語的字符，就我所知，它們用來拼寫俄語單詞“Preface”。如果你在一個正常文本編輯器中打開這個文件，這些字符非常像亂碼，因為它們使用了 `koi8-r` 編碼模式進行編碼，但是卻以 `iso-8859-1` 編碼模式進行顯示。 | ## 例?9.19.?解析 `russiansample.xml` ``` >>> from xml.dom import minidom >>> xmldoc = minidom.parse('russiansample.xml') >>> title = xmldoc.getElementsByTagName('title')[0].firstChild.data >>> title u'\u041f\u0440\u0435\u0434\u0438\u0441\u043b\u043e\u0432\u0438\u0435' >>> print title Traceback (innermost last): File "<interactive input>", line 1, in ? UnicodeError: ASCII encoding error: ordinal not in range(128) >>> convertedtitle = title.encode('koi8-r') >>> convertedtitle '\xf0\xd2\xc5\xc4\xc9\xd3\xcc\xcf\xd7\xc9\xc5' >>> print convertedtitle Предисловие ``` | | | | --- | --- | | \[1\] | 我假設在這里你將前一個例子以 `russiansample.xml` 為名保存在當前目錄中。也出于完整性的考慮，我假設你已經刪除了 `sitecustomize.py` 文件，將缺省編碼改回到 `'ascii'`，或至少將 `setdefaultencoding` 一行注釋起來了。 | | \[2\] | 注意 `title` 標記 (現在在 `title` 變量中，上面那一長串 Python 函數我們暫且跳過，下一節再解釋)――在 XML 文檔的 `title` 元素中的文本數據是以 unicode 保存的。 | | \[3\] | 直接打印 title 是不可能的，因為這個 unicode 字符串包含了非 ASCII 字符，所以 Python 不能把它轉換為 ASCII，因為它無法理解。 | | \[4\] | 但是，你能夠顯式地將它轉換為 `koi8-r`，在本例中，我們得到一個 (正常，非 unicode) 單字節字符的字符串 (`f0`, `d2`, `c5`，等等)，它是初始unicode字符串中字符 `koi8-r` 編碼的版本。 | | \[5\] | 打印 `koi8-r` 編碼的字符串有可能會在你的屏幕上顯示為亂碼，因為你的 Python IDE 將這些字符作為 `iso-8859-1` 的編碼進行解析，而不是 `koi8-r` 編碼。但是，至少它們能打印。 (并且，如果你仔細看，當在一個不支持 unicode 的文本編輯器中打開最初的 XML 文檔時，會看到相同的亂碼。Python 在解析 XML 文檔時，將它從 `koi8-r` 轉換到了unicode，你只不過是將它轉換回來。) | 總結一下，如果你以前從沒有看到過 unicode，倒是有些唬人，但是在 Python 處理 unicode 數據真是非常容易。如果你的 XML 文檔都是 7 位的 ASCII (像本章中的例子)，你差不多永遠都不用考慮 unicode。Python 在進行解析時會將 XML 文檔中的 ASCII 數據轉換為 unicode，在任何需要的時候強制轉換回為 ASCII，你甚至永遠都不用注意。但是如果你要處理其它語言的數據，Python 已經準備好了。 ## 進一步閱讀 * Unicode.org 是 unicode 標準的主頁，包含了一個簡要的[技術簡介](http://www.unicode.org/standard/principles.html)。 * Unicode 教程有更多關于如何使用 Python unicode 函數的例子，包括甚至在并不真的需要時如何將 unicode 強制轉換為 ASCII。 * PEP 263 涉及了何時、如何在你的`.py`文件中定義字符編碼的更多細節。 ## Footnotes \[8\] 這一點，很不幸_仍然_ 過分簡單了。現在 unicode 已經擴展用來處理古老的漢字、韓文和日文文本，它們有太多不同的字符，以至于 2 字節的 unicode 系統不能全部表示。但當前 Python 不支持超出范圍的編碼，并且我不知道是否有正在計劃進行解決的項目。對不起，你已經到了我經驗的極限了。