# 11.8.?處理壓縮數據
你要支持的最后一個重要的 HTTP 特性是壓縮。許多 web 服務具有發送壓縮數據的能力,這可以將網絡線路上傳輸的大量數據消減 60% 以上。這尤其適用于 XML web 服務,因為 XML 數據 的壓縮率可以很高。
服務器不會為你發送壓縮數據,除非你告訴服務器你可以處理壓縮數據。
## 例?11.14.?告訴服務器你想獲得壓縮數據
```
>>> import urllib2, httplib
>>> httplib.HTTPConnection.debuglevel = 1
>>> request = urllib2.Request('http://diveintomark.org/xml/atom.xml')
>>> request.add_header('Accept-encoding', 'gzip')
>>> opener = urllib2.build_opener()
>>> f = opener.open(request)
connect: (diveintomark.org, 80)
send: '
GET /xml/atom.xml HTTP/1.0
Host: diveintomark.org
User-agent: Python-urllib/2.1
Accept-encoding: gzip
'
reply: 'HTTP/1.1 200 OK\r\n'
header: Date: Thu, 15 Apr 2004 22:24:39 GMT
header: Server: Apache/2.0.49 (Debian GNU/Linux)
header: Last-Modified: Thu, 15 Apr 2004 19:45:21 GMT
header: ETag: "e842a-3e53-55d97640"
header: Accept-Ranges: bytes
header: Vary: Accept-Encoding
header: Content-Encoding: gzip
header: Content-Length: 6289
header: Connection: close
header: Content-Type: application/atom+xml
```
| | |
| --- | --- |
| \[1\] | 這是關鍵:一創建了 `Request` 對象,就添加一個 `Accept-encoding` 頭信息告訴服務器你能接受 gzip 壓縮數據。`gzip` 是你使用的壓縮算法的名稱。理論上你可以使用其它的壓縮算法,但是 `gzip` 是 web 服務器上使用率高達 99% 的一種。 |
| \[2\] | 這是你的頭信息傳越網絡線路的過程。 |
| \[3\] | 這是服務器的返回信息:`Content-Encoding: gzip` 頭信息意味著你要回得的數據已經被 gzip 壓縮了。 |
| \[4\] | `Content-Length` 頭信息是已壓縮數據的長度,并非解壓縮數據的長度。一會兒你會看到,實際的解壓縮數據長度為 15955,因此 gzip 壓縮節省了 60% 以上的網絡帶寬! |
## 例?11.15.?解壓縮數據
```
>>> compresseddata = f.read()
>>> len(compresseddata)
6289
>>> import StringIO
>>> compressedstream = StringIO.StringIO(compresseddata)
>>> import gzip
>>> gzipper = gzip.GzipFile(fileobj=compressedstream)
>>> data = gzipper.read()
>>> print data
<?xml version="1.0" encoding="iso-8859-1"?>
<feed version="0.3"
xmlns="http://purl.org/atom/ns#"
xmlns:dc="http://purl.org/dc/elements/1.1/"
xml:lang="en">
<title mode="escaped">dive into mark</title>
<link rel="alternate" type="text/html" href="http://diveintomark.org/"/>
<-- rest of feed omitted for brevity -->
>>> len(data)
15955
```
| | |
| --- | --- |
| \[1\] | 繼續上面的例子,`f` 是一個從 URL 開啟器返回的類文件對象。使用它的 `read()` 方法將正常地獲得非壓縮數據,但是因為這個數據已經被 gzip 壓縮過,所以這只是獲得你想要的最終數據的第一步。 |
| \[2\] | 好吧,只是先得有點兒凌亂的步驟。Python 有一個 `gzip` 模塊,它能讀取 (當然也能寫入) 磁盤上的 gzip 壓縮文件。但是磁盤上還沒有文件,只在內存里有一個 gzip 壓縮緩沖區,并且你不想僅僅為了解壓縮而寫出一個臨時文件。那么怎么做來從內存數據 (`compresseddata`) 創建類文件對象呢?這需要使用 `StringIO` 模塊。你首次看到 `StringIO` 模塊是在[上一章](../scripts_and_streams/index.html#kgp.openanything.stringio.example "例?10.4.?StringIO 介紹"),但現在你會發現它的另一種用法。 |
| \[3\] | 現在你可以創建 `GzipFile` 的一個實例,并且告訴它其中的 “文件” 是一個類文件對象 `compressedstream`。 |
| \[4\] | 這是做所有工作的一行:從 `GzipFile` 中 “讀取” 將會解壓縮數據。感到奇妙嗎?是的,它確實解壓縮了數據。`gzipper` 是一個類文件對象,它代表一個 gzip 壓縮文件。盡管這個 “文件” 并非一個磁盤上的真實文件;但 `gzipper` 還是從你用 `StringIO` 包裝了壓縮數據的類文件對象中 “讀取” 數據,而它僅僅是內存中的變量 `compresseddata`。壓縮的數據來自哪呢?最初你從遠程 HTTP 服務器下載它,通過從用 `urllib2.build_opener` 創建的類文件對象中 “讀取”。令人吃驚吧,這就是所有的步驟。鏈條上的每一步都完全不知道上一步在造假。 |
| \[5\] | 看看吧,實際的數據 (實際為 15955 bytes)。 |
“等等!” 我聽見你在叫。“還能更簡單嗎!” 我知道你在想什么。你在,既然 `opener.open` 返回一個類文件對象,那么為什么不拋棄中間件 `StringIO` 而通過 `f` 直接訪問 `GzipFile` 呢?OK,或許你沒想到,但是別為此擔心,因為那樣無法工作。
## 例?11.16.?從服務器直接解壓縮數據
```
>>> f = opener.open(request)
>>> f.headers.get('Content-Encoding')
'gzip'
>>> data = gzip.GzipFile(fileobj=f).read()
Traceback (most recent call last):
File "<stdin>", line 1, in ?
File "c:\python23\lib\gzip.py", line 217, in read
self._read(readsize)
File "c:\python23\lib\gzip.py", line 252, in _read
pos = self.fileobj.tell() # Save current position
AttributeError: addinfourl instance has no attribute 'tell'
```
| | |
| --- | --- |
| \[1\] | 繼續前面的例子,你已經有一個設置了 `Accept-encoding: gzip` 頭信息的 `Request` 對象。 |
| \[2\] | 簡單地打開請求將獲得你的頭信息 (雖然還沒下載任何數據)。正如你從 `Content-Encoding` 頭信息所看到的,這個數據被要求用 gzip 壓縮發送。 |
| \[3\] | 從 `opener.open` 返回了一個類文件對象,從頭信息中你可以獲知,你將獲得 gzip 壓縮數據。為什么不簡單地通過那個類文件對象直接訪問 `GzipFile` 呢?當你從 `GzipFile` 實例 “讀取” 時,它將從遠程 HTTP 服務器 “讀取” 被壓縮的數據并且立即解壓縮。這是個好主意,但是不行。由 gzip 壓縮的工作方式所致,`GzipFile` 需要存儲其位置并在壓縮文件上往返游走。當 “文件” 是來自遠程服務器的字節流時無法工作;你能用它做的所有工作就是一次返回一個字節流,而不是在字節流上往返。所以使用 `StringIO` 這種看上去不太優雅的手段是最好的解決方案:下載壓縮的數據,用 `StringIO` 創建一個類文件對象,并從中解壓縮數據。 |
- 版權信息
- 第?1?章?安裝 Python
- 1.1.?哪一種 Python 適合您?
- 1.2.?Windows 上的 Python
- 1.3.?Mac OS X 上的 Python
- 1.4.?Mac OS 9 上的 Python
- 1.5.?RedHat Linux 上的 Python
- 1.6.?Debian GNU/Linux 上的 Python
- 1.7.?從源代碼安裝 Python
- 1.8.?使用 Python 的交互 Shell
- 1.9.?小結
- 第?2?章?第一個 Python 程序
- 2.1.?概覽
- 2.2.?函數聲明
- 2.3.?文檔化函數
- 2.4.?萬物皆對象
- 2.5.?代碼縮進
- 2.6.?測試模塊
- 第?3?章?內置數據類型
- 3.1.?Dictionary 介紹
- 3.2.?List 介紹
- 3.3.?Tuple 介紹
- 3.4.?變量聲明
- 3.5.?格式化字符串
- 3.6.?映射 list
- 3.7.?連接 list 與分割字符串
- 3.8.?小結
- 第?4?章?自省的威力
- 4.1.?概覽
- 4.2.?使用可選參數和命名參數
- 4.3.?使用 type、str、dir 和其它內置函數
- 4.4.?通過 getattr 獲取對象引用
- 4.5.?過濾列表
- 4.6.?and 和 or 的特殊性質
- 4.7.?使用 lambda 函數
- 4.8.?全部放在一起
- 4.9.?小結
- 第?5?章?對象和面向對象
- 5.1.?概覽
- 5.2.?使用 from _module_ import 導入模塊
- 5.3.?類的定義
- 5.4.?類的實例化
- 5.5.?探索 UserDict:一個封裝類
- 5.6.?專用類方法
- 5.7.?高級專用類方法
- 5.8.?類屬性介紹
- 5.9.?私有函數
- 5.10.?小結
- 第?6?章?異常和文件處理
- 6.1.?異常處理
- 6.2.?與文件對象共事
- 6.3.?for 循環
- 6.4.?使用 `sys.modules`
- 6.5.?與目錄共事
- 6.6.?全部放在一起
- 6.7.?小結
- 第?7?章?正則表達式
- 7.1.?概覽
- 7.2.?個案研究:街道地址
- 7.3.?個案研究:羅馬字母
- 7.4.?使用 {n,m} 語法
- 7.5.?松散正則表達式
- 7.6.?個案研究:解析電話號碼
- 7.7.?小結
- 第?8?章?HTML 處理
- 8.1.?概覽
- 8.2.?sgmllib.py 介紹
- 8.3.?從 HTML 文檔中提取數據
- 8.4.?BaseHTMLProcessor.py 介紹
- 8.5.?locals 和 globals
- 8.6.?基于 dictionary 的字符串格式化
- 8.7.?給屬性值加引號
- 8.8.?dialect.py 介紹
- 8.9.?全部放在一起
- 8.10.?小結
- 第?9?章?XML 處理
- 9.1.?概覽
- 9.2.?包
- 9.3.?XML 解析
- 9.4.?Unicode
- 9.5.?搜索元素
- 9.6.?訪問元素屬性
- 9.7.?Segue [9]
- 第?10?章?腳本和流
- 10.1.?抽象輸入源
- 10.2.?標準輸入、輸出和錯誤
- 10.3.?查詢緩沖節點
- 10.4.?查找節點的直接子節點
- 10.5.?根據節點類型創建不同的處理器
- 10.6.?處理命令行參數
- 10.7.?全部放在一起
- 10.8.?小結
- 第?11?章?HTTP Web 服務
- 11.1.?概覽
- 11.2.?避免通過 HTTP 重復地獲取數據
- 11.3.?HTTP 的特性
- 11.4.?調試 HTTP web 服務
- 11.5.?設置 User-Agent
- 11.6.?處理 Last-Modified 和 ETag
- 11.7.?處理重定向
- 11.8.?處理壓縮數據
- 11.9.?全部放在一起
- 11.10.?小結
- 第?12?章?SOAP Web 服務
- 12.1.?概覽
- 12.2.?安裝 SOAP 庫
- 12.3.?步入 SOAP
- 12.4.? SOAP 網絡服務查錯
- 12.5.?WSDL 介紹
- 12.6.?以 WSDL 進行 SOAP 內省
- 12.7.?搜索 Google
- 12.8.? SOAP 網絡服務故障排除
- 12.9.?小結
- 第?13?章?單元測試
- 13.1.?羅馬數字程序介紹 II
- 13.2.?深入
- 13.3.?romantest.py 介紹
- 13.4.?正面測試 (Testing for success)
- 13.5.?負面測試 (Testing for failure)
- 13.6.?完備性檢測 (Testing for sanity)
- 第?14?章?測試優先編程
- 14.1.?roman.py, 第 1 階段
- 14.2.?roman.py, 第 2 階段
- 14.3.?roman.py, 第 3 階段
- 14.4.?roman.py, 第 4 階段
- 14.5.?roman.py, 第 5 階段
- 第?15?章?重構
- 15.1.?處理 bugs
- 15.2.?應對需求變化
- 15.3.?重構
- 15.4.?后記
- 15.5.?小結
- 第?16?章?函數編程
- 16.1.?概覽
- 16.2.?找到路徑
- 16.3.?重識列表過濾
- 16.4.?重識列表映射
- 16.5.?數據中心思想編程
- 16.6.?動態導入模塊
- 16.7.?全部放在一起
- 16.8.?小結
- 第?17?章?動態函數
- 17.1.?概覽
- 17.2.?plural.py, 第 1 階段
- 17.3.?plural.py, 第 2 階段
- 17.4.?plural.py, 第 3 階段
- 17.5.?plural.py, 第 4 階段
- 17.6.?plural.py, 第 5 階段
- 17.7.?plural.py, 第 6 階段
- 17.8.?小結
- 第?18?章?性能優化
- 18.1.?概覽
- 18.2.?使用 timeit 模塊
- 18.3.?優化正則表達式
- 18.4.?優化字典查找
- 18.5.?優化列表操作
- 18.6.?優化字符串操作
- 18.7.?小結
- 附錄?A.?進一步閱讀
- 附錄?B.?五分鐘回顧
- 附錄?C.?技巧和竅門
- 附錄?D.?示例清單
- 附錄?E.?修訂歷史
- 附錄?F.?關于本書
- 附錄 G. GNU Free Documentation License
- G.0. Preamble
- G.1.?Applicability and definitions
- G.2.?Verbatim copying
- G.3.?Copying in quantity
- G.4.?Modifications
- G.5.?Combining documents
- G.6.?Collections of documents
- G.7.?Aggregation with independent works
- G.8.?Translation
- G.9.?Termination
- G.10.?Future revisions of this license
- G.11.?How to use this License for your documents
- 附錄 H. GNU 自由文檔協議
- H.0. 序
- H.1.?適用范圍和定義
- H.2.?原樣復制
- H.3.?大量復制
- H.4.?修改
- H.5.?合并文檔
- H.6.?文檔合集
- H.7.?獨立著作聚集
- H.8.?翻譯
- H.9.?終止協議
- H.10.?協議將來的修訂
- H.11.?如何為你的文檔使用本協議
- 附錄 I. Python license
- I.A. History of the software
- I.B.?Terms and conditions for accessing or otherwise using Python
- 附錄 J. Python 協議
- J.0. 關于譯文的聲明
- J.A.?軟件的歷史
- J.B.?使用 Python 的條款和條件