##全文檢索
我們已經介紹了簡單的結構化查詢,下面開始介紹_全文檢索_:怎樣對全文字段(full-text fields)進行檢索以找到相關度最高的文檔。
全文檢索最重要的兩個方面是:
* 相關度(Relevance)
根據文檔與查詢的相關程度對結果集進行排序的能力。相關度可以使用TF/IDF、地理位置相近程度、模糊相似度或其他算法計算。
* 分析(Analysis)
將一段文本轉換為一組唯一的、標準化了的標記(token),用以(a)創建倒排索引,(b)查詢倒排索引。
注意,一旦提到相關度和分析,指的都是查詢(queries)而非過濾器(filters)。
### 基于短語 vs. 全文
雖然所有的查詢都會進行相關度計算,但不是所有的查詢都有分析階段。而且像``bool``或``function_score``這樣的查詢并不在文本字段執行。文本查詢可以分為兩大類:
#### 1. 基于短語(Term-based)的查詢:
像``term``或``fuzzy``一類的查詢是低級查詢,它們沒有分析階段。這些查詢在單一的短語上執行。例如對單詞``'Foo'``的``term``查詢會在倒排索引里__精確地__查找``'Foo'``這個詞,并對每個包含這個單詞的文檔計算TF/IDF相關度``'_score'``。
牢記``term``查詢只在倒排查詢里精確地查找特定短語,而不會匹配短語的其它變形,如``foo``或``FOO``。不管短語怎樣被加入索引,都只匹配倒排索引里的準確值。如果你在一個設置了``'not_analyzed'``的字段為``'["Foo", "Bar"]'``建索引,或者在一個用``'whitespace'``解析器解析的字段為``'Foo Bar'``建索引,都會在倒排索引里加入兩個索引``'Foo'``和``'Bar'``。
#### 2. 全文(Full-text)檢索
``match``和``query_string``這樣的查詢是高級查詢,它們會對字段進行分析:
* 如果檢索一個``'date'``或``'integer'``字段,它們會把查詢語句作為日期或者整數格式數據。
* 如果檢索一個準確值(``'not_analyzed'``)字符串字段,它們會把整個查詢語句作為一個短語。
* 如果檢索一個全文(``'analyzed'``)字段,查詢會先用適當的解析器解析查詢語句,產生需要查詢的短語列表。然后對列表中的每個短語執行低級查詢,合并查詢結果,得到最終的文檔相關度。
我們將會在后續章節討論這一過程的細節。
我們很少需要直接使用基于短語的查詢。通常我們會想要檢索全文,而不是單獨的短語,使用高級的全文檢索會更簡單(全文檢索內部最終還是使用基于短語的查詢)。
####[提示]
如果確實要查詢一個準確值字段(``'not_analyzed'``),需要考慮使用查詢還是過濾器。
單一短語的查詢通常相當于__是/否__問題,用過濾器可以更好的描述這類查詢,并且過濾器緩存可以提升性能:
GET /_search
{
"query": {
"filtered": {
"filter": {
"term": { "gender": "female" }
}
}
}
}
- Introduction
- 入門
- 是什么
- 安裝
- API
- 文檔
- 索引
- 搜索
- 聚合
- 小結
- 分布式
- 結語
- 分布式集群
- 空集群
- 集群健康
- 添加索引
- 故障轉移
- 橫向擴展
- 更多擴展
- 應對故障
- 數據
- 文檔
- 索引
- 獲取
- 存在
- 更新
- 創建
- 刪除
- 版本控制
- 局部更新
- Mget
- 批量
- 結語
- 分布式增刪改查
- 路由
- 分片交互
- 新建、索引和刪除
- 檢索
- 局部更新
- 批量請求
- 批量格式
- 搜索
- 空搜索
- 多索引和多類型
- 分頁
- 查詢字符串
- 映射和分析
- 數據類型差異
- 確切值對決全文
- 倒排索引
- 分析
- 映射
- 復合類型
- 結構化查詢
- 請求體查詢
- 結構化查詢
- 查詢與過濾
- 重要的查詢子句
- 過濾查詢
- 驗證查詢
- 結語
- 排序
- 排序
- 字符串排序
- 相關性
- 字段數據
- 分布式搜索
- 查詢階段
- 取回階段
- 搜索選項
- 掃描和滾屏
- 索引管理
- 創建刪除
- 設置
- 配置分析器
- 自定義分析器
- 映射
- 根對象
- 元數據中的source字段
- 元數據中的all字段
- 元數據中的ID字段
- 動態映射
- 自定義動態映射
- 默認映射
- 重建索引
- 別名
- 深入分片
- 使文本可以被搜索
- 動態索引
- 近實時搜索
- 持久化變更
- 合并段
- 結構化搜索
- 查詢準確值
- 組合過濾
- 查詢多個準確值
- 包含,而不是相等
- 范圍
- 處理 Null 值
- 緩存
- 過濾順序
- 全文搜索
- 匹配查詢
- 多詞查詢
- 組合查詢
- 布爾匹配
- 增加子句
- 控制分析
- 關聯失效
- 多字段搜索
- 多重查詢字符串
- 單一查詢字符串
- 最佳字段
- 最佳字段查詢調優
- 多重匹配查詢
- 最多字段查詢
- 跨字段對象查詢
- 以字段為中心查詢
- 全字段查詢
- 跨字段查詢
- 精確查詢
- 模糊匹配
- Phrase matching
- Slop
- Multi value fields
- Scoring
- Relevance
- Performance
- Shingles
- Partial_Matching
- Postcodes
- Prefix query
- Wildcard Regexp
- Match phrase prefix
- Index time
- Ngram intro
- Search as you type
- Compound words
- Relevance
- Scoring theory
- Practical scoring
- Query time boosting
- Query scoring
- Not quite not
- Ignoring TFIDF
- Function score query
- Popularity
- Boosting filtered subsets
- Random scoring
- Decay functions
- Pluggable similarities
- Conclusion
- Language intro
- Intro
- Using
- Configuring
- Language pitfalls
- One language per doc
- One language per field
- Mixed language fields
- Conclusion
- Identifying words
- Intro
- Standard analyzer
- Standard tokenizer
- ICU plugin
- ICU tokenizer
- Tidying text
- Token normalization
- Intro
- Lowercasing
- Removing diacritics
- Unicode world
- Case folding
- Character folding
- Sorting and collations
- Stemming
- Intro
- Algorithmic stemmers
- Dictionary stemmers
- Hunspell stemmer
- Choosing a stemmer
- Controlling stemming
- Stemming in situ
- Stopwords
- Intro
- Using stopwords
- Stopwords and performance
- Divide and conquer
- Phrase queries
- Common grams
- Relevance
- Synonyms
- Intro
- Using synonyms
- Synonym formats
- Expand contract
- Analysis chain
- Multi word synonyms
- Symbol synonyms
- Fuzzy matching
- Intro
- Fuzziness
- Fuzzy query
- Fuzzy match query
- Scoring fuzziness
- Phonetic matching
- Aggregations
- overview
- circuit breaker fd settings
- filtering
- facets
- docvalues
- eager
- breadth vs depth
- Conclusion
- concepts buckets
- basic example
- add metric
- nested bucket
- extra metrics
- bucket metric list
- histogram
- date histogram
- scope
- filtering
- sorting ordering
- approx intro
- cardinality
- percentiles
- sigterms intro
- sigterms
- fielddata
- analyzed vs not
- 地理坐標點
- 地理坐標點
- 通過地理坐標點過濾
- 地理坐標盒模型過濾器
- 地理距離過濾器
- 緩存地理位置過濾器
- 減少內存占用
- 按距離排序
- Geohashe
- Geohashe
- Geohashe映射
- Geohash單元過濾器
- 地理位置聚合
- 地理位置聚合
- 按距離聚合
- Geohash單元聚合器
- 范圍(邊界)聚合器
- 地理形狀
- 地理形狀
- 映射地理形狀
- 索引地理形狀
- 查詢地理形狀
- 在查詢中使用已索引的形狀
- 地理形狀的過濾與緩存
- 關系
- 關系
- 應用級別的Join操作
- 扁平化你的數據
- Top hits
- Concurrency
- Concurrency solutions
- 嵌套
- 嵌套對象
- 嵌套映射
- 嵌套查詢
- 嵌套排序
- 嵌套集合
- Parent Child
- Parent child
- Indexing parent child
- Has child
- Has parent
- Children agg
- Grandparents
- Practical considerations
- Scaling
- Shard
- Overallocation
- Kagillion shards
- Capacity planning
- Replica shards
- Multiple indices
- Index per timeframe
- Index templates
- Retiring data
- Index per user
- Shared index
- Faking it
- One big user
- Scale is not infinite
- Cluster Admin
- Marvel
- Health
- Node stats
- Other stats
- Deployment
- hardware
- other
- config
- dont touch
- heap
- file descriptors
- conclusion
- cluster settings
- Post Deployment
- dynamic settings
- logging
- indexing perf
- rolling restart
- backup
- restore
- conclusion