⌘+k ctrl+k
1.3 (稳定版)
搜索快捷键 cmd + k | ctrl + k
全文搜索

DuckDB 通过 fts 扩展支持全文搜索。全文索引允许查询快速搜索较长文本字符串中单个单词的所有出现位置。

示例:莎士比亚语料库

以下是构建莎士比亚戏剧全文索引的示例。

CREATE TABLE corpus AS
    SELECT * FROM 'https://blobs.duckdb.org/data/shakespeare.parquet';
DESCRIBE corpus;
列名 (column_name) 列类型 (column_type) null key 默认值 (default) 额外信息 (extra)
line_id VARCHAR 是 (YES) NULL NULL NULL
play_name VARCHAR 是 (YES) NULL NULL NULL
line_number VARCHAR 是 (YES) NULL NULL NULL
speaker VARCHAR 是 (YES) NULL NULL NULL
text_entry VARCHAR 是 (YES) NULL NULL NULL

每行的文本位于 text_entry 中,每行的唯一键位于 line_id 中。

创建全文搜索索引

首先,我们创建索引,指定表名、唯一ID列以及要索引的列。我们将只索引单个列 text_entry,其中包含戏剧中行的文本。

PRAGMA create_fts_index('corpus', 'line_id', 'text_entry');

现在可以使用 Okapi BM25 排序函数查询该表。没有匹配的行将返回 NULL 分数。

莎士比亚对“黄油”说了些什么?

SELECT
    fts_main_corpus.match_bm25(line_id, 'butter') AS score,
    line_id, play_name, speaker, text_entry
FROM corpus
WHERE score IS NOT NULL
ORDER BY score DESC;
score line_id play_name speaker text_entry
4.427313429798464 H4/2.4.494 亨利四世 Carrier 肥得像黄油一样。
3.836270302568675 H4/1.2.21 亨利四世 FALSTAFF 鸡蛋和黄油的序言。
3.836270302568675 H4/2.1.55 亨利四世 Chamberlain 他们已经醒了,叫着要鸡蛋和黄油;
3.3844488405497115 H4/4.2.21 亨利四世 FALSTAFF 涂黄油的吐司,肚子里却没有心
3.3844488405497115 H4/4.2.62 亨利四世 PRINCE HENRY 已经为你做了黄油。但告诉我,杰克,是谁的
3.3844488405497115 AWW/4.1.40 皆大欢喜 PAROLLES 黄油女人的嘴,然后给自己买另一个
3.3844488405497115 AYLI/3.2.93 随心所欲 TOUCHSTONE 正宗黄油女人的队列去市场。
3.3844488405497115 KL/2.4.132 李尔王 愚人 对他的马施以仁慈,给它的干草涂上黄油。
3.0278411214953107 AWW/5.2.9 皆大欢喜 小丑 从此不再吃命运黄油的鱼。
3.0278411214953107 MWW/2.2.260 温莎的风流娘们 FALSTAFF 绞死他,那个机械的咸黄油流氓!我将
3.0278411214953107 MWW/2.2.284 温莎的风流娘们 FORD 宁愿把我的黄油交给一个佛兰德人,休牧师
3.0278411214953107 MWW/3.5.7 温莎的风流娘们 FALSTAFF 我要把我的脑子挖出来涂上黄油,然后给
3.0278411214953107 MWW/3.5.102 温莎的风流娘们 FALSTAFF 热得像黄油一样;一个不断放荡的人
2.739219044070792 H4/2.4.115 亨利四世 PRINCE HENRY 你可曾见过泰坦亲吻一碟黄油?

与标准索引不同,全文索引不会随着底层数据更改而自动更新,因此您需要在适当时候 PRAGMA drop_fts_index(my_fts_index) 并重新创建它。

生成语料库表的注意事项

有关更多详细信息,请参阅“从 JSON 生成莎士比亚语料库以进行全文搜索”的博客文章

  • 列包括:line_id, play_name, line_number, speaker, text_entry。
  • 为了使全文搜索正常工作,每行都需要一个唯一键。
  • line_id KL/2.4.132 表示《李尔王》,第二幕,第四场,第132行。