搜索快捷键 cmd + k | ctrl + k
- 安装
- 文档
- 入门
- 连接
- 数据导入
- 客户端 API
- 概览
- ADBC
- C
- C++
- CLI
- Dart
- Go
- Java (JDBC)
- Julia
- Node.js (已弃用)
- Node.js (Neo)
- ODBC
- PHP
- Python
- R
- Rust
- Swift
- Wasm
- SQL
- 介绍
- 语句
- 概览
- ANALYZE
- ALTER TABLE
- ALTER VIEW
- ATTACH 和 DETACH
- CALL
- CHECKPOINT
- COMMENT ON
- COPY
- CREATE INDEX
- CREATE MACRO
- CREATE SCHEMA
- CREATE SECRET
- CREATE SEQUENCE
- CREATE TABLE
- CREATE VIEW
- CREATE TYPE
- DELETE
- DESCRIBE
- DROP
- EXPORT 和 IMPORT DATABASE
- INSERT
- LOAD / INSTALL
- PIVOT
- 性能分析
- SELECT
- SET / RESET
- SET VARIABLE
- SUMMARIZE
- 事务管理
- UNPIVOT
- UPDATE
- USE
- VACUUM
- 查询语法
- SELECT
- FROM 和 JOIN
- WHERE
- GROUP BY
- GROUPING SETS
- HAVING
- ORDER BY
- LIMIT 和 OFFSET
- SAMPLE
- 展开嵌套
- WITH
- WINDOW
- QUALIFY
- VALUES
- FILTER
- 集合操作
- 预处理语句
- 数据类型
- 表达式
- 函数
- 概览
- 聚合函数
- 数组函数
- 位字符串函数
- Blob 函数
- 日期格式化函数
- 日期函数
- 日期部分函数
- 枚举函数
- 间隔函数
- Lambda 函数
- 列表函数
- 映射函数
- 嵌套函数
- 数值函数
- 模式匹配
- 正则表达式
- 结构体函数
- 文本函数
- 时间函数
- 时间戳函数
- 带时区时间戳函数
- 联合函数
- 实用函数
- 窗口函数
- 约束
- 索引
- 元查询
- DuckDB 的 SQL 方言
- 示例
- 配置
- 扩展
- 核心扩展
- 概览
- 自动补全
- Avro
- AWS
- Azure
- Delta
- DuckLake
- 编码
- Excel
- 全文搜索
- httpfs (HTTP 和 S3)
- Iceberg
- ICU
- inet
- jemalloc
- MySQL
- PostgreSQL
- 空间
- SQLite
- TPC-DS
- TPC-H
- UI
- VSS
- 指南
- 概览
- 数据查看器
- 数据库集成
- 文件格式
- 概览
- CSV 导入
- CSV 导出
- 直接读取文件
- Excel 导入
- Excel 导出
- JSON 导入
- JSON 导出
- Parquet 导入
- Parquet 导出
- 查询 Parquet 文件
- 使用 file: 协议访问文件
- 网络和云存储
- 概览
- HTTP Parquet 导入
- S3 Parquet 导入
- S3 Parquet 导出
- S3 Iceberg 导入
- S3 Express One
- GCS 导入
- Cloudflare R2 导入
- 通过 HTTPS / S3 使用 DuckDB
- Fastly 对象存储导入
- 元查询
- ODBC
- 性能
- Python
- 安装
- 执行 SQL
- Jupyter Notebooks
- marimo Notebooks
- Pandas 上的 SQL
- 从 Pandas 导入
- 导出到 Pandas
- 从 Numpy 导入
- 导出到 Numpy
- Arrow 上的 SQL
- 从 Arrow 导入
- 导出到 Arrow
- Pandas 上的关系型 API
- 多个 Python 线程
- 与 Ibis 集成
- 与 Polars 集成
- 使用 fsspec 文件系统
- SQL 编辑器
- SQL 功能
- 代码片段
- 故障排除
- 术语表
- 离线浏览
- 操作手册
- 开发
- 内部结构
- 为什么选择 DuckDB
- 行为准则
- 发布日历
- 路线图
- 站点地图
- 在线演示
文档 / 指南 / SQL 功能
全文搜索
DuckDB 通过 fts
扩展支持全文搜索。全文索引允许查询快速搜索较长文本字符串中单个单词的所有出现位置。
示例:莎士比亚语料库
以下是构建莎士比亚戏剧全文索引的示例。
CREATE TABLE corpus AS
SELECT * FROM 'https://blobs.duckdb.org/data/shakespeare.parquet';
DESCRIBE corpus;
列名 (column_name) | 列类型 (column_type) | null | key | 默认值 (default) | 额外信息 (extra) |
---|---|---|---|---|---|
line_id | VARCHAR | 是 (YES) | NULL | NULL | NULL |
play_name | VARCHAR | 是 (YES) | NULL | NULL | NULL |
line_number | VARCHAR | 是 (YES) | NULL | NULL | NULL |
speaker | VARCHAR | 是 (YES) | NULL | NULL | NULL |
text_entry | VARCHAR | 是 (YES) | NULL | NULL | NULL |
每行的文本位于 text_entry
中,每行的唯一键位于 line_id
中。
创建全文搜索索引
首先,我们创建索引,指定表名、唯一ID列以及要索引的列。我们将只索引单个列 text_entry
,其中包含戏剧中行的文本。
PRAGMA create_fts_index('corpus', 'line_id', 'text_entry');
现在可以使用 Okapi BM25 排序函数查询该表。没有匹配的行将返回 NULL
分数。
莎士比亚对“黄油”说了些什么?
SELECT
fts_main_corpus.match_bm25(line_id, 'butter') AS score,
line_id, play_name, speaker, text_entry
FROM corpus
WHERE score IS NOT NULL
ORDER BY score DESC;
score | line_id | play_name | speaker | text_entry |
---|---|---|---|---|
4.427313429798464 | H4/2.4.494 | 亨利四世 | Carrier | 肥得像黄油一样。 |
3.836270302568675 | H4/1.2.21 | 亨利四世 | FALSTAFF | 鸡蛋和黄油的序言。 |
3.836270302568675 | H4/2.1.55 | 亨利四世 | Chamberlain | 他们已经醒了,叫着要鸡蛋和黄油; |
3.3844488405497115 | H4/4.2.21 | 亨利四世 | FALSTAFF | 涂黄油的吐司,肚子里却没有心 |
3.3844488405497115 | H4/4.2.62 | 亨利四世 | PRINCE HENRY | 已经为你做了黄油。但告诉我,杰克,是谁的 |
3.3844488405497115 | AWW/4.1.40 | 皆大欢喜 | PAROLLES | 黄油女人的嘴,然后给自己买另一个 |
3.3844488405497115 | AYLI/3.2.93 | 随心所欲 | TOUCHSTONE | 正宗黄油女人的队列去市场。 |
3.3844488405497115 | KL/2.4.132 | 李尔王 | 愚人 | 对他的马施以仁慈,给它的干草涂上黄油。 |
3.0278411214953107 | AWW/5.2.9 | 皆大欢喜 | 小丑 | 从此不再吃命运黄油的鱼。 |
3.0278411214953107 | MWW/2.2.260 | 温莎的风流娘们 | FALSTAFF | 绞死他,那个机械的咸黄油流氓!我将 |
3.0278411214953107 | MWW/2.2.284 | 温莎的风流娘们 | FORD | 宁愿把我的黄油交给一个佛兰德人,休牧师 |
3.0278411214953107 | MWW/3.5.7 | 温莎的风流娘们 | FALSTAFF | 我要把我的脑子挖出来涂上黄油,然后给 |
3.0278411214953107 | MWW/3.5.102 | 温莎的风流娘们 | FALSTAFF | 热得像黄油一样;一个不断放荡的人 |
2.739219044070792 | H4/2.4.115 | 亨利四世 | PRINCE HENRY | 你可曾见过泰坦亲吻一碟黄油? |
与标准索引不同,全文索引不会随着底层数据更改而自动更新,因此您需要在适当时候 PRAGMA drop_fts_index(my_fts_index)
并重新创建它。
生成语料库表的注意事项
有关更多详细信息,请参阅“从 JSON 生成莎士比亚语料库以进行全文搜索”的博客文章。
- 列包括:line_id, play_name, line_number, speaker, text_entry。
- 为了使全文搜索正常工作,每行都需要一个唯一键。
- line_id
KL/2.4.132
表示《李尔王》,第二幕,第四场,第132行。