Simple词典
功能描述
Simple词典首先将输入标记转换为小写字母,然后检查停用词表。如果识别为停用词则返回空数组,即表示该标记会被丢弃。否则,输入标记的小写形式作为规范化后的lexeme返回。
此外,Simple词典可通过设置参数Accept为false(默认值true),将非停用词报告为未识别,传递给后继词典继续处理。
注意事项
大多数词典的功能依赖于词典定义文件,词典定义文件名仅支持小写字母、数字、下划线组合。
临时模式pg_temp下不允许创建词典。
词典定义文件的字符集编码必须为UTF-8格式。实际应用时,如果与数据库的字符编码格式不一致,在读入词典定义文件时会进行编码转换。
通常情况下,每个session仅读取词典定义文件一次,当且仅当在第一次使用该词典时。需要修改词典文件时,可通过ALTER TEXT SEARCH DICTIONARY命令进行词典定义文件的更新和重新加载。
示例
1、创建Simple词典。
CREATE TEXT SEARCH DICTIONARY public.simple_dict (
TEMPLATE = pg_catalog.simple,
STOPWORDS = english
);
其中,停用词表文件全名为english.stop。关于创建simple词典的语法和更多参数,请参见CREATE TEXT SEARCH DICTIONARY章节。
2、使用Simple词典。
SELECT ts_lexize('public.simple_dict','YeS'); SELECT ts_lexize('public.simple_dict','The');
结果显示如下:
ts_lexize ----------- {yes} (1 row) ts_lexize ----------- {} (1 row)
3、设置参数ACCEPT=false,使Simple词典返回NULL,而不是返回非停用词的小写形式,并查询验证。
ALTER TEXT SEARCH DICTIONARY public.simple_dict ( Accept = false ); SELECT ts_lexize('public.simple_dict','YeS'); SELECT ts_lexize('public.simple_dict','The');
结果显示如下:
ts_lexize ----------- (1 row) ts_lexize ----------- {} (1 row)