Go 语言高效分词, 支持英文、中文、日文等
词典用双数组 trie ( Double-Array Trie )实现, 分词器算法为基于词频的最短路径加动态规划。
支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行 JSON RPC 服务。
项目地址: https://github.com/go-ego/gse
package main
import (
"fmt"
"github.com/go-ego/gse"
)
func main() {
var seg gse.Segmenter
seg.LoadDict("zh,testdata/test_dict.txt,testdata/test_dict1.txt")
text1 := []byte("你好世界, Hello world")
segments := seg.Segment(text1)
fmt.Println(gse.ToString(segments))
}
See Commits for more details, after Apr 27.
1
yanaraika 2018-10-10 06:51:49 +08:00
8102 年了,至少用个马尔可夫吧
|
3
JeffKing 2018-10-10 08:55:48 +08:00 via iPhone
8102 了,至少用 crf 分词吧
|
4
enenaaa 2018-10-10 09:31:14 +08:00
词频是用什么语料统计的?
|
5
dilu 2018-10-10 09:51:50 +08:00
先支持楼主一个,顺便想问问有没有什么学习分词的资料可以分享一波,对这个很感兴趣。
|
6
realpg 2018-10-10 10:36:13 +08:00
英文分词难道不是应该基于空格标点么
|