Gse v0.10.0 发布了, Go 高性能分词

Go 语言高效分词, 支持英文、中文、日文等

词典用双数组trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。

支持普通和搜索引擎两种分词模式,支持用户词典、词性标注,可运行JSON RPC服务。

package main


import (
"fmt"


"github.com/go-ego/gse"
)


func main() {
var seg gse.Segmenter
seg.LoadDict("zh,testdata/test_dict.txt,testdata/test_dict1.txt")


text1 := []byte("你好世界, Hello world")


segments := seg.Segment(text1)
fmt.Println(gse.ToString(segments, false))
}

Danube River

Add

  • [NEW] 增加加载词典错误行检测

  • [NEW] 增加不同语言词典缩写

  • [NEW] 增加模式分词方法

  • [NEW] 增加自定义字典你在

  • [NEW] 更多测试

  • [NEW] 更新测试工具

Update

  • [NEW] 更新 tool 和 benchmark 代码

  • [NEW] 更新 cedar 代码

  • [NEW] 简化代码 name

  • [NEW] 更新 README.md

  • [NEW] 细分代码方法

  • [NEW] 更新版本并使用 dep 管理包

  • [NEW] 优化字典加载

  • [NEW] 更新 log print 和文件名

Fix

  • [FIX] Format some code and fix godoc

我来评几句
登录后评论

已发表评论数()

相关站点

+订阅
热门文章