论坛
门户
内部优惠
喜欢
话题
VIP会员
搜索
新浪微博
登录
注册
100%
100%
首页
>
网络技术
>
网络技术
>
Hanlp1.7版本的新增功能一览
回复
« 返回列表
hadoop小学生
精灵王
注册日期
2018-09-13
发帖数
160
QQ
3234520070
火币
360枚
粉丝
0
关注
0
加关注
写私信
打招呼
阅读:
3700
回复:
0
Hanlp1.7版本的新增功能一览
楼主
#
更多
只看楼主
倒序阅读
发布于:2019-03-22 09:52
保存
100%
100%
[]
1
hanlp
1.7版本在去年下半年的时候就随大快的DKH1.6版本同时发布了,截至目前1.7大版本也更新到了1.7.1了。本篇分别就1.7.0和1.7.1中新增的功能做一个简单的汇总介绍。
图片:DKH发布图.jpg
HanLP 是由一系列模型与算法组成的
java
工具包,目标是普及
自然语言处理
在生产环境中的应用。HanLP 具备功能完善、性能高效、架构清晰、语料时新、可自定义的特点。 在提供丰富功能的同时,HanLP 内部模块坚持低耦合、模型坚持惰性加载、服务坚持静态提供、词典坚持明文发布,使用非常方便,同时自带一些语料处理工具,帮助用户训练自己的模型。
1.7.0
更新如下:
新增文本聚类模块(
k-means和repeated bisection)
词法分析器新增流水线模式
词法分析器加入规则
enableRuleBasedSegment #991
支持通过
JVM 的启动参数指定 data 路径:java -DHANLP_ROOT=/opt/hanlp 则加载/opt/hanlp/data #983
分词
断句支持指定断句颗粒
#1018
CustomDictionary.insert("新词语", "词性标签") 支持省略频次
NeuralNetworkDependencyParser 构造函数接受 Segment
TextRankKeyword 支持构造自任意分词器
优化双数组
trie 树,构建后自动 shrink 到最低
内存
#984
修订简繁词典
微调
ngram 和 nr 模型
新数据包
data-for-1.7.0.zip MD5 = 4c396f3039230ddfcef20865264512b1
Portable 版同步升级到 v1.7.0
HanLP v1.7.1 更新内容:
新增可自定义用户词典的维特比分词器
@AnyListen
利用
BufferedOutputStream 加速缓存生成,快37倍
自定义词典
兼容含有空格的路径,
fix #1025
增加
isCustomNature 方法
使热更新产生的缓存文件包含用户词性,
fix #1028
修复可变
DAT 的 entrySet 方法,fix #1038
微调
ngram,简繁等
新数据包
data-for-1.7.1.zip MD5 = 9b8faa7fc7fddb24e27da27bd404126d
Portable 版同步升级到 v1.7.1
喜欢
0
评分
0
最新喜欢:
DKHadoop用着还不错!
回复
100%
发帖
回复
« 返回列表
普通帖
您需要登录后才可以回帖,
登录
或者
注册
100%
返回顶部
关闭
最新喜欢