语言技术平台3.3.1版 发布
- [修复] 修复了3.3.0版本模型加载的bug
- [增加] 提供 Windows 下的
ltp_test
和xxx_cmdline
二进制下载,无需再手工编译
语言技术平台3.3.0版 发布
- [增加] 词性标注模型加入微博数据,使得在开放域上的词性标注性能更好(+3.3 precision)
- [增加] 依存句法分析模型加入微博数据,使得在开放域上的句法分析性能更好(+3 UAS)
- [增加] 依存句法分析算法切换到transition-based neural network parser,速度从40 tokens/s提升到8000 tokens/s。同时通过加入聚类特征以及优化训练算法,(在新闻领域)准确率也得到小幅提升(+0.2 UAS)
- [增加]
ltp_test
默认支持多线程,线程数可配置。 - [增加] 新加入子模块命令行程序,
cws_cmdline
,pos_cmdline
,par_cmdline
,ner_cmdline
,使用户可以很容易替换中间模块,从而实现语言分析的组合。 - [修改] 优化了训练套件的交互方式
- [增加] 添加模型验证,单元测试模块。
语言技术平台3.2.0版 发布
- [增加] 分词模块增量模型训练工具。使用户可以在语言技术平台基线模型的基础之上增加训练数据,从而获得特定领域性能更好的模型。
- [修改] Boost.Regex到1.56.0,由于旧版本Boost.Regex的
match_results
类存在竞争问题,这一修改修复了multi_cws_cmdline
随机出错的问题。 - [修改] 使自动化测试脚本支持Windows运行以及多线程测试
- [修改] 将原
examples
文件夹下的示例文件转移到test
文件夹下并纳入语言技术平台的编译链 - [测试] 新版语言技术平台通过
cygwin
编译测试 - [测试] 多线程程序
multi_ltp_test
,multi_cws_cmdline
以及multi_pos_cmdline
在Windows通过测试
第一届语言技术平台(LTP)用户大会将于2014年10月31日上午在北京召开,欢迎大家参加!会议详细信息见http://ir.hit.edu.cn/ltp-2014/,有意者请于10月20日之前填写在线会议注册表。
语言技术平台3.1.2版 发布
- [修改] 修改
utils/template.hpp
的实现,提高40%的速度性能 - [修改] 修改
_WIN32
宏在mingw下的歧义,使得LTP在Codeblocks - Mingw Makefile
模式下正常编译 - [修改] 修改非unix系统的编译目标,使得win32与win64都不进行ltp_server以及unittest的编译
- [增加] 自动化测试脚本
语言技术平台3.1.1版 发布
- [创建] 创建Java封装,ltp4j:https://github.com/HIT-SCIR/ltp4j
- [创建] 创建Python封装,pyltp:https://github.com/HIT-SCIR/pyltp
- [增加] 词性标注模块添加了词典功能,用户可以为特定词语指定候选词性
- [增加] 训练数据增加微博数据,提高了互联网语料的处理能力
- [增加] 增加编程接口中的数据合法性检查
- [增加] 增加单元测试模块
- [修改] 修改了预处理规则,使得
iphone5s
这样的产品名不会被切开 - [修改] 修改了语义角色标注训练套件的bug
语言技术平台3.1.0版 发布
- 在分词、词性标注和依存句法分析模块中加入模型裁剪功能,减少了模型大小。用户可以通过配置文件里的rare-feature-threshold参数配置裁剪力度,如果rare-feature-threshold为0,则只去掉为0的特征;rare-feature-threshold大于0时将一步去掉更新次数低于阈值的特征。这一优化方法主要参考Learning Sparser Perceptron Models。
- 增加了
ltp_server
在异常输入情况下返回错误代码,如果输入数据编码错误或者输入xml不符合规则,将返回400 - 修复了词性标注、命名实体识别、依存句法分析训练套件中的内存泄露问题
- 修复了语义角色标注的内存泄露问题
- 修复了词性标注、命名实体识别模型文件的错误标示符,这项修改将导致3.1.0以及之后的版本不能与3.0.x的模型兼容,请务必注意
- 修复了由boost.multi_array.views引起的MSVC下不能以Debug方式编译的问题
- 修复了由打开文件时字符串为空引起的Windows下不能正常运行的bug
语言技术平台3.0.1版 发布
- 解决windows编译问题
- 实现各模块多线程支持
- 新增linux下多线程LTP工具包,multi_ltp_test
- 实现服务器程序ltp_server多线程支持
- 修复4长度utf-8字符、伪标记导致%的标注结果等bug
语言技术平台3.0.0版 发布
- 从底层开始,实现了一套中文文本处理库
- 实现在线机器学习算法框架
- 在算法框架基础上实现了分词、词性标注、命名实体识别和依存句法分析四个模块
- 实现模型裁剪,提高内存性能
- 实现L1优化的最大熵模型,大幅度提高内存性能
- 在L1优化最大熵的基础上实现语义角色标注模块
- 在分词模块中实现了用户自定义字典的逻辑
- 在依存句法分析模块中实现了二阶解码,提高分析准确率
- 完善了训练套件,使用户可以更灵活地训练模型
LTP v2.2 发布
- 项目从采用Automake改为采用CMake编译
- 解决LTP对于boost库以及其他一些第三方库的依赖
- 将分词、词性标注、依存句法分析以及语义角色标注的训练模块开源
- 重制了部分文档
- 修复了高版本GCC不能编译的bug
LTP正式开源
LTP v2.1 发布
- 增加CRFWordSeg接口
- 解决了若干svmtagger的bug
- 解决了若干ner的bug
- 解决LTP对文字进行修改的bug
- 解决使用vector作为DLL接口参数类型的bug (VS2008下出错)
- 更新LTP使用文档
- 最新版我们只提供vs2008对应的DLL,如果希望在visual studio其他版本上运行,可以尝试安装Microsoft Visual C++ 2008 Redistributable Package (x86)
LTP v1.5.0 发布
LTP v1.4.3 发布
LTP v1.4.1 发布
LTP v1.4.0 发布
LTP v1.3 发布
- IRLAS的extend_dict解密,不采用加密文件
- 解决Parser越界错误
- 采用LTMLv2.0格式
- 发布python包
- 补充英文文档