层次概念的分布式表示和学习方法综述
Survey of Distributed Representation and Learning Methods on Hierarchical Concept
朱晓光1
作者信息
- 1. 徐州工程学院 管理工程学院,江苏 徐州 221018
- 折叠
摘要
层次概念能够有效解释语言模型的隐含知识,并且提升语言模型的结构化优化性能.针对层次概念表示和学习模型的多样化发展,该文分析了层次概念表示的线性空间、概率空间和文本蕴含性质,梳理了概念学习模型的层次结构和优化原理,用于促进概念学习模型的应用效果.通过阐述概念学习过程和语义空间的层次性质,归纳层次概念学习的四类计算模型:基于条件熵的文本层次概念抽取;建立语言资源的概念层次和神经网络的隐含层次之间的映射;通过迭代的随机过程拓展主题模型;在正则化因子中添加语义关系约束.通过概念学习综述得出如下结论:层次性的语言模型广泛结合了显明和隐含的概念表示方法;统计模型和语言资源的语义映射是拓展层次结构的主要路径;层次结构具有双曲空间和嵌套球形结构;层次结构分析可以提升统计模型的解释水平.
关键词
层次概念/概念学习/分布式表示/统计语言模型/层次主题模型Key words
hierarchical concept/concept learning/distributed representation/statistical language model/hierarchical topic model引用本文复制引用
基金项目
国家自然科学基金(71774101)
国家自然科学基金(61802230)
江苏省现代教育技术研究课题(2021-R-87014)
出版年
2023
国家科技期刊平台
NSTL
维普
万方数据