Page 92 - 《中国图书馆学报》2025年第1期

090 Journal of Library Science in China

表 1 模型输入数据格式
示例 输入数据格式

{" text" :" 【目的/ 意义】构建企业专利威胁预警的概念模型,完善专利威胁预警理论,为企业参与专利威
示例 1 胁预警工作提供理论支撑。" ," label" :{" 模型" :{" 企业专利威胁预警的概念模型" :[[9,22]]}," 理论" :
{" 专利威胁预警理论" :[[25,33]]}}}
{" text" :" 【方法/ 过程】本研究提出一种基于权威辟谣信息转化提取构建网络虚假医疗信息数据集的思
示例 2 路,并依次构建传统机器学习模型、CNN 模型和 BERT 模型进行分类识别。" ," label" :{" 模型" :{" CNN 模
型" :[[56,61]]," 机器学习模型" :[[49,55]]," BERT 模型" :[[62,68]]}}}

3. 2. 3 数据来源及标注结果
创新句相较于论文中的其他内容,拥有更密集的创新实体与关系,因此在模型训练阶段,使用前
一阶段研究 [1] 中识别出来的各期刊论文创新句进行模型语料构建。 考虑到模型训练效果以及标注
效率,对数据库中所有的创新句再次进行筛选,筛选条件为:句子长度小于 250 个字符串,句子中出现

实体关键词,即“模型”“算法”“方法”等。 通过筛选得到 9 520 条符合要求的标注语料。
通过人工标注与质检,发现最初划分的“模型” “方法” “理论” “技术” “框架” “算法” 六类实体
中,实际能够被标注为“技术”实体的数量不多,考虑到在实际研究场景中技术和方法的目标是一致
的,即解决问题或实现某种功能,因此可将“技术”融合到“方法”类实体中。 最终得到有效标注创新

句 2 286 条用于模型训练,其中共得到 3 340 个标注实体,对实体值进行去重后,共有 2 088 个不重复
的实体值,数量由多到少依次为模型(819)、方法(599)、理论(260)、体系(248)、算法(162)。 从手动
标记结果的统计数据中可以看出,“模型”类实体数量最多,“算法”类实体数量最少,算法研究仅为情
报学学科的一个分支方向,这也与情报学专业的研究内容特点相符合。
3. 3 基于深度学习的创新内容命名实体抽取
3. 3. 1 实验结果与分析
(1)对比实验设置
为探索科技论文中创新内容命名实体识别任务中哪种预训练模型取得的识别效果最佳,设置对比实
验。 各实验组保持后续接入的 BiLSTM-CRF 框架不变、训练参数不变,均按照1 ∶ 1 ∶ 8 将同一训练语料划分

为测试集、验证集、训练集,两组实验仅在编码层选择不同模型来进行对比分析。 分别使用 BERT、RoBERTa
作为预训练模型,接入 BiLSTM-CRF 作为整个识别框架展开训练,实验核心调整模型参数如表 2 所示。

表 2 模型参数详情

模型参数 参数值
max_seq_length 128

num_train_epochs 20
learning_rate 2e-5
batch_size 8

(2)结果分析
在接入不同预训练模型时,整体训练结果的四项指标如表 3 所示。 从实验结果可以看出,在实验

总第五十一卷 第二七五期 Vol. 51. No. 275