Microsoft Word - 01-苏娅（排）.docx

Size: px

Start display at page:

Download "Microsoft Word - 01-苏娅（排）.docx"

佩亶斋
7 years ago
Views:

1 北京大学学报 ( 自然科学版 ) 第 52 卷第 1 期 2016 年 1 月 Acta Scientiarum Naturalium Universitatis Pekinensis, Vol. 52, No. 1 (Jan. 2016) doi: /j 苏娅刘杰黄亚楼南开大学计算机与控制工程学院 ( 软件学院 ), 天津 ; 通信作者, nkjieliu@gmail.com 摘要针对在线医疗文本, 设计考虑医疗领域特性的识别特征, 并在自建数据集上进行实体识别实验针对常见的 5 类疾病 : 胃炎肺癌哮喘高血压和糖尿病, 采用近年来较先进的机器学习模型条件随机场, 进行训练和测试, 抽取目标实体包括疾病症状药品治疗方法和检查 5 类通过采用逐一添加特征的实验方式, 验证所提特征的有效性, 取得总体上 81.26% 的准确率和 60.18% 的召回率, 随后对识别特征给出进一步分析关键词实体识别 ; 数据挖掘 ; 条件随机场 ; 医疗信息中图分类号 TP391 Entity Recognition Research in Online Medical Texts SU Ya, LIU Jie, HUANG Yalou College of Computer and Control Engineering (Software Institute), Nankai University, Tianjin ; Corresponding author, nkjieliu@gmail.com Abstract The authors design recognition features with the consideration of medical field characteristic for the online medical text, and the experiment of the entity recognition is carried out on the self-built data set. Concerned about five common diseases: gastritis, lung cancer, asthma, hypertension and diabetes. In the experiment, an advanced machine learning model Conditional Random Field is used for training and testing. The target entities include five kinds: disease, symptoms, drugs, treatment methods and check. The effectiveness of the proposed features is verified by using the experimental method, and the accuracy of the total 81.26% is obtained and the recall rate is 60.18%. Subsequently, the further analysis is given for the recognition features. Key words named entity recognition; data mining; conditional random field; medical information 随着生活水平的提高, 人们对于健康问题日益关注互联网行业的迅猛发展催生一大批在线医疗社区和医疗信息网站, 为患者提供了多元化的医疗信息获取渠道 [1] 这些网站主要以健康知识疾病信息医疗新闻等为主要内容, 同时也提供用户在线疾病问答功能国内比较知名的有新浪健康寻医问药好大夫在线 39 问医生等据调查, 单是寻医问药网就包含 2004 年 11 月 24 日至今十余年的疾病问答数据, 每天还会涌现数万条新提问日积月累, 这些疾病问答信息将汇成一股非常可观的大数据这样的数据有着广泛的参与人群, 其中包含大量真实的个人案例, 潜藏着丰富的医疗价值然而, 它们在文本中大多处于一种非结构化的状态为了实现信息的充分利用, 抽取和挖掘出其中有用的医疗知识, 进行命名实体识别通常是第一步目前, 在医疗领域, 针对电子病历各种医疗报告医学文献等的实体识别工作已有不少, 但针对医疗问答网站中的疾病问答信息尚未见相关研究本文针对这样的问答信息, 首次进行实体识别天津市科技支撑项目 (13ZCZDGX01098) 天津市自然科学基金 (14JCQNJC00600) 和中国民航信息技术科研基地开放课题 (CAAC-ITRB ) 资助收稿日期 : ; 修回日期 : ; 网络出版日期 :

实体包括疾病症状药品治疗方法和检查 5 类通过采用逐一添加特征的实验方式, 验证所提特征的有效性, 取得总体上 81.26% 的准确率和 60.

2 北京大学学报 ( 自然科学版 ) 第 52 卷第 1 期 2016 年 1 月和挖掘工作本文抽取的实体类别包括疾病症状药品治疗方法和检查 5 类在特征选取方面, 除使用一般的实体识别文本特征 ( 例如符号特征词性特征英文数字特征等 ) 外, 还添加了医疗领域特有的一些特征 ( 包括词的后缀特征身体部位指示词特征 ) 来辅助完成识别和抽取工作, 最终在自建数据集上达到 81.26% 的准确率和 60.18% 的召回率 1 相关工作命名实体识别是自然语言处理领域一个重要的研究方向, 1995 年举行的第六届消息理解会议 (MUC-6) [2] 正式提出命名实体识别任务它作为文本挖掘中的第一步, 主要任务是识别文本中代表其知识主体的词语 MUC 将命名实体定义为两类 : 专有名词和数量词在不断的研究中, 命名实体的含义和范围也在持续地丰富和扩展 MUC 之后, 出现自动内容抽取会议 (Automatic Content Extraction, ACE) [3], 它由美国国家标准技术研究院 (NIST) 组织创办, 从 1999 年至今已经举办多次关于信息内容自动抽取的评测任务, ACE 数据集已经成为测试新的信息抽取算法的公认标准在生物医学领域, 识别对象集中在以下几类 : 电子医疗记录医学文献和在线医疗社区目前比较集中的研究是针对医学文献中的基因蛋白质药物名组织名等进行的生物命名实体识别工作 [4] 随着医疗系统的信息化, 出现大量针对电子病历进行的识别工作, 目前识别 F 值一般在 0.82 左右 [5] 命名实体的识别方法包括 3 种 : 基于词典的方法基于启发式规则的方法和基于机器学习的方法基于词典的方法通过字符串匹配实现实体识别, 但对词典有很强的依赖性在国外, 英文医疗实体识别日趋成熟, 可供参考的资料也比较详实, 最著名的词典包括国际疾病分类 ICD-10 (International Classification of Diseases-10) [6] 医学一体化语言 UMLS(Unified Medical Language System) [7] 和医学主题词表 MeSH(Medical Subject Headings) [8] 在中文方面, 国内研究还较少, 可使用的资源也相 [9] 对匮乏在基于启发式规则的方法方面, Kraus 等针对大学医疗系统的临床记录, 通过构建正则表达式, 对其中提及的药品剂量服用方法等信息进行识别目前比较流行的是基于机器学习的方法命名实体识别可以看成一个分类问题, 采用类似支持向量机贝叶斯模型等分类方法, 同时, 也可以看成一个序列标注问题, 采用隐马尔可夫最大熵马尔可夫条件随机场等机器学习方法 [10] [11] Sondhi 等针对医疗论坛 HealthBoards 上的疾病话题信息, 利用 SVM 和 CRF 方法进行浅层的信息 [12] 抽取在中文方面, 叶枫等自建词典, 采用条件随机场对电子病历中的疾病临床症状手术操作 3 类比较常见的命名实体进行识别, 达到 90% 以上 [13] 的 F 值王世昆等对明清古医案中的症状和病机进行识别, 采用 CRF 和 SVM 分别进行训练和测试, 是在中文方面的较为大胆的尝试 2 模型和特征选取在前面提到的众多方法中, 条件随机场是一种较优秀的识别方法, 它不仅去除了 HMM 中的独立性假设, 而且通过全局的归一化解决了标记偏置的问题, 在命名实体识别词性标注等问题上都取得不错的效果如果采用 CRF 建立疾病问答中的实体识别模型, 将更易于融合新的特征, 使用有重叠性非独立的特征利用其强大的推理能力, 有可能识别出训练语料中未出现的情况因此, 本文选择 CRF 模型进行医疗文本中命名实体的识别 2.1 条件随机场模型条件随机场 (Conditional Random Fields, CRF) 是一种无向图模型, 1958 年由 Luhn [14] 提出它提供了一种概率框架, 计算在给定一个观察数据序列 X = (x 1, x 2,, x n ) 的条件下, 该序列所对应标签序列 Y = (y 1, y 2,, y n ) 整体出现的概率 [15], 即 1 PYX ( ; ) exp kk( Y, X), (1) Z( X; ) k Z( X; ) exp kk( Y, X) Y k, (2) 其中 = ( 1, 2,, k ) 代表模型参数, k (Y, X) 是任意定义的以 k 为参数关于观察序列 X 和标签序列 Y 的特征函数, Z(X; ) 是归一化因子用 CRF 模型进行命名实体识别, 可以视为一个序列标注问题将要识别的每个句子作为一个观察序列, 句子中的每个词作为一个符号, 为每一个符号赋予一个类别标签 CRF 模型最简单的一个结构就是链式结构 [16], 如图 1 所示进行模型训练时, 给定一个训练数据集 D = 2

18% 的召回率 1 相关工作命名实体识别是自然语言处理领域一个重要的研究方向, 1995 年举行的第六届消息理解会议 (MUC-6) [2] 正式提出命名实体识别任务它作为文本挖掘中的第一步, 主要任务是识别文本中代表其知识主体的

3 苏娅等图 1 链式 CRF 结构 Fig. 1 Chain-CRF structure {(X 1, Y 1 ), (X 2, Y 2 ),, (X N, Y N )}, 其对应的经验分布为 pxy (, ), 一般可以通过最大化对数似然值, 得出模型参数估计 : N P Y 1 i X i i ( XY, )log PYX ( ; ), (3) X, YP L( ) log ( ;θ) ˆ arg max L(θ) (4) 为了避免过拟合, 可以运用一些调整的方法, 通常在参数上加上高斯先验, 目标函数 L() 就变为 2 N i 1 i i, (5) k 2 L( ) log P( Y X ; ) k 2 k 其中 k 是高斯先验的方差得到参数之后, 可以进一步推断给定目标序列 X 最可能的标签序列 : Y arg max P( Y X; ) (6) * ˆ Y 目前已有一些成熟的算法可以用来推断这一值, 比如 Viterbi 算法 [17] 2.2 特征选取对于 CRF 模型, 特征的选取很关键通过对疾病问答文本的分析, 本文选择以下特征进行识别 1) 符号特征中文之间没有类似英文空格的天然分隔符, 因此在进行实体识别时, 需要首先进行分词操作, 将分词之后的每一个词语作为符号特征为提高分词准确率, 引入自定义词典通过从多个输入法 ( 包括搜狗百度 QQ) 和医疗网站 ( 寻医问药好大夫在线等 ) 中分别获取, 去重合并之后综合成疾病症状药物检查治疗方法和身体部位词语 6 类辅助词典 2) 词性特征在病人描述中经常会出现患服用吃等动词, 这些词后会出现疾病名或者药品名, 这就为实体的边界的识别提供了线索在本文中, 该特征即为采用 Ansj 分词后的词性本文采用开源代码库 Github 上的 Ansj [18] 系统的分词词性作为这一维特征 3) 形态特征形态特征指当前词的构成情况, 包括两个特征 : 英文字母特征和数字特征英文字母特征用于标记词当中是否包含有英文字母, 因为对于检查来说, 经常会出现 ct MRI 之类的英文, 而在疾病名药物等类别中却不常出现同样, 数字特征用于标记该词是否由数字构成 4) 后缀特征在英文命名实体识别中, 经常采用词的后缀特征进行识别, 并且被证明是有效的本文研究工作虽然是针对中文开展的命名实体识别, 但经观察发现, 文本中的各类医疗实体也有一定的规律性, 比如病名通常以病症这类词结尾, 而药品则以颗粒丸剂等词语结尾, 治疗方法则常以术结尾因此, 本文也加入后缀特征, 即选取词语的最后一个字作为特征 5) 身体部位指示词特征该特征用于标记当前词是否为身体部位相关的词语, 因为这样的词语在症状描述中经常出现 6) 上下文特征在词语组成的序列中, 上下文之间存在相关性, 该特征即为 CRF 模型中的边的特征当选用不同的窗口长度时, 将对各种特征进行组合, 形成新的特征 3 在线医疗文本中的实体识别针对在线医疗文本信息, 我们主要考虑表 1 中显示的 5 类命名实体实体识别流程如图 2 所示, 主要包括预处理特征计算 CRF 模型训练实体识别和识别结果抽取首先对获取的在线医疗文本进行预处理, 包括特殊符号的过滤人工标注分词大小写转化等操作 ; 然后, 利用程序从处理好的文本中自动计算并抽取特征, 将所有数据划分为训练集和测试集两部分将训练集放到模型中进行训练, 随后再利用训练得到的参数测试模型识别效果 3.1 数据预处理为了对在线医疗文本进行实验, 本文采集好大夫在线的 5 类疾病的全部问答信息, 涉及疾病包括胃炎肺癌哮喘高血压和糖尿病每一篇文本包含一个提问及相应回答, 其中已经过滤掉没有回答的提问信息针对问答文本, 首先进行一些相关的预处理 ( 如对特殊字符英文大小写标点符号等的处理 ) 随后进行人工数据标注采取的标注方式为 BIO 模型 [19], 可以将分块转化为序列标记确定问题, 格式为 B-X, I-X 或者 O, 其中 B, I, O 分别代表 3

;θ) ˆ arg max L(θ) (4) 为了避免过拟合, 可以运用一些调整的方法, 通常在参数上加上高斯先验, 目标函数 L() 就变为 2 N i 1 i i, (5) k 2 L( ) log P( Y X ; ) k 2 k 其中 k 是高斯先验的方差得到参数之后, 可以进一步推断

4 北京大学学报 ( 自然科学版 ) 第 52 卷第 1 期 2016 年 1 月表 1 命名实体类别 Table 1 Category of named entity 标识符号实体类别类别定义示例 D 疾病 (Disease) 主要对应于 ICD 中的疾病名综合征, 概念中可以包括前置的修饰语肺癌胃炎糖尿病咳嗽变异性哮喘 S 症状 (Symptom) 疾病引起的各种不适或异常的表现, 短语中可以包括表示身体部位的词语胸痛咳嗽气喘手脚无力 M 药品 (Medicine) 药物学名商品名或者通用名称胰岛素参一胶囊顺尔宁 T 治疗方法 (Treatment) 与疾病相关的一些手术或疗法姑息术右肺切除术四联疗法 C 医疗检查 (Check) 为了确定疾病而采取的检查和测试方法尿常规血常规核磁共振 CT 检查式, 如表 2 所示本文采用 Ansj 分词系统, 对于自定义词典中的词都有自定义的类别标签表中辅舒酮为自定义药品词典中的词, 因此词性有别于其他词语最终对每类疾病分别标注了 200 篇问答信息, 共 1000 篇作为训练和测试数据, 共包含 4812 个不同的实体名词 CRF++ 采用用户模板进行特征计算在选择窗口大小时, 首先在 500 条问答数据上, 采用同样的模板, 设置不同窗口大小进行测试窗口大小为 3 时的效果优于窗口大小为 1 和 2, 此后再增加窗口大小, 效果提升不大, 因此本文最终将窗口大小设定为 3 针对每一列输入特征 t (0~5) 设置模板, 包括两类形式 : 图 2 实体识别流程 Fig. 2 Entity recognition flow Begin, Internal, Other, 即类别的开始中间或其他, X 代表标注的类别识别实验采用开源工具 CRF++: Yet Another CRF toolkit [20], 其输入有一定的格式要求标注时首先进行人工标注, 为力求准确, 对不熟悉的语汇都进行查阅和了解随后将标注数据转换成所需格 T1 = num: %x[index, t], (7) T2 = num: %x[index, t]/%x[index+1, t], (8) 其中, num 为模板的编号, index 为窗口大小范围内的索引 (0~2), T2 由特征 t 前后位置情况组合而成 3.2 实验本文进行两组实验 : 第 1 组字典实验验证自定义词典的有效性 : 第 2 组为不同特征实验, 通过逐一添加特征的方式, 观察实验效果的变化实验结果的评测标准由精确度 P(precision) 召回率表 2 数据标注示例 Table 2 Data annotation sample 符号特征词性特征英文字母特征数字特征后缀特征身体部位指示词特征标注的实体类别标签现在 t n n 在 n O 确诊 v n n 诊 n O 为 p n n 为 n O 哮喘 n n n 喘 n B-D, w n n, n O 早晚 d n n 晚 n O 吸 v n n 吸 n O 辅舒酮 medicine n n 酮 n B-M 4

(Treatment) 与疾病相关的一些手术或疗法姑息术右肺切除术四联疗法 C 医疗检查 (Check) 为了确定疾病而采取的检查和测试方法尿常规血常规核磁共振 CT 检查式, 如表 2 所示本文采用 Ansj 分词系统, 对于自定义词典中的词都有

5 苏娅等 R(recall) 准确率 A(accuracy) 和 F1 值 (F1-measure) 构成, 这也是数据挖掘中经常用到的评测指标 [21] 对结果的评估采用 conlleval.pl 评测程序 [22] 最后针对实验的词性特征和后缀特征进行分析字典实验前面提到, 为提高分词准确率, 自建 6 类医疗词汇词典然而, 由于是从多个输入法或者医疗网站获取的词汇, 所构筑的 6 类词典之间难免会有重叠, 同时其中也充斥着一些不相关的词汇, 由于数量巨大, 如疾病和药品均有上万个词汇 ( 未能一一过滤 ), 因此存在噪声为验证其对实验的影响及添加词典的识别效果, 首先进行字典实验实验在一个较小的数据集上开展, 选取 5 类疾病各 100 条问答数据, 采用符号特征和词性特征进行实验包括 3 组不同的设置, 第 1 组分词时不使用自定义词典, 第 2 组和第 3 组添加同样的自定义词典, 但第 2 组只将自定义词典中的词都标注为同一个词性类别 userdifine, 第 3 组则根据词语的词典来源标注不同的词性自定义词典的词数统计信息如表 3 所示用 B(basic) 表示第 1 组, B+D 为第 2 组, D 代表 Dictionary, B+Ds 为第 3 组, Ds 代表多个词典, 不同设置的标注示例如表 4 所示从实验结果表 5 可以看出, 添加了自定义词典的识别效果要好于没有添加的情况, 将词典分为多个不同类别的效果又好于只设定为一个词典的情 Table 3 类别表 3 自定义词典情况 Condition of user-defined dictionary 总词数 Disease Medicine Symptom 466 Treatment Check 955 Body 270 况这是因为将词典设置为多个比设置为一个粒度更细, 因此提供的信息也更为丰富这组实验也说明虽然词典存在噪声, 但总体上, 影响不大, 添加多个词典有助于识别效果的提升, 因此, 在下面的实验中, 分词时都采用多个字典的方式不同特征实验为了验证本文提出的各种特征在问答实体识别中的效果, 采用逐一添加特征的方式对 1000 条标注数据进行实验, 即每次在符号特征的基础上增加一种特征首先添加一些常用的实验特征 ( 如词性, 英文数字特征等 ), 再添加本文提出的后缀和身体部位指示词特征为了保证实验结果的准确, 均采用 5 折交叉验证图 3 为实验结果总体的变化情况, word pos al num suffix 和 body 分别代表符号特征词性特征英文字母特符号特征词性特征不添加词典标注的实体类别标签表 4 不同词典设置的标注示例 Table 4 Annotation sample of different dictionary settings 符号特征添加词典 ( 词性均为 userdefine ) 词性特征标注的实体类别标签符号特征添加词典 ( 词性为医学专有名词类别 ) 词性特征标注的实体类别标签经常出现 vn O 经常出现 vn O 经常出现 vn O 口腔炎 nhd B-D 口腔炎 vn O 口腔炎 disease B-D w O w O w O 牙龈炎 n B-D 牙龈炎 n B-D 牙龈炎 n B-D, w O, w O, w O 身体 n B-S 消瘦 a I-S 身体消瘦 userdefine B-S 身体消瘦 symptom B-S, w O, w O, w O 一直 d O 一直 d O 一直 d O 注射 v O 注射 v O 注射 v O 门冬 nw B-M 胰岛素 n I-M 门冬胰岛素 userdefine B-M 门冬胰岛素 medicine B-M 5

6 北京大学学报 ( 自然科学版 ) 第 52 卷第 1 期 2016 年 1 月表 5 字典实验结果 Table 5 Dictionary experiment results 实体类别 P/% R/% F1/% B B+D B+Ds B B+D B+Ds B B+D B+Ds 检查疾病药物症状治疗方法总体表 6 不同特征实验的 precision Table 6 Experiment precision result with different features % 特征检查疾病药物症状治疗方法总体 word pos al/num suffix body 图 3 不同特征实验结果变化情况 ( 总体 ) Fig. 3 Experiment result changes with different features (total) 征数字特征后缀特征和身体部位指示词特征表 6~9 为实验结果的详细情况可以看到, 随着各类特征的逐一添加, 识别精确度略有下降, 主要体现在添加词性特征时 ; 在后面加入后缀和身体部位指示词特征后, 精确度又有所回升总体说来, 精确度变化不大另一方面, 实验的召回率在各类实体上都有大幅度提升, 尤其是在药物这一类别最终得到 41.63% 的提升, 比原来 37.83% 的召回率提升了一倍多 F1 值在各类实体上也都有不同程度的提升, 总体上, 从只用符号特征到所有特征都用, 共提升 23.63% 实验结果表明, 在识别的 5 类实体中, 药物的识别效果最好, 特别是在召回率和 F1 两个指标上远远超过其他类别的实体在精确度上, 药物最优, 其次是检查和治疗方法, 最低为疾病和症状, 在召回率上正好相反这可能是因为药名一般比较固定, 而且在用户输入信息时格式也比较规整对于疾病和症状通常有多样化的描述方式, 因此识别精度不如其他类别表 7 不同特征实验的 recall Table 7 Experiment recall result with different features % 特征检查疾病药物症状治疗方法总体 Word pos al/num suffix body 表 8 不同特征实验的 F1 Table 8 Experiment F1 result with different features % 特征检查疾病药物症状治疗方法总体 word pos al/num suffix body

39 治疗方法 72.25 69.02 75.56 23.66 22.33 31.47 35.65 33.74 44.43 总体 74.25 68.48 76.18 30.23 35.14 39.99 42.97 46.44 52.

7 苏娅等 Table 9 Table 10 表 9 不同特征实验总体的 accuracy Experiment accuracy result with different features 符号特征最近开始服用特征易瑞沙表 10 词性分析句子示例 Sentence sample for part of speech analysis w t 词性特征 v v medicine A/% word pos al/num suffix body 识别结果大致包含以下几种错误类型 : 1) 识别边界不准确, 例如胸部 CT 检查只识别出了 CT 检查, 遗漏了相关的指示部位, 中央型肺癌遗漏了修饰语中央型等情况 ; 2) 未识别出较长实体, 像痰中带血丝嗓子老发痒这样的症状 ; 3) 误分类, 例如腔积液 ( 疾病 ) 被误分类为药物导致错误的原因可能与数据集规模有关, 下一步可以扩充数据集, 丰富特征, 寻找真正能抓住其本质的特征进行实验 3.3 特征分析对不同特征进行的实验表明, 词性特征和后缀特征对于识别效果有很大的提升, 所以本文进行以下两组分析各类实体词性构成模式分析这里的词性构成综合考虑了当前实体的前一个词的词性当前词的词性和后一个词的词性, 如表 10 所示针对被标注为药物的词语易瑞沙, 分析其词性构成, 前一个是动词服用, 词性为 v, 后一个为标点符号, 词性为 w, 当前词词性为药物专有名词 medicine, 因此这个药名的词性构成为 v+medicine+w 为了对比不同实体类别在词性构成上的情况, 我们绘制不同实体的排名前 30 种词性构成模式的频次图 ( 图 4) 可以看出, 药物类的曲线非常陡峭, 说明药物这类实体的词性的构成在实验文本中是有规律性的, 大部分具有固定的模式, 因此词性特征才能如此好地提升药物的识别效果其他几类, 虽然词性也有一些模式, 但不如药物明显, 实验结果也有一定程度的提升药物类词性构成的前 10 种模式如表 11 所示可以看出, 药物基本上都通过分词被准确标注为药物专有名词, 前后出现最多的词性是标点动词连词和数词这也准确地反映了文本的潜在结构 : 用户常将多种药物进行罗列, 因此前后出现标点 ( 如顿号逗号 ) 和连词 ( 如阿法替尼 / 和 /azd9291/ 效果 / 怎么样 ); 药物名前, 通常有许多提示性的动词 ( 如服用 / 口服 / 使用 / 注射 / 吃 / 开了 ); 药物名后, 会紧接着给出服用剂量 ( 如维生素 c/ 一天 /2/-/3 片 ) Fig. 4 图 4 不同实体词性构成模式频次图 Different entities pos constitute mode frequency chart 表 11 药物类词性构成前 10 种模式 Table 11 Top 10 patterns of drug class s part of speech 词性模式频次 w+medicine+w 858 v+medicine+w 249 w+medicine+v 219 w+medicine+m 186 w+n+w 98 v+n+w 88 c+medicine+w 80 v+medicine+m 78 v+n+v 69 v+medicine+v 59 说明 : w 为标点符号, medicine 为药物专有名词, v 为动词, m 为数词, n 为名词, c 为连词 7

56 识别结果大致包含以下几种错误类型 : 1) 识别边界不准确, 例如胸部 CT 检查只识别出了 CT 检查, 遗漏了相关的指示部位, 中央型肺癌遗漏了修饰语中央型等情况 ; 2) 未识别出较长实体, 像痰中带血丝嗓子老发痒这样的症状 ;

8 北京大学学报 ( 自然科学版 ) 第 52 卷第 1 期 2016 年 1 月各类实体后缀分析后缀特征对于疾病类提升较大统计 1000 条实验数据中疾病名后缀的分布情况, 如图 5 所示在疾病名中, 出现最多的前 7 个字分别是炎病癌喘压冒症, 以它们结尾的疾病名共占所有出现的疾病的 64%, 其他 166 个字只占 36%, 说明了后缀特征对疾病名称识别有效的原因图 6 给出对其他几类实体后缀的分析情况, 可以看到, 不同实体类别的后缀具有不同程度的规律, 因此后缀特征才能有效地提升实验效果 Fig. 5 图 5 疾病名后缀分布 Disease name suffix distribution 4 总结与展望本文针对在线医疗问答信息, 设计了考虑医疗领域特性的识别特征, 并采用机器学习模型 CRF, 在好大夫问答数据上针对 5 类医疗实体 ( 疾病症状药品治疗方法和检查 ) 进行实体识别工作全部设计特征包括符号特征词性特征形态特征后缀特征身体部位指示词特征和上下文特征首先进行了一组字典实验, 表明自定义词典对图 6 后缀分布 ( 检查药物症状和治疗方法 ) Fig. 6 Suffix distribution (check, medicine, symptom and treatment) 8

个字只占 36%, 说明了后缀特征对疾病名称识别有效的原因图 6 给出对其他几类实体后缀的分析情况, 可以看到, 不同实体类别的后缀具有不同程度的规律, 因此后缀特征才能有效地提升实验效果 Fig.

9 苏娅等识别效果的有效提升, 然后采用逐一添加特征的方式, 观察实验结果的变化情况结果表明, 随着所提特征的逐一添加, 识别精确度有所浮动, 而召回率普遍呈上升趋势, 总体的 F1 值也不断上升, 当采用所提全部特征时, 达到总体 81.26% 的精确度和 60.18% 的召回率我们还分析了后缀特征和各类实体的词性构成模式, 说明了该特征的有效性实验结果表明, 本文方法可以有效地识别出问答文本中大部分的医疗实体但是还需继续提高识别准确率, 获得更精准的挖掘结果未来的工作中, 我们将进一步丰富实体识别的特征, 特别是针对在线的医疗问答文本, 进一步区分问与答两种文本的区别和联系, 设计相应特征并引入实验我们还会考虑前面有否定意义词汇的实体, 处理实体嵌套的情况参考文献 [1] 黄丹. 网络医疗对医疗服务理念的挑战. 中药研究与信息, 2006, 7(9): [2] Grishman R, Sundheim B. Message Understanding Conference-6: a brief history // COLING. Copenhagen, 1996, 96: [3] Doddington G R, Mitchell A, Przybocki M A, et al. The automatic content extraction (ACE) programtasks, data, and evaluation // LREC. Lisbon, 2004: [4] 胡双, 陆涛, 胡建华. 文本挖掘技术在药物研究中的应用. 医学信息学杂志, 2013(8): [5] 杨锦锋, 于秋滨, 关毅, 等. 电子病历命名实体识别和实体关系抽取研究综述. 自动化学报, 2014, 40 (8): [6] DiSantostefano J. International classification of diseases 10th revision (ICD-10). The Journal for Nurse Practitioners, 2009, 5(1): [7] Lindberg D A, Humphreys B L, McCray A T. The unified medical language system. Methods of Information in Medicine, 1993, 32(4): [8] McDonald C J, Overhage J M, Tierney W M, et al. The regenstrief medical record system: a quarter century experience. International Journal of Medical Informatics, 1999, 54(3): [9] Kraus S, Blake C, West S L. Information extraction from medical notes // Medinfo Brisbane, 2007: 1 2 [10] 郑强, 刘齐军, 王正华, 等. 生物医学命名实体识别的研究与进展. 计算机应用研究, 2010, 27(3): [11] Sondhi P, Gupta M, Zhai C X, et al. Shallow information extraction from medical forum data // Proceedings of the 23rd International Conference on Computational Linguistics: Posters. Association for Computational Linguistics. Beijing, 2010: [12] 叶枫, 陈莺莺, 周根贵, 等. 电子病历中命名实体的智能识别. 中国生物医学工程学报, 2011, 30(2): [13] 王世昆, 李绍滋, 陈彤生. 基于条件随机场的中医命名实体识别. 厦门大学学报 : 自然科学版, 2009, 48(3): [14] Luhn H P. The automatic creation of literature abstracts. IBM Journal of Research and Development, 1958, 2(2): [15] Lafferty J, McCallum A, Pereira F C N. Conditional random fields: probabilistic models for segmenting and labeling sequence data // ICML 01 Proceedings of the Eighteenth International Conference on Machine Learning. San Francisco, 2001: [16] Sutton C, McCallum A. An introduction to conditional random fields. Machine Learning, 2011, 4(4): [17] University of Leeds UK. Hidden Markov Models [EB/OL]. (2010)[ ]. ds.ac.uk/roger/hiddenmarkovmodels/html_dev/main. html [18] 孙建. Ansj_seg [EB/OL]. ( ) [ ]. [19] Ramshaw L A, Marcus M P. Text chunking using transformation-based learning // Text Speech & Language Technology. Boston, 1995: [20] Kudo T. CRF++: Yet another CRF toolkit [EB/OL]. (2005) [ ]. [21] Powers D M. Evaluation: from precision, recall and F-measure to ROC, informedness, markedness and correlation. Journal of Mach Learn Technol, 2011, 2(1): [22] Tjong K S E F, Buchholz S. Introduction to the CoNLL-2000 shared task: chunking // Proceedings of the 2nd Workshop on Learning Language in Logic and the 4th Conference on Computational Natural Language Learning-Volume 7. Lisbon, 2000:

18% 的召回率我们还分析了后缀特征和各类实体的词性构成模式, 说明了该特征的有效性实验结果表明, 本文方法可以有效地识别出问答文本中大部分的医疗实体但是还需继续提高识别准确率, 获得更精准的挖掘结果未来的工作中,

北京大学学报 ( 自然科学版 ) 别和挖掘工作本文抽取的实体类别包括疾病症状药品治疗方法和检查五类在特征选取方面, 除了使用一般的实体识别文本特征 ( 例如符号特征词

北京大学学报 ( 自然科学版 ) 别和挖掘工作本文抽取的实体类别包括疾病症状药品治疗方法和检查五类在特征选取方面, 除了使用一般的实体识别文本特征 ( 例如符号特征词 http://www.cnki.net/kcms/detail/11.2442.n.20150930.1127.003.html 北京大学学报 ( 自然科学版 ) Acta Scientiarum Naturalium Universitatis Pekinensis doi: 10.13209/j.0479-8023.2016.020 在线医疗文本中的实体识