PowerPoint Presentation

Size: px

Start display at page:

Download "PowerPoint Presentation"

粒滑
5 years ago
Views:

1 语篇分析与指代消解 Discourse Analysis Coreference Resolution 王厚峰北京大学信息科学技术学院计算语言学教育部重点实验室

2 Content 引入衔接与连贯中心理论与指代消解指代消解的其他方法指代消解的应用 Icler, PKU 2

3 程序设计语言 vs. 自然语言相同点程序设计语言无穷性无穷的词汇 ( 变量 ) 无穷的程序有穷性符号有穷有穷映射为无穷遵循表达规律自然语言无穷性无穷的词汇无穷的文章 ( 书面语 ) 有穷性文字有穷有穷映射为无穷遵循表达规律 wanghf@pku.edu.cn, Icler, PKU 3

4 程序设计语言 vs. 自然语言不同点程序设计语言规则的有限性语义的精确性 X=y+++z (C 语言 ) 极少数人工制定的规则规则的约束力强超越规则不合法! 自然语言是否存在有限的规则语义的模糊性? 该来的没有来众多人在扩展规则 ; 已有的规则随时被突破 ( 如, 被就业,) wanghf@pku.edu.cn, Icler, PKU 4

5 程序设计语言的分析一般流程 : 词法分析语法分析语义分析代码优化与生成 wanghf@pku.edu.cn, Icler, PKU 5

6 自然语言处理的流程 speech Phonetic/Phonological Analysis text OCR/Tokenization Morphological analysis Parsing Semantic Interpretation Discourse Processing Icler, PKU 6

7 语言的形式构成与分析字序列汉语的各级构成词序列短语 / 句子形式分析与意义分析句群 / 语篇自然语言处理 : 需要对每一层做形式分析和意义分析 wanghf@pku.edu.cn, Icler, PKU 7

8 不同层次的处理 Morphology 词的构成问题 Syntax(Parsing) 词与词之间的结构关系 Semantics 词的意义词与词组合 ( 短语 / 句子 ) 意义 Discourse 句子之间的关系, 上下文的意义 wanghf@pku.edu.cn, Icler, PKU 8

9 语篇 (Discourse) 前后意义关联的句子序列几种说法 : 话语语篇 ( 篇章 ) 文本 ( 英文 :discourse, text) 两个例子 : Ex1: 比尔来自于美国今天交通非常拥挤长江贯穿中国的多个省市因此, 计算语言学是计算机科学与语言学的交叉 4 correct sentences but collectively do not make meaning Ex2: 这里的交通非常拥挤张先生早上 6:40 之前就得出发去上班, 常常会提前半小时到单位 ; 如果稍晚一点, 他就很可能迟到 it makes meaning wanghf@pku.edu.cn, Icler, PKU 9

10 意义相关性的体现 (1) 例子 : 张三擅长素描他给家里的每个人都画了一幅 [], 挂在房间的 [] 是自画像意义上是如何关联的? 通过词汇语义表达关联 : 围绕着画而展开 : 素描画像一幅 [ ] 通过指代形成关联人称代词他 ; 零型代词 [ ] 所表示的对象以词汇表示的关联, 通常称为衔接 (cohesion) wanghf@pku.edu.cn, Icler, PKU 10

11 意义相关性的体现 (2) 例子 : [s1] 张三把李四的车钥匙藏起来了 [s2] 他喝醉了 [s3] 张三把李四的车钥匙藏起来了 [s4] 他喜欢逗着乐 [s5] 张三把李四的车钥匙藏起来了 [s6] 他爱看电影意义上是如何关联的? 通过句子的意义表示关联 [s1] 和 [s2] 构成合理的篇章 : 两个句子表示因果关系 [s3] 和 [s4] 也构成合理篇章 : 同样表示因果关系 [s5] 和 [s6] 构成合理篇章吗? 通过句子意义表示的关联称为连贯 (coherence) 如何解释 [s5] 和 [s6] 一种推断 : 他希望李四请他看电影 ( 可能需要更大的上下文 ) wanghf@pku.edu.cn, Icler, PKU 11

12 Cohesion vs Coherence Cohesion( 衔接 ): 强调其构成成分 ( 主要是词或短语 ) 之间的关联性. 例子 : [s1] 张三喜欢骑单车上班,[s2] 李四通常步行去办公室在词汇层面上相对容易处理 Coherence( 连贯 ): 强调整体上表达某种意义例子 : [s3 ] A: 我有两张票, 想请你今晚看电影 [s4-1] B: 很遗憾, 我今晚不能看电影 ( 衔接 + 连贯, 简洁易懂 ) [s4-2] B: 我还有一大堆的作业没有完成 ( 连贯, 没有衔接 ) [s4-3] B: 我就不客气了 ( 连贯, 没有衔接 ) [s4-4] B: 武汉又称江城 ( 不衔接不连贯 ) 在处理上相对困难, 不容易切入 wanghf@pku.edu.cn, Icler, PKU 12

13 篇章分析的假设篇章分析 : 也称为文本分析 (Text analysis), 或者文章分析一篇待分析的文章假定为合理的, 其合理性应表现在是否围绕某个话题或意义而展开, 这就是所谓的连贯性一篇待分析的文章假定为简洁易懂的, 其简洁易懂不仅表现为连贯, 也表现为衔接见前面的例子 wanghf@pku.edu.cn, Icler, PKU 13

14 Content 引入衔接与连贯中心理论与指代消解指代消解的其他方法指代消解的应用 Icler, PKU 14

15 衔接的进一步解释 Cohesion: Five cohesive relations (Halliday & Hasan,1976) Reference( 指代 ) Substitution( 替换 ) Ellipsis( 省略 ) Conjunction( 连接 ) Lexical cohesion( 词汇衔接 ) 语篇中为什么会有衔接现象? 追求表达的经济 ( 省略指代 ); 追求表达的变化 ( 指代替换词汇衔接 ); wanghf@pku.edu.cn, Icler, PKU 15

16 词汇衔接 Assumption: One word one sense per discourse Word sense(meaning) Reiteration with the same word(s); Reiteration without the same word(s); Hyponymy & meronymy; collocation Icler, PKU 16

17 词汇衔接的例子社交的吃饭种类虽然复杂, 性质极其简单把饭给自己有饭的人吃, 那是请饭 ; 自己有饭可吃而去吃人家的饭, 那是赏面子交际交际的微妙不外乎此反过来说, 把饭给没饭吃的人吃, 那是施食, 赏面子就一变而成丢脸这便是慈善救济, 算不上交际了 ( 钱钟书 : 吃饭 ) 起衔接作用的词饭交际 ( 社交 ) 面子 ( 赏面子丢脸 ) 施舍 ( 施食救济 ) 复杂 ( 简单 ) 应用 : 通过衔接关系, 可以用于提取文本的关键词 wanghf@pku.edu.cn, Icler, PKU 17

18 关于指代为什么需要指代? 假设有这样一组句子 : 张三一大早就赶到了学校张三先到食堂吃早餐, 然后张三到张三的宿舍拿张三自己的教材和张三自己的笔记本当张三匆忙来到教室时, 张三发现张三的课本拿错了设想修改为这样表达 : 张三一大早就赶到了学校他先到食堂吃早餐, 然后 [X] 到 [X] 宿舍拿自己的教材和 [X] 笔记本当 [X] 匆忙来到教室时, 他发现 [X] 课本拿错了哪一种表达更符合人们的习惯? 语言的表达追求经济与变化不妨将指代省略替换都看称广义指代 wanghf@pku.edu.cn, Icler, PKU 18

19 指代指代 (anaphora) 的定义 (Hirst, 1981) : ANAPHOR Anaphora is the device of making in discourse an abbreviated reference to some entity in the expectation that the perceiver will we able to disabbreviate the reference and thereby determine the identity of the entity. RESOLUTION ANTECEDENTor REFERENT wanghf@pku.edu.cn, Icler, PKU 19

20 五个概念 Anaphor: 指代语当语篇中提到某个实体后, 再一次提及时, 常用一种简洁的形式表示 ( 如代词他 ), 这一简洁的形式称为指代语 ; Entity (referent): 实体 ( 指称对象 ) 实际存在或传说存在 ( 如, 孙悟空 ) 的对象, 主要包括, 人机构地方等 ; Reference: 指称用于指称实体的语言表示 Antecedent: 先行语语篇中引入的一个相对明确的指称意义的表述 ( 如张三 ) Coreference: 共指 ( 同指 ) 当两种表述均指称相同对象 ( 实体 ) 时, 这两种表述具有共指关系 wanghf@pku.edu.cn, Icler, PKU 20

21 一个例子我 /rr rr 和 /cz 黄 /nrf 若暾 /nrg 两 /mx 个 /qe 小青年 /nap 病 /vt 卧 /vi 小龙坎 /ns 的 /ud 库房 /nas,/wd 恩来 /nr 同志 /nap 亲自 /d 把 /p2 殷殷 /z 亲情 /nh 给予 /vx 我们 /rr,/wd 他 /rr 的 /ud 探视 /vn /wu 他 /rr 的 /ud 微笑 /vn /wu 他 /rr 的 /ud 火热 /z /wu 他 /rr 的 /ud 革命 /aa 领袖 /nap 的 /ud 恩情 /ne,/wd 永远 /dt 珍藏 /vt 在 /ps 我 /rr 的 /ud 心中 /smh /wj Icler, PKU 21

22 例子 ( 续 ) 我 /rr rr 和 /cz 黄 /nrf 若暾 /nrg 两 /mx 个 /qe 小青年 /nap 病 /vt 卧 /vi 小龙坎 /ns 的 /ud 库房 /nas,/wd 恩来 /nr 同志 /nap 亲自 /d 把 /p2 殷殷 /z 亲情 /nh 给予 /vx 我们 /rr,/wd 他 /rr 的 /ud 探视 /vn /wu 他 /rr 的 /ud 微笑 /vn /wu 他 /rr 的 /ud 火热 /z /wu 他 /rr 的 /ud 革命 /aa 领袖 /nap 的 /ud 恩情 /ne,/wd 永远 /dt 珍藏 /vt 在 /ps 我 /rr 的 /ud 心中 /smh /wj wanghf@pku.edu.cn, Icler, PKU 22

23 例子 ( 续 ) 我 /rr rr 和 /cz 黄 /nrf 若暾 /nrg 两 /mx 个 /qe 小青年 /nap 病 /vt 卧 /vi 小龙坎 /ns 的 /ud 库房 /nas,/wd 恩来 /nr 同志 /nap 亲自 /d 把 /p2 殷殷 /z 亲情 /nh 给予 /vx 我们 /rr,/wd 他 /rr 的 /ud 探视 /vn /wu 他 /rr 的 /ud 微笑 /vn /wu 他 /rr 的 /ud 火热 /z /wu 他 /rr 的 /ud 革命 /aa 领袖 /nap 的 /ud 恩情 /ne,/wd 永远 /dt 珍藏 /vt 在 /ps 我 /rr 的 /ud 心中 /smh /wj wanghf@pku.edu.cn, Icler, PKU 23

24 三角关系图 Referents or entities Refer (evoke) Refer (access) John ANTECEDENT Corefer Anaphora Resolution He ANAPHOR Icler, PKU 24

25 指代与共指 Anaphora vs coreference 指代 (Anaphora) 关系 : 强调指代语与另一个表述之间的关系指代语的指称对象通常不明确, 需要确定其与先行语之间的关系来解释指代语的语义 ; 张先生走过来, 给大家看他的新作品共指 (coreference): 强调一个表述与另一个表述是否指向相同的实体 ; 现任美国总统与奥巴马指代关系常常表示共指, 但有时也不 Eg. 我参观了刘博士的新房, 窗户正对着花园, 两者的目标 : 指代消解 : 寻找指代语对应的先行语共指消解 : 发现指向相同实体的语言表示单元 ( 包括多语篇 ) wanghf@pku.edu.cn, Icler, PKU 25

26 6 类指称表示 Indefinite NPs( 无定名词 ): 一辆汽车 Definite NPs ( 有定名词 ) : 那个人 Pronouns ( 人称代词 ) : 它, 他 Demonstratives ( 指示代词 ) : 这, 那 One-anaphora (one 指代 ) : one (in English) Zero anaphora (0 型指代 ) : 省略 wanghf@pku.edu.cn, Icler, PKU 26

27 Indefinite NPs 为读者引入一个新的实体时常用无定形式 ; 引入的实体, 可能的确存在 ( 明确的 ), 也可能不明确 ; 两个例子 : 张先生娶了一位法国太太 (Specific) 史密斯想娶一位中国姑娘 (non-specific) wanghf@pku.edu.cn, Icler, PKU 27

28 Definite NPs 无论读者知道否, 一定存在首位进入太空的宇航员 ( 即, 前苏联宇航员尤里. 加加林 );( 通过某些知识可以知道 ) Look, how beautiful the girl is! ( 实际存在 ) 为了消除小兵兵对生人的陌生感, 两位女记者带着这个小男孩逛街 ( 在上下文中 ) 最后一种情况需要指代消解特点 : 定冠词 ( 这 / 那 ) 引导的名词短语 wanghf@pku.edu.cn, Icler, PKU 28

29 Demonstratives 典型的指示代词包括 : 那, 这, 当指示代词与后面的名词 ( 短语 ) 连用时, 此时变为了定冠词, 形成有定表示. Ex: 刘博士刚买了一套房子, 那是一套性价比相当好的房子 wanghf@pku.edu.cn, Icler, PKU 29

30 One-anaphora ( 替换 ) 出现在英语中表示某集合中的一个元素. Ex: He had a BMW before, now he got another one. John has two BMWs, but I have only one wanghf@pku.edu.cn, Icler, PKU 30

31 英文中的特殊替换 Ex. The man who gave his paycheck to his wife was wiser than the man who gave it to his mistress. That s a rhinoceros A what? Spell it for me wanghf@pku.edu.cn, Icler, PKU 31

32 汉语中的替换刘博士买的是新房, 张博士买的是二手的朋友陈把手一拍, 我们便看见一只大鸟飞过去, 接着又看见第二只, 第三只我们继续拍掌很快这个树林变得热闹了到处都是鸟声, 到处都是鸟影大的, 小的, 花的, 黑的, 有的站在树上叫, 有的飞起来, 有的在扑翅膀 ( 巴金 : 鸟的天堂 ) Substitution or ellipsis wanghf@pku.edu.cn, Icler, PKU 32

33 省略零指代 (Zero anaphora) 一个例子张三一大早就赶到了学校他先到食堂吃早餐, 然后 [X] 到宿舍拿自己的教材和 [X] 笔记本当 [X] 匆忙来到教室时, 他发现 [X] 课本拿错了英语中的零指代很少见, 但汉语中十分常见 : They said they were coming to help us with our house repair today. 他们说 [X] 今天来帮我们修 [X] 房子他们说他们今天来帮我们修我们的房子 ( 很少这样说 ) wanghf@pku.edu.cn, Icler, PKU 33

34 零指代 ( 进一步的例子 ) 0 形式的判断 : 需要在句子层面上判断哪些必须的成分省略了两个例子 : (1) 美国宣布 (X) 部分取消 (X) 对朝鲜长达近半个世纪的经济制裁 (2) 李向阳机智地组织游击队攻城并烧毁了敌人的粮库, (?) 迫使松井撤出了李庄 (3) 我自来是如此,(X) 从会吃饮食时便吃药,(X) 到今未断 (X) 请了多少名医,(X) 修方配药,(X) 皆不见效 0 形式恢复 ( 消解 ) 如何消解 wanghf@pku.edu.cn, Icler, PKU 34

35 以衔接为基础的篇章分析分析单元 : 通常情况下是词有时也可以是短语 ( 或 term) 建立词汇之间的关系 : 形成词汇链 ( 或词汇集合 ) 词汇链的形式定义 : 设文本 T 可以表示为词的集合 T={w 1,w 2,,w n } ( 有相同元素 ) 设衔接关系为 R, 则 R 将 T 划分为 : CL_1={w 11,w 12,,w 1m_1 }, CL_2={w 21,w 22,,w 2m_2 }, 其中, 对任意的 w kp,w kq CL_k, 都有 (w kp,w kq ) R R 可以看成为广义等价关系 wanghf@pku.edu.cn, Icler, PKU 35

36 如何建立衔接关系分析五种关系 : Reference( 指代 ) Substitution( 替换 : 发现替换关系 ) Ellipsis( 省略 : 找回省略部分 ) Conjunction( 连接, 主要在连贯分析中使用 ) Lexical cohesion( 词汇衔接 ) 重复 ( 词的形式判断 ) 近义 + 反义 ( 借助于词典 ) 上下位义 + 整体部分义 ( 借助于词典 ) 搭配 ( 词典 + 统计方法 ) wanghf@pku.edu.cn, Icler, PKU 36

37 关于连贯两个解释 : Longman: a reasonable connection or relation between ideas, arguments, statements etc: An overall theme will help to give your essay coherence wanghf@pku.edu.cn, Icler, PKU 37

38 一个连贯的例子 S1: 张三去银行办理支票. S1: 然后他乘车到了李四的汽车销售店. S2: 他想买一部车. S3: 他的工作单位距公交站较远 S4: 他也想同李四讨论一下他们的垒球协会的事情 ]Explanation ]Parallel Explanation ]Occasion Icler, PKU 38

39 连贯关系 (coherence relation) 语段 ( 如句子 ) 之间可能的语义连接关系称为连贯关系 Hobbs(1979) 提出的连贯关系 ( 设 S0 和 S1 为两个相关的句子的意义 ): 结果关系 (result): 推测 S0 所声明的状态或事件 ( 可能 ) 导致 S1 所声明的状态或事件 ; 解释关系 (explanation): 推测 S1 所声明的状态或事件 ( 可能 ) 导致 S0 所声明的状态或事件 ; 平行关系 (parallel): 推测 S0 所声明的 P(a 1,a 2, ) 与 S1 所声明的 P(b 1, b 2, ) 是类似的 ; 细化关系 (Elaboration): 推测 S1 和 S0 所声明的是同一命题 P; 时机关系 (Occasion): 推测由 S0 所声明的状态到 S1 最终状态的变化, 或者由 S1 所声明的状态到 S0 的最初状态的变化 ; wanghf@pku.edu.cn, Icler, PKU 39

40 以连贯为基础的篇章结构分析建立句间语义关系 ( 以前面四个句子为例 ) Occasion (e1:e2) S1 (e1) S2 (e2) Explanation (e2) Parallel (e3;e5) Explanation (e3) S4 (e5) S2(e3) S3(e4) wanghf@pku.edu.cn, Icler, PKU 40

41 RST(Rhetorical structure theory) 修饰结构理论 : 认为语篇的构成具有层次结构关系 ( 树形图 ), 通过修饰结构表示语篇结构理论的建立者为 : William Mann and Sandra Thompson, 1987( 南加州大学 ) 层次结构关系由修饰关系刻画修饰关系是对前面 Hobbs 连贯关系的细化共 23 种关系 ; 关系的双方 : Nucleus 与 Satellite 具有支配作用 : Nucleus + Satellite 平等关系 : Nucleus + Nucleus wanghf@pku.edu.cn, Icler, PKU 41

42 RST 中的关系 Subject matter (informational) Presentational (intentional) Elaboration Circumstance Solutionhood Volitional Cause Volitional Result Non-Volitional Cause Non-Volitional Result Purpose Condition Otherwise Interpretation Evaluation Restatement Summary Sequence Contrast Motivation Antithesis Background Enablement Evidence Justify Concession Icler, PKU 42

43 基本关系模式二元关系 relation relation text part: satellite text part: nucleus text part: nucleus text part: nucleus 多元素关系 relation 1 relation 2 relation 2 relation 1 relation 1 relation wanghf@pku.edu.cn, Icler, PKU 43

44 基于 RST 的分析 : 问题语篇中究竟需要多少关系以及需要什么样的关系? 没有统一的标准两个片段 ( 句子 ) 之间可能存在多种解释不同的解释都能接受如何确认两个片段之间的关系? 并不是一件容易的事 ( 很多情况下没有形式标记, 需要靠意义确定关系 ) 构造树结构的复杂性高 wanghf@pku.edu.cn, Icler, PKU 44

45 多种解释 Moore and Polack, Come back at 5: Then we can go to the hardware store before it closes. 3. This way we can finish the bookshelves tonight. Informational level Intentional level condition motivation condition 3 1 motivation 1 Condition: The satellite presents a situation which is necessary for the nucleus to obtain. 2 Motivation: Satellite presents information which should make the reader want to perform the action in the nucleus wanghf@pku.edu.cn, Icler, PKU 45

46 Content 引入衔接与连贯中心理论与指代消解指代消解的其他方法指代消解的应用 Icler, PKU 46

47 中心理论 CT (Centering Theory) 提出者 : Grosz Barbara 特点 : 是一种局部化的语篇连贯性理论 ; 解释了为什么某个语篇比另一个语篇在处理 ( 理解 ) 上更困难 ; 解释了为什么会以这种方式使用代词而不是用其他方式 ; 给出了指代消解的一种实用化方法 wanghf@pku.edu.cn, Icler, PKU 47

48 语篇比较哪一段更容易理解? a. Jeff 1 helped Dick 2 wash the car. b. He 1 washed the windows as Dick 2 waxed( 擦亮 )the car. c. He 1 soaped a pane( 玻璃 ). a. Jeff 1 helped Dick 2 wash the car. b. He 1 washed the windows as Dick 2 waxed the car. c. He 2 buffed ( 擦亮 ) the hood( 发动机罩 ). 从句子的关系和意义上看, 哪一段更连贯呢? 原因 : 第一段的中心 (Center) 没有变, 一直是 Jeff 在第 2 段中,C 的中心 He 变为了 Dick wanghf@pku.edu.cn, Icler, PKU 48

49 中心可以帮助消解代词歧义代词消解 ( 指代消解 ): 确定代词的所指过程一个例子 : 1. Susan 1 is a fine friend. 2. She 1 gives people the most wonderful presents. 3. She 1 just gave Betsy 2 a wonderful bottle of wine. 4. She 1 told her 2 it was quite rare. 5. She 1 knows a lot about wine. 为什么后四个句子中的 she 都表示 Susan? 为什么 her 表示 Betsy? 中心理论可以给出合理的解释! wanghf@pku.edu.cn, Icler, PKU 49

50 另一个例子详解 from Grosz, Joshi and Weinstein, 1995 a. Terry really goofs sometimes. b. Yesterday was a beautiful day and he was excited about trying out his new sailboat. c. He wanted Tony to join on a sailing expedition. d. He called him at 6 A.M. 语篇的正常表述! 其中,He 是谁? him 是谁? 为什么? wanghf@pku.edu.cn, Icler, PKU 50

51 To continue 后面再增加一个句子, 得到语篇 : a. Terry really goofs sometimes. b. Yesterday was a beautiful day and he was excited about trying out his new sailboat. c. He wanted Tony to join on a sailing expedition. d. He called him at 6 A.M. e. He was sick and furious at being woken up so early. 语篇的表述似乎不太正常! 其中, 最后一个 He 是谁? wanghf@pku.edu.cn, Icler, PKU 51

52 To continue 假设后面增加句子变成为 : a. Terry really goofs sometimes. b. Yesterday was a beautiful day and he was excited about trying out his new sailboat. c. He wanted Tony to join on a sailing expedition. d. He called him at 6 A.M. e. Tony was sick and furious at being woken up so early. 语篇的表述又可以接受! 其中的变化是 : 最后一个 He 改成了 Tony wanghf@pku.edu.cn, Icler, PKU 52

53 To continue 假设后面再增加一个句子 : a. Terry really goofs sometimes. b. Yesterday was a beautiful day and he was excited about trying out his new sailboat. c. He wanted Tony to join on a sailing expedition. d. He called him at 6 A.M. e. Tony was sick and furious at being woken up so early. f. He told Terry to get lost and hung up. 语篇的表述可以接受! 最后一个 He 指代谁? wanghf@pku.edu.cn, Icler, PKU 53

54 To continue 在后面进一步增加句子 : a. Terry really goofs sometimes. b. Yesterday was a beautiful day and he was excited about trying out his new sailboat. c. He wanted Tony to join on a sailing expedition. d. He called him at 6 A.M. e. Tony was sick and furious at being woken up so early. f. He told Terry to get lost and hung up. g. Of, course he hadn t intended to upset Tony. 表述似乎又有问题! 问题出在最后一个 he 上? wanghf@pku.edu.cn, Icler, PKU 54

55 最后面句子再修改 : To continue a. Terry really goofs sometimes. b. Yesterday was a beautiful day and he was excited about trying out his new sailboat. c. He wanted Tony to join on a sailing expedition. d. He called him at 6 A.M. e. Tony was sick and furious at being woken up so early. f. He told Terry to get lost and hung up. g. Of, course Terry hadn t intended to upset Tony. 此次的语篇看起来怎么样? wanghf@pku.edu.cn, Icler, PKU 55

56 中心理论的进一步解释中心 : 语篇中的实体之一什么是实体? John gave Mary a flower. person1 type = person name = John gender = masc person2 type = person name = Mary gender = fem flower1 type = flower number = sg wanghf@pku.edu.cn, Icler, PKU 56

57 如何界定中心? CT 理论提出了三类中心前瞻中心表 (a list of forward-looking centers) 句子 u 的前瞻中心表是句中实体有序集 C f (u) = <e 1, e 2,... e k > 其中, 实体的排序规律为 : subject > direct-object > indirect-object > others 回看中心 (a backward-looking center) 句子 u 中的回看中心 C b (u) 是出现在 u 中, 且在前面句子中排顺最靠前的实体 ; 优先中心 (a prefered center) 句子 u 中的优先中心 C p (u) 是 C f (u) 中排序最靠前的实体 wanghf@pku.edu.cn, Icler, PKU 57

58 中心转换关系 Following Grosz, Joshi and Weinstein, 1995, Brennan, Friedman and Pollard, 1987 C b (u) = C b (u-1) C b (u) C b (u-1) C b (u) = C p (u) C b (u) C p (u) CONTINUING RETAINING SMOOTH SHIFT ABRUPT SHIFT 连贯性比较 CON > RET > SSH > ASH wanghf@pku.edu.cn, Icler, PKU 58

59 基于中心的连贯性比较 U1. John went to his favorite music store to buy a piano. U2. He had frequented the store for many years. U3. He was excited that he could finally buy a piano. U4. He arrived just as the store was closing for the day. U 1. John went to his favorite music store to buy a piano. U 2. It was a store John had frequented for many years. U 3. He was excited that he could finally buy a piano. U 4. It was closing just as John arrived. 由中心理论可以推断, 第一段比第二段连贯 wanghf@pku.edu.cn, Icler, PKU 59

60 第一段 U 1. John went to his favorite music store to buy a piano. C f (U 1 ) = (John, store, piano). U 2. He had frequented the store for many years. C b (U 2 ) = John. C f (U 2 ) = (John, store). CONTINUATION. U 3. He was excited that he could finally buy a piano. C b (U 3 ) = John. C f (U 3 ) = (John, piano). CONTINUATION. U 4. He arrived just as the store was closing for the day. C b (U 4 ) = John. C f (U 4 ) = (John, store). CONTINUATION wanghf@pku.edu.cn, Icler, PKU 60

61 第二段 U 1. John went to his favorite music store to buy a piano. C f (U 1 ) = (John, store, piano). U 2. It was a store John had frequented for many years. C b (U 2 ) = John. C f (U 2 ) = (store, John). RETAINING. U 3. He was excited that he could finally buy a piano. C b (U 3 ) = John. C f (U 3 ) = (John, piano). CONTINUATION. U 4. It was closing just as John arrived. C b (U 4 ) = John. C f (U 4 ) = (store, John). RETAINING wanghf@pku.edu.cn, Icler, PKU 61

62 尝试比较下面两段 a. Jeff1 helped Dick2 wash the car. b. He1 washed the windows as Dick2 waxed( 擦亮 ) the car. c. He1 soaped a pane( 玻璃 ). a. Jeff 1 helped Dick 2 wash the car. b. He 1 washed the windows as Dick 2 waxed the car. c. He 2 buffed ( 擦亮 ) the hood( 发动机罩 ) wanghf@pku.edu.cn, Icler, PKU 62

63 基于 CT 的指代消解算法规则 : 如果 C f (u i-1 ) 的某元素以代词形式出现在 u i, 那么, 这个元素就是 C b (u i ) 规则给出了凸显性的直观解释, 即被代词表示的实体具有显著性 ( 一目了然 ) 如果有多个代词, 那么其中之一是 C b (u i ) 如果只有一个代词, 那么一定是 C b (u i ) 解释, Cb(u i ) 的确定依赖于两个条件 : (1) 一定是在 U i 中出现的语义实体 ; (2) 该实体也一定在 Cf(U i-1 ) 中出现过, 如果 U i 有多个实体也在 U i-1 中出现, 那么, 作为 Cb(U i ) 的实体在 Cf(U i-1 ) 中应有更高的排位 wanghf@pku.edu.cn, Icler, PKU 63

64 算法 (BFP) BFP(Brennan, Friedman and Pollard,1987) 步骤 : Step1. 如果在 U i 中出现人称代词, 则自左至右顺序检验 Cf(U i-1 ) 中的元素, 直至同时满足词汇句法 (Morphosyntactic) 约束 (Binding) 和类型标准 (Sortal criteria); 这样的元素作为先行语 ; Step2. 完全读取表述 U i, 计算 Cb(U i ) 并生成 Cf(U i-1 ), 对 Cf(U i-1 ) 进行排序 wanghf@pku.edu.cn, Icler, PKU 64

65 例子解释 a. Terry really goofs sometimes. C f = ([Terry]) b. Yesterday was a beatiful day and he was excited about trying out his new sailboat. C f = (he=his=[terry], [the sailboat]) C b = [Terry] c. He wanted Tony to join on a sailing expedition( 划艇队 ). C f = (he=[terry], [Tony], [the expedition]) C b = [Terry] d. He called him at 6 A.M. C f = (he=[terry], him=[tony]) C b = [Terry] wanghf@pku.edu.cn, Icler, PKU 65

66 再看例子变形 a. Terry really goofs sometimes. C f = ([Terry]) b. Yesterday was a beatiful day and he was excited about trying out his new sailboat. C f = (he=his=[terry], [the sailboat]) C b = [Terry] c. He wanted Tony to join on a sailing expedition. C f = (he=[terry], [Tony], [the expedition]) C b = [Terry] d. Terry called him at 6 A.M. C f = ([Terry], him=[tony]) C b = [Terry] disobeyed (violation) 不如前面连贯, 实际上很少使用这种表达 wanghf@pku.edu.cn, Icler, PKU 66

67 中心理论的问题属于局部连贯性 ( 通过相邻句子的中心变化表征 ), 跨越多个句子的指代消解如何处理? 中心理论要求单位是 utterance( 没有明确界定为句子 -sentence/clause), 什么是 utterance, 特别是在汉语中如何界定? C f 中的排列顺序目前只用到了表层信息, 是否还有深层信息 ( 如语义 ) 可用? 汉语中大量存在 0- 指代, 如何处理 wanghf@pku.edu.cn, Icler, PKU 67

68 Content 引入衔接与连贯中心理论与指代消解指代消解的其他方法指代消解的应用 Icler, PKU 68

69 基于语言知识过滤原则 : 性别单复数和人称的一致性规则 ; 优选原则 : 距离近优先句法语义平行优先例子 : A 喜欢与 B 闲聊, 他也喜欢与 C 闲聊 A 喜欢与 B 闲聊,C 也喜欢与他闲聊算法 :Lappin & Leass 提出的算法 RAP( 处理单数三人称代词, 略 ) wanghf@pku.edu.cn, Icler, PKU 69

70 基于分类 (ML) 的方法利用机器学习方法建立分类器 : 方法 : 选取对共指消解产生影响的特征, 主要包括 : 两者的距离, 字符的匹配程度, 单复数一致性, 性别一致性, 语义类的一致性, 是否是别称. 例子 : [ 聂 /nr 卫平 /nr] 今天 /t 取胜 /v 不易 /a /w 布局 /vn 阶段 /n 便 /d 与 /p [ 实力派 /n 人物 /n] [ 刘 /nr 小光 /nr] 九 /m 段 /q 展开 /v 激战 /vn,/w 棋局 /n 跌宕起伏 /l,/w 互 /d 有 /v 优劣 /n /w 直到 /v 官子 /vn 阶段 /n,/w [ 聂 /nr 卫平 /nr] 才 /d 因 /c [ 对手 /n] 的 /u 缓 /a 手 /n 而 /c 最终 /d 取胜 /v /w [ 对手 /n] => [ 聂 /nr 卫平 /nr] 属于一类吗? [ 对手 /n] => [ 刘 /nr 小光 /nr] 属于一类吗? wanghf@pku.edu.cn, Icler, PKU 70

71 指代消解的困难 Morphological and and lexical knowledge Real-world knowledge Anaphora resolution Syntactic knowledge Discourse knowledge Semantic knowledge Icler, PKU 71

72 汉语中的指代消解困难几类典型的问题 : 0- 指代 ( 省略 ) 如何识别? 例 : 张三对 [ ] 弟弟保护得很好,[ ] 每次出去,[ ] 都是牵着 [ ] 弟弟的手如何识别可能的指称语 ( 除了人名代词之外, 还有其他吗? 如, 美国总统即将访华) 抽象指代问题美国的一些学者认为中国强大后必然走上一条对外扩张的道路, 其实这完全是一种误解有效的方法 wanghf@pku.edu.cn, Icler, PKU 72

73 Content 引入衔接与连贯中心理论与指代消解指代消解的其他方法指代消解的应用 Icler, PKU 73

74 文本处理相关的一切应用机器翻译 They 是翻译成他们, 她们, 还是它们? 文本摘要 : 理解原文本时, 需要理解代词的对应关系生成摘要时, 避免名字 ( 同一个词 ) 的反复使用, 用代词 ( 或 0- 形式 ) 表示, 以便符合习惯信息抽取 : 识别文本中的实体, 建立实体之间的关系实体常常用代词表示, 关系的建立需要明确代词的指向其它 wanghf@pku.edu.cn, Icler, PKU 74

75 Thanks! Q & A wanghf@pku.edu.cn, Icler, PKU 75

PowerPoint Presentation

PowerPoint Presentation 语篇分析与指代消解 Discourse Analysis Coreference Resolution 王厚峰 wanghf@pku.edu.cn 北京大学信息科学技术学院计算语言学教育部重点实验室 Content 引入衔接与连贯中心理论与指代消解指代消解的其他方法指代消解的