PowerPoint 演示文稿

Size: px
Start display at page:

Download "PowerPoint 演示文稿"

Transcription

1 深度学习与机器翻译

2 统计机器翻译中的 深度学习 张家俊中国科学院自动化研究所 2

3 机器翻译 今天烟台天气不错 The weather is fine in Yantai today 源语言句子段落篇章源语言句子 机器翻译 机器翻译 目标语言句子段落篇章目标语言句子 一个序列 模型? 另一个序列 3

4 统计机器翻译 双语训练数据 基于数据驱动的模型学习 源语言测试数据 机器翻译模型 解码器 目标语言译文 4

5 双语训练数据 人类共有二十三对染色体 humans have a total of 23 pairs of chromosomes. 澳洲重新开放驻马尼拉大使馆 australia reopens embassy in manila 中国大陆手机用户成长将减缓 growth of phone users in mainland china to slow 外交人员搭乘第五架飞机返国 diplomatic staff take the fifth plane home 驻南韩美军三千人奉命冻结调防 us freezes transfer of 3,000 troops in south korea 姚明感慨 NBA 的偶像来得太快 yao ming feels nba stardom comes too fast 5

6 统计机器翻译 - 生成模型 源语言句子 : S = s 1 m = s 1 s 2 s m 目标语言句子 : T = t 1 l = t 1 t 2 t l 贝叶斯公式 : P T S = P T P S T P S T = argmax T P T P S T [Brown et al., 1990, 1993] 语言模型 Language model, LM 翻译模型 Translation model, TM 6

7 统计机器翻译 - 生成模型 澳洲 1 与 2 北韩 3 有 4 邦交 5 f 1 f 2 f 3 f 4 f 5 f 6 f 7 ε p m T 澳洲 1 与 2 北韩 3 有 4 邦交 5 p a j j, m, l f 1 f 2 f 3 f 4 f 5 f 6 f 7 澳洲 1 与 2 北韩 3 有 4 邦交 5 p s j t aj Austria 1 has 2 diplomatic 3 relations 4 with 5 North 6 Korea 7 IBM Model-2 7

8 统计机器翻译 - 判别式模型 T = argmaxp T S T = argmax P T P S T T P S = argmaxp T P S T T 生成式模型 [Och, 2002] T = argmaxp T P T S T? 翻译质量 翻译质量 8

9 统计机器翻译 - 判别式模型 T = argmaxp T P S T T T = argmaxp T P T S T 翻译质量 < T = argmaxp T P S T T P T S 翻译质量 9

10 统计机器翻译 - 判别式模型 T = argmaxp T S T = argmax T M 1 = argmax T λ m h m T, S exp T exp M 1 M 1 λ m h m T, S λ m h m T, S h 1 T, S h 2 T, S 1 = 2 =1 = logp T = logp S T T = argmaxp T S T = argmax T = argmax T = argmax T = argmax T M 1 logp T + logp S T log P T P S T P T P S T λ m h m T, S 10

11 基于短语的统计机器翻译 基于词的翻译模型的问题 : 很难处理词义消岐问题 很难处理一对多 多对一和多对多的翻译问题 澳洲是与北韩有邦交的少数国家之一 是? is are was were am be 11

12 基于短语的统计机器翻译 基于词的翻译模型的问题 : 很难处理词义消岐问题 很难处理一对多 多对一和多对多的翻译问题 澳洲是与北韩有邦交的少数国家之一? 北韩 North Korea? 邦交 the diplomatic relations 12

13 基于短语的统计机器翻译 基于短语的统计机器翻译 : 澳洲是与北韩有邦交的少数国家之一 ( 澳洲是, Australia is) ( 与北韩, with North Korea) ( 有邦交, have the diplomatic relations) ( 的少数国家之一, one of the few countries that) 13

14 基于短语的统计机器翻译 澳洲是与北韩有邦交的少数国家之一 短语划分 Australia is with North Korea have diplomatic relations one of the few countries that Australia is one of the few countries that have diplomatic relations with North Korea 短语翻译 短语调序 14

15 基于短语的统计机器翻译 短语 : 连续的词串 ( 非句法意义 ) [Koehn, 2003] T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K = argmax P S K 1 S P T K 1 S K 1, S T,S K 1,T K 1,TK 1 K P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S 15

16 基于短语的统计机器翻译 短语划分模型 短语翻译模型 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 短语调序模型 目标语言模型 16

17 基于短语的统计机器翻译 短语划分模型 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 目标 : 将一个词序列如何划分为短语序列 方法 : 一般假设每一种短语划分方式都是等概率的 17

18 基于短语的统计机器翻译 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 剩下的三个核心模型 : 1. 短语翻译模型 : P T 1 K S 1 K, S 2. 短语调序模型 : P T 1 K T 1 K, S 1 K, S 3. 目标语言模型 : P T T 1 K, T 1 K, S 1 K, S 18

19 基于短语的统计机器翻译 短语翻译模型 : P T 1 K S 1 K, S 1. 如何学习短语翻译规则 2. 如何估计短语翻译概率 双语句对词语对齐 短语翻译规则抽取 ( 澳洲是, Australia is) ( 与北韩, with North Korea) ( 有邦交, have the diplomatic relations) ( 的少数国家之一, one of the few countries that) 19

20 基于短语的统计机器翻译 双语句对词语对齐 澳洲是与北韩有邦交的少数国家之一 Australia is one of the few countries that have diplomatic relations with North Korea IBM model

21 基于短语的统计机器翻译 21

22 基于短语的统计机器翻译 短语翻译规则抽取 算法 : 对于源语言句子 S 中的任一短语 S j i, 根据词语对齐 A j 找到目标语言句子 T 中的对齐片段 T j j i, 若 S i 与 T i 满足对齐一致性, 则 S j j i, T i 为一条短语翻译规则 j 对齐一致性 : S i 中每个词 S k, 若 k, k A, 则 i k j, j T i 中每个词 T t, 若 t, t A, 则 i t j 源短语 源短语 源短语 目标短语目标短语目标短语 22

23 基于短语的统计机器翻译 23

24 基于短语的统计机器翻译 短语翻译模型 : P T 1 K S 1 K, S 1. 如何学习短语翻译规则 2. 如何估计短语翻译概率 双语句对词语对齐 短语翻译规则抽取 ( 澳洲是, Australia is) ( 与北韩, with North Korea) ( 有邦交, have the diplomatic relations) ( 的少数国家之一, one of the few countries that) 24

25 基于短语的统计机器翻译 短语翻译概率估计 :4 个翻译概率 ( 最大似然 ) 1. 正向 逆向短语翻译概率 p t s, p s t 2. 正向 逆向词汇化翻译概率 p lex t s, p lex s t ( 与北韩, with North Korea) ( 与北韩, and North Korea) ( 和北韩, with North Korea) ( 与朝鲜, with North Korea) p t s p s t = 1 2 =

26 基于短语的统计机器翻译 = 短语翻译概率估计 :4 个翻译概率 ( 最大似然 ) 1. 正向 逆向短语翻译概率 p t s, p s t 2. 正向 逆向词汇化翻译概率 p lex t s, p lex s t ( 与北韩, with North Korea) p with 与 = 0. 4 t j=1 i j, i p lex t s 1 A j,i A p t j s i p North 北韩 = 0. 1 p Korea 北韩 = 0. 5 p lex t s = =

27 基于短语的统计机器翻译 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 剩下的三个核心模型 : 1. 短语翻译模型 : P T 1 K S 1 K, S 2. 短语调序模型 : P T 1 K T 1 K, S 1 K, S 3. 目标语言模型 : P T T 1 K, T 1 K, S 1 K, S 27

28 基于短语的统计机器翻译 K 短语调序模型 : T 1 T K 1, S K 1, S 两种常用方法 : 1. 距离跳转模型 2. 分类模型澳洲是与北韩有邦交的少数国家之一 Australia is one of the few countries that have diplomatic relations with North Korea 28

29 基于短语的统计机器翻译 澳洲是与北韩有邦交的少数国家之一 Australia is one of the few countries that have diplomatic relations with North Korea Monotone: 顺序拼接 Swap: 交换 Swap: 交换 ( 与北韩, with North Korea) ( 有邦交, have the diplomatic relations) 特征提取 f0= 与, f1= 北韩, f2= 有, f3= 邦交, f4=with, f5=korea, f6=have, f7=relations 最大熵模型 Swap [Xiong et al., 2006] 29

30 基于短语的统计机器翻译 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 剩下的三个核心模型 : 1. 短语翻译模型 : P T 1 K S 1 K, S 2. 短语调序模型 : P T 1 K T 1 K, S 1 K, S 3. 目标语言模型 : P T T 1 K, T 1 K, S 1 K, S 30

31 基于短语的统计机器翻译 n P w 1 w 2 w t 1 w n = P w t w t 1 w 1 t=1 n t=1 P w t w t 1 w t n+1 P w t w t 1 w t n+1 = count w t 1 w t n+1 w t count w t 1 w t n+1 31

32 基于短语的统计机器翻译 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K = argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 M T = argmaxp T S T = argmax T 1 λ m h m T, S 32

33 基于短语的统计机器翻译 M T = argmaxp T S T = argmax T 1 λ m h m T, S h 1 T, S h 2 T, S h 3 T, S h 4 T, S = log p t s = log p s t = log p lex t s = log p lex s t h 5 T, S K = log P T 1 T K 1, S K 1, S h 6 T, S K = log P T T 1, T K 1, S K 1, S h 7 T, S = log len T h 8 T, S = log count phrases = log K 33

34 中间语言 语义 语义 句法串到树模型形式语法短语 树到树模型 层次短语模型 基于短语的模型 句法树到串模型形式语法短语 源语言 基于词的模型 目标语言

35 统计机器翻译中 深度学习的应用

36 基于短语的统计机器翻译 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 剩下的三个核心模型 : 1. 短语翻译模型 : P T 1 K S 1 K, S 2. 短语调序模型 : P T 1 K T 1 K, S 1 K, S 3. 目标语言模型 : P T T 1 K, T 1 K, S 1 K, S 36

37 基于计数的 N- 元语言模型 该课程很枯燥, 大家觉得很无聊 P w t w t 1 w t n+1 P 无聊 很 = count 很无聊 count 很 P 无聊 很 vs. P 枯燥 很 问题 1: 数据稀疏 N- 元组 很无聊 未出现过, 则回退 问题 2: 忽略语义相似性 无聊 与 枯燥 虽语义相似, 但无法共享信息 37

38 基于计数的 N- 元语言模型 典型方法 : 抽象符号 ( 字符串 ) 该课程很枯燥, 大家觉得很无聊 w 0 = 该 w 1 = 课程 w 2 = 很 w 3 = 枯燥 w 4 =, w 5 = 大家 w 6 = 觉得 w 7 = 很 w 8 = 无聊 w 9 = 等价表示方法 :one-hot 表示法 V 所有词按照出现的顺序排序 每个词语将对应唯一的下标 枯燥 无聊

39 词语表示 问题 枯燥 无聊 枯燥 无聊 = 0 任意两个词之间的相似度都为 0! 39

40 词语表示 枯燥 无聊 这个那个这些 单调枯燥无聊 今天明天昨天 一月三月五月 低维 稠密的连续实数空间 40

41 神经网络语言模型 很 P 无聊 很 vs. P 枯燥 很 P vs. P f vs. f

42 神经网络语言模型 P 无聊 很 f = f w w w w w w w w w w = f WX x 1 x 2 x 10 W f w (x) 42

43 神经网络语言模型 x 1 x 2 x 3 +1 W b h w,b (x) h W,b x = f W T x + b f: 非线性激活函数 1 f z = 1 + exp z f z = tanh z = e z e z f z = f z 1 f z e z + e z f z = 1 f2 z 43

44 神经网络语言模型 x 1 x 2 f w (x) x Layer L 3 Layer L 1 Layer L 2 44

45 神经网络语言模型 P 无聊 很 vs. P 枯燥 很 f = f w w w w w w w w w w = f WX x 1 x 2 x 10 W f w (x) 问题 1: 词向量如何将每个词映射到实数向量空间中的一个点 问题 2:f 函数的设计设计什么样的神经网络结构模拟函数 f 45

46 神经网络语言模型 - 词向量 L = 枯燥 V D 单调无聊 L R D V 通常称为 look-up table 我们可以对 L 右乘一个词的 one-hot 表示 e 得到该词的低维 稠密的实数向量表达 : x = Le 46

47 神经网络语言模型 - 词向量 L = V D L R D V 枯燥 单调 无聊 词表规模 V 和词向量维度 D 如何确定 V 的确定 :1, 训练数据中所有词 ;2, 频率高于某个阈值的所有词 ;3, 前 V 个频率最高的词 D 的确定 : 超参数, 人工设定, 一般从几十到几百 47

48 神经网络语言模型 - 词向量 L = V D L R D V 枯燥 单调 无聊 如何学习 L 通常先随机初始化, 然后通过目标函数优化词的向量表达 (e.g. 最大化语言模型似然度 ) 48

49 神经网络语言模型 P 无聊 很 vs. P 枯燥 很 f = f w w w w w w w w w w = f WX x 1 x 2 x 10 W f w (x) 问题 1: 词向量如何将每个词映射到实数向量空间中的一个点 问题 2:f 函数的设计设计什么样的神经网络结构模拟函数 f 49

50 前馈神经网络语言模型 P w t w t 1 w t n+1 = ey w t e y i i θ θ + logp θ y = Utanh Hx + d + Wx + b L L L x = L w t 1, L w t n+1 L L [Bengio et al., 2003] 50

51 前馈神经网络语言模型 Input Window Text the few supporters of Lookup Table 将每个词通过词向量矩阵 L 映射为低维实数向量 of (0.23, 0.15, 0.08, 0.31,.., 0.42) Linear concatenate 拼接所有词的向量, 形成一个向量 Tanh 隐藏层 : 线性映射 + 非线性变换 Linear Softmax 输出层 : Softmax Prob 51

52 前馈神经网络语言模型 问题 仅对小窗口的历史信息建模例如 5-gram 语言模型, 仅考虑前面 4 个词的历史信息 P w t w t 1 w t n+1 能否对所有的历史信息进行建模即第 t 个词的语言模型概率依赖于所有前 t-1 个词 P w t w t 1 w 2 w 1 52

53 循环神经网络语言模型 Salon with talk a held Bush W W W W W W H H H H H H H 53

54 循环神经网络语言模型 输入 : t 1 时刻历史 h t 1 与 t 时刻输入 w t 输出 : t 时刻历史 h t 与下个时刻 t + 1 输入 y t 的概率 当前输入 w t h t 1 上个时刻的历史 h t U V W 当前时刻的历史 y t h t = tanh UL w t + Wh t 1 p y t = ey t e y i i 下一个词的概率 ( 词典中所有词的概率分布 ) 54

55 循环神经网络语言模型 当前输入 w t h t 1 上个时刻的历史 下一时刻输入 U W h t U W 当前时刻的历史 h t+1 y t+1 V θ θ + logp θ p y t+1 误差反传 = ey t+1 e y i i 55

56 神经网络语言模型 - 融入解码器 澳洲是与北韩有邦交的少数国家之一 Australia is one of the few countries that have diplomatic relations with North Korea P w t w t 1 w t n+1 having good chances are diplomatic ties and North Korea in North Korea 解码中计算语言模型概率 :1 翻译候选多 ;2 自底往上的解码方式无法知道译文前缀 适合前馈神经网络 56

57 神经网络语言模型 - 融入解码器 汉语 - 英语 :NIST-2012 受限评测 Setting dev baseline NNLM decoding [Vaswani et al., EMNLP-2013] 57

58 神经网络语言模型 - 译文重排序 澳洲是与北韩有邦交的少数国家之一 Australia is one of the few countries that have diplomatic relations with North Korea Australia are a few countries having good chances and North Korea Australia was a country that are diplomatic ties in North Korea 对多个翻译结果重排序 :1 翻译候选少 ;2 可以利用译文前缀信息 适合循环神经网络 58

59 神经网络语言模型 - 译文重排序 法语 - 英语 :WMT-2012 Setting dev news2010 news2011 com2011 Ave. baseline RNNLM (2m) +RNNLM (50m) [Auli et al., EMNLP-2013] 59

60 神经网络语言模型 - 译文重排序 德语 - 英语 :WMT-2012 Setting dev news2010 news2011 com2011 Ave. baseline RNNLM (2m) +RNNLM (50m) [Auli et al., EMNLP-2013] 60

61 神经网络语言模型 - 译文重排序 英语 - 德语 :WMT-2012 Setting dev news2010 news2011 com2011 Ave. baseline RNNLM (2m) +RNNLM (50m) [Auli et al., EMNLP-2013] 61

62 基于短语的统计机器翻译 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 剩下的三个核心模型 : 1. 短语翻译模型 : P T 1 K S 1 K, S 2. 短语调序模型 : P T 1 K T 1 K, S 1 K, S 3. 目标语言模型 : P T T 1 K, T 1 K, S 1 K, S 62

63 基于最大似然的短语翻译概率估计 短语翻译概率估计 :4 个翻译概率 ( 最大似然 ) 1. 正向 逆向短语翻译概率 p t s, p s t 2. 正向 逆向词汇化翻译概率 p lex t s, p lex s t ( 与北韩, with North Korea) 最大似然概率估计无法刻画双 语短语之间的语义相似程度! p t s =

64 基于语义向量空间的翻译置信度估计 短语翻译概率估计 :4 个翻译概率 ( 最大似然 ) 1. 正向 逆向短语翻译概率 p t s, p s t 2. 正向 逆向词汇化翻译概率 p lex t s, p lex s t ( 与北韩, with North Korea) 可以在语义向量空间中计算双语短语的语义相似度 64

65 基于语义向量空间的短语表示 递归自动编码器 目标函数 : 最小化所有节点的重构误差 E total = E Rec_node node RAE RAE RAE 法国 和 俄罗斯 的 65

66 基于语义向量空间的短语表示 理想方法 : 有标注数据 但是, 现实中不存在正确标注的短语向量 监督学习 法国和俄罗斯 66

67 基于语义向量空间的短语表示 假设 短语与其翻译具有相同的语义向量表示 目标函数 最小化短语翻译对间的语义表示误差 模型 Pre-training: 无监督递归自编码器学习短语初始表示 Fine-tuning: 相互监督学习, 优化短语向量表示 67

68 基于语义向量空间的短语表示 r s = argmin 1 2 f r s r t 2 r t = argmin 1 2 f r t r s 2 源语言短语向量表示 r s 目标语言短语向量表示 r t 法国和俄罗斯 France and Russia 68

69 基于语义向量空间的短语表示 目标函数 正则化项 重构误差 J = E S, T; θ λ 2 双语语义误差 E S, T; θ = αe rec S, T; θ + 1 α E regression S, T; θ E rec S, T; θ =E rec S; θ + E rec T; θ E regression S, T; θ = E regression S T, θ + E regression T S, θ E regression S T, θ = s S 1 2 f v 2 s_root v t_root 69

70 基于语义向量空间的短语表示 协同训练 : 第一步 pre-training: 利用无监督 RAE 模型分别学习源语言和目标语言短语的分布式表示 源语言短语向量表示 r s 目标语言短语向量表示 r t 法国和俄罗斯 France and Russia 70

71 基于语义向量空间的短语表示 协同训练 : 第二步 fine-tuning,1) 将目标短语表示视为源语言短语的正确语义表示, 有监督地优化源语言短语的分布式表示 r s = argmin 1 2 f r s r t 2 源语言短语向量表示 r s 目标语言短语向量表示 r t 法国和俄罗斯 France and Russia 71

72 基于语义向量空间的短语表示 协同训练 : 第二步 fine-tuning,2) 将源语言短语表示视为目标语言短语的正确语义表示, 有监督地优化目标语言短语的分布式表示 r t = argmin 1 2 f r t r s 2 源语言短语向量表示 r s 目标语言短语向量表示 r t 法国和俄罗斯 France and Russia 72

73 基于语义向量空间的短语表示 协同训练 : 第三步收敛检测, 若误差小于阈值或者迭代次数超过预设值, 则训练结束 r s = argmin 1 2 f r s r t 2 r t = argmin 1 2 f r t r s 2 源语言短语向量表示 r s 目标语言短语向量表示 r t 法国和俄罗斯 France and Russia 73

74 基于语义向量空间的短语表示 相似短语 : 相似短语 : 相似短语 : do not agree will definitely reject will never accept abstract meaning real meaning intrinsic logic what is your opinion what do you think about how do you view those 74

75 基于语义向量空间的翻译置信度估计 ( 少数国家之一, the few countries) p t s, p s t r t = f r t r s = f r s 源语言短语向量表示 r s 目标语言短语向量表示 r t 少数国家之一 the few countries p t s = sim r t, r t p t s = sim r t, r s

76 基于语义向量空间的翻译置信度估计 汉语 - 英语 :210 万训练数据 System NIST03 NIST04 NIST05 NIST06 NIST08 ALL MEBTG feats 50-dim (0.62 ) (0.73 ) (0.66 ) (1.70 ) (1.42 ) (1.02 ) +2feats 100-dim (0.64 ) (0.53 ) (0.89 ) (1.59 ) (1.40 ) (1.21 ) +2feats 200-dim (0.53 ) (0.44 ) (1.09 ) (1.04 ) (0.67 ) (0.80 ) [Zhang et al., ACL-2014] 76

77 基于短语的统计机器翻译 T = argmaxp T S T = argmaxp T, S K 1 S T,S 1 K argmax P S K 1 S P T K 1 S K K 1, S P T 1 T K 1, S K K 1, S P T T 1, T K 1, S K 1, S T,S K 1,T K 1,TK 1 剩下的三个核心模型 : 1. 短语翻译模型 : P T 1 K S 1 K, S 2. 短语调序模型 : P T 1 K T 1 K, S 1 K, S 3. 目标语言模型 : P T T 1 K, T 1 K, S 1 K, S 77

78 最大熵短语调序模型 ( 与北韩, with North Korea) ( 有邦交, have the diplomatic relations) 特征提取 f0= 与, f1= 北韩, f2= 有, f3= 邦交, f4=with, f5=korea, f6=have, f7=relations 最大熵模型 Swap 问题 1: 信息利用率低, 仅利用短语的边界词 问题 2: 数据稀疏问题严重 78

79 基于语义向量空间的短语调序模型 ( 与北韩, with North Korea) ( 有邦交, have the diplomatic relations) Mono Swap 问题 1: 短语表示学习 问题 2: 训练目标函数 P o X c1, X c2, X e1, X e2 = exp f o, X c1, X c2, X e1, X e2 exp f o, X c1, X c2, X e1, X e2 o f o, X c1, X c2, X e1, X e2 = f W o X c1, X c2, X e1, X e2 + b o 79

80 基于语义向量空间的短语表示 问题 1: 基于递归自动编码器的短语表示学习 E total = E Rec_node node RAE RAE RAE 法国 和 俄罗斯 的 80

81 基于语义向量空间的短语调序模型 ( 与北韩, with North Korea) ( 有邦交, have the diplomatic relations) Mono Swap 81

82 基于语义向量空间的短语调序模型 问题 2 : 训练目标函数 S = s = o, X c1, X c2, X e1, X e2 J = αe rec S; θ + 1 α E reo S; θ + R θ X c1 重构误差 调序误差 E rec = E rec_node c 1, c 2 ; θ node X c1 E rec_node c 1, c 2 ; θ = 1 2 c 1, c 2 c 1, c 2 2 正则化项 82

83 基于语义向量空间的短语调序模型 问题 2 : 训练目标函数 S = s = o, X c1, X c2, X e1, X e2 J = αe rec S; θ + 1 α E reo S; θ + R θ 重构误差 调序误差 E reo s; θ = d o o log P o o X c1, X c2, X e1, X e2 正则化项 d o = 0,1 83

84 基于语义向量空间的短语调序模型 短语表示的效果 84

85 基于语义向量空间的短语调序模型 汉语 - 英语 :123 万双语训练数据 Setting NIST06 NIST08 maxent neural [Li et al., EMNLP-2013; COLING-2014] 85

86 联合翻译模型与语言模型 原文 : 我就取钱给了她们 短语划分 : 我就取钱给了她们 翻译 : I will draw the money to them 短语调序 : I will draw the money to them P the P the 取钱给了, draw the money to 选择某个译文单词的概率仅取决于局部短语翻译规则, 以及已生成的译文! 86

87 联合翻译模型与语言模型 P e i P e i e 1 e i 1, f P e i e i 3 e i 1, f j c f j f j+c 87

88 联合翻译模型与语言模型 Input Window Text Lookup Table I will get 就取钱给了 上下文 目标语言 4-gram 源语言中心词左右 5 个词 Linear concatenate 词向量 (192 维 ) Tanh 两个隐藏层 (512 维 ) Linear 输出层 softmax Softmax Prob P e i e i 3 e i 1, f j c f j f j+c 88

89 联合翻译模型与语言模型 汉语 - 英语 : NIST-2012 受限评测 [Devlin et al., ACL-2014] 89

90 句子表示学习在统计机器翻译中的应用 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 this not only prevents dangerous people 90

91 三个问题 Q1: 我们为什么要学习整个句子的语义表示? 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 Q2: 如何学习句子的语义表示? this not only prevents dangerous people Q3: 如何将句子的语义表示融入统计翻译模型? 91

92 三个问题 Q1: 我们为什么要学习整个句子的语义表示? 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 Q2: 如何学习句子的语义表示? this not only prevents dangerous people Q3: 如何将句子的语义表示融入统计翻译模型? 92

93 句子表示的必要性 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 this not only prevents dangerous molecule, but also prevents those illegal immigrants from entering Japan 93

94 句子表示的必要性 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 this not only prevents dangerous molecule, but also prevents those illegal immigrants from entering Japan 94

95 三个问题 Q1: 我们为什么要学习整个句子的语义表示? 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 Q2: 如何学习句子的语义表示? this not only prevents dangerous people Q3: 如何将句子的语义表示融入统计翻译模型? 95

96 变长句子 e 句子表示学习 - 卷积神经网络 k 卷积 L 最大池化 定长输出 O e L 96

97 sentence f sentence e 双语约束的卷积神经网络 Shared Space O f O e 97

98 sentence f sentence e 基于语块的卷积神经网络 Shared Space O f O e 98

99 sentence f sentence e 最大间隔训练 Shared Space O f O e dis f, e, Θ 99

100 sentence f sentence e* 最大间隔训练 Shared Space O f O e dis f, e, Θ 100

101 最大间隔训练 j f, e, e, Θ = max 0, 1 + dis f, e, Θ dis f, e, Θ 101

102 三个问题 Q1: 我们为什么要学习整个句子的语义表示? 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 Q2: 如何学习句子的语义表示? this not only prevents dangerous people Q3: 如何将句子的语义表示融入统计翻译模型? 102

103 基线系统 P e i P e i e 1 e i 1, f P e i e i 3 e i 1, f j c f j f j+c 103

104 卷积神经网络 - 统计机器翻译 P e i P e i e i 3 e i 1, f j c f j f j+c P e i e i 3 e i 1, f j c f j f j+c, f 输出 p(target word local and global information) 第二隐藏层 h 2 第一隐藏层 h 1 源端 / 目标端局部上下文 全局句子的语义向量表示 输入 = 局部 + 全局 104

105 融入统计机器翻译 系统 : 层次短语翻译系统 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 this not only prevents dangerous molecule, but also prevents those illegal immigrants from entering Japan X = 不安全的, dangerous X = X 0 分子,X 0 molecule 105

106 融入统计机器翻译 系统 : 层次短语翻译系统 X 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 X this not only prevents dangerous molecule, but also prevents those illegal immigrants from entering Japan X = 不安全的, dangerous 106

107 融入统计机器翻译 系统 : 层次短语翻译系统 X X 这样不仅防止不安全的分子, 也是防止那些非法移民进入日本 X X this not only prevents dangerous molecule, but also prevents those illegal immigrants from entering Japan X = 不安全的, dangerous X = X 0 分子,X 0 molecule Log-linear Model: X = 不安全的分子, dangerous molecule P e i e i 3 e i 1, f j c f j f j+c 正向反向概率 正向反向词汇化概率 目前语言模型特征 规则数目和译文长度特征 神经网络翻译概率 107

108 sentence e 网络参数 k = 192 h = 3 L = 100 one dropout, two linear layers o = 192 Chunk = 1, 2, 4, 8 P e i P e i e i 3 e i 1, f j c f j f j+c, f k = 512 k = 512 source/target local context global sentence representation 108

109 句子表示在统计机器翻译中的效果 汉语 - 英语 :210 万双语训练数据 [Zhang et al., IJCAI-2015] 109

110 统计机器翻译 M T = argmaxp T S T = argmax T 1 λ m h m T, S h 1 T, S h 2 T, S h 3 T, S h 4 T, S = log p t s = log p s t = log p lex t s = log p lex s t h 5 T, S K = log P T 1 T K 1, S K 1, S h 6 T, S K = log P T T 1, T K 1, S K 1, S h 7 T, S = log len T h 8 T, S = log count phrases = log K 110

111 统计机器翻译 M T = argmaxp T S T = argmax T 1 λ m h m T, S h 1 h 2 W f w (x)=wh h 8 111

112 非线性统计机器翻译 M T = argmaxp T S T = argmax T 1 λ m h m T, S h 1 h 2 W f w (x)=f(wh) h 8 112

113 非线性统计机器翻译 M T = argmaxp T S T = argmax T 1 λ m h m T, S h 1 h 2 f w (x) Layer L 4 h 8 Layer L 1 Layer L 2 Layer L 113

114 非线性统计机器翻译 汉语 - 英语 :820 万双语训练数据 [Huang et al., ACL-2015] 114

115 参考文献 1. Yoshua Bengio, Rejean Ducharme, Pascal Vincent and Christian Jauvin. A neural probabilistic language model. Journal of Machine Learning Research, 3: David Chiang. Hierarchical phrase-based translation. Computational Linguistics, Jacob Devlin, Rabih Zbib, Zhongqiang Huang, Thomas Lamar, Richard Schwartz, and John Makhoul. Fast and robust neural network joint models for statistical machine translation. In Proc. of ACL Jianfeng Gao, Xiaodong He, Yih Wen-tao and Li Deng. Learning continuous phrase representations for translation modeling. In Proc. of ACL Philipp Koehn, Hieu Hoang, Alexandra Birch, Chris Callison-Burch, Marcello Federico, Nicola Bertoldi, Brooke Cowan, Wade Shen, Christine Moran, Richard Zens, et al. Moses: Open source toolkit for statistical machine translation. In Proc. of ACL Peng Li, Yang Liu, and Maosong Sun. Recursive autoencoders for itg-based translation. In Proc. of EMNLP Peng Li, Yang Liu, Maosong Sun, Tatsuya Izuha and Dakun Zhang. A neural reordering model for phrase-based translation. In Proc. of COLING Fandong Meng, Zhengdong Lu, Mingxuan Wang, Hang Li, Wenbiing Jiang and Qun Liu. Encoding source language with convolutional neural network for machine translation. In Proc. of ACL Franz Josef Och and Hermann Ney. Discriminative training and maximum entropy models for statistical machine translation. In Proc. of ACL Shujian Huang, Huadong Chen, Xinyu Dai and Jiajun Chen. Non-linear Learning for Statistical Machine Translation. In Proc. of ACL

116 参考文献 11. Jinsong Su, Deyi Xiong, Biao Zhang, Yang Liu, Junfeng Yao and Min Zhang. Bilingual Correspondence Recursive Autoencoder for Statistical Machine Translation. In Proc. of EMNLP Akihiro Tamura, Taro Watanabe and Eiichiro Sumita. Recurrent neural networks for word alignment model. In Proc. of ACL Ashish Vaswani, Yinggong Zhao, Victoria Fossum and David Chiang. Decoding with large-scale neural language models improves translation. In Proc. of EMNLP Deyi Xiong, Qun Liu and Shouxun Lin. Maximum entropy based phrase reordering model for statistical machine translation. In Proc. of ACL Nan Yang, Shujie Liu, Mu Li, Ming Zhou and Nenghai Yu. Word alignment modeling with context dependent deep neural network. In Proc. of ACL Jiajun Zhang, Shujie Liu, Mu Li, Ming Zhou and Chengqing Zong. Bilingually-constrained phrase embeddings for machine translation. In Proc. of ACL Jiajun Zhang, Dakun Zhang and Jie Hao. Local Translation Prediction with Global Sentence Representation. In Proc. of IJCAI Jiajun Zhang and Chengqing Zong. Deep Neural Networks in Machine Translation: an Overview. IEEE Intelligent Systems Will Y Zou, Richard Socher, Daniel Cer and Christopher D Manning. Bilingual word embeddings for phrase-based machine translation. In Proc. of EMNLP

117 开源工具 1, Google Word2Vec, 2, NPLM, 前馈神经网络, 便于在统计机器翻译中应用前馈神经网络语言模型, 3, RWTHLM, 前馈和循环神经网络, 便于在统计机器翻译中应用循环神经网络语言模型, 117

118 谢谢! Q&A

PowerPoint 演示文稿

PowerPoint 演示文稿 自然语言处理中的深度学习 从词语表示到句子表示 张家俊中国科学院自动化研究所 www.nlpr.ia.ac.cn/cip/jjzhang.htm jjzhang@nlpr.ia.ac.cn 自然语言处理 - 搜索引擎 2 自然语言处理 - 机器翻译 3 自然语言处理 - 自动摘要 4 自然语言处理 - 主题分析 5 自然语言处理 - 文本分类 6 自然语言处理 - 问答聊天 7 研究任务 - 词法分析

More information

博士论文答辩报告.ppt

博士论文答辩报告.ppt 博士论文答辩报告 树到串统计翻译模型研究 答辩人 : 刘洋 指导教师 : 林守勋研究员 时间 :2007 年 6 月 16 日 提纲 引言 词语对齐的对数线性模型 树到串统计翻译模型 模型 1 模型 2 模型 3 实验 总结 MT Strategies (1954-2004) Knowledge Acquisition Strategy All manual Electronic dictionaries

More information

基于矩阵分解和矩阵变换的多义词向量研究

基于矩阵分解和矩阵变换的多义词向量研究 hyshi@pku.edu.cn 2018 6 9 Content 1 PCA VS. RPCA 2 2 3 [1] star s1 star s2 star s3 algorithm s1 algorithm s2 stars, movie, song, MVP stars, award, eagle, two-time supergiant, constellation, aurigae hash,

More information

幻灯片 1

幻灯片 1 基于 n-gram 相似度的开发集选择 郑达奇涂兆鹏姜文斌米海涛刘洋刘群 {zhengdaqi, tuzhaopeng, jiangwenbin, htmi, yliu, liuqun}@ict.ac.cn 自然语言处理实验室中国科学院计算技术研究所 概要 领域自适应 概要 领域自适应 训练集选择 ( 调权 / Weighting) 更好的翻译规则 概要 领域自适应 训练集选择 ( 调权 / Weighting)

More information

<4D6963726F736F667420576F7264202D20B8BDBCFE3220BDCCD3FDB2BFD6D8B5E3CAB5D1E9CAD2C4EAB6C8BFBCBACBB1A8B8E6A3A8C4A3B0E5A3A92E646F6378>

<4D6963726F736F667420576F7264202D20B8BDBCFE3220BDCCD3FDB2BFD6D8B5E3CAB5D1E9CAD2C4EAB6C8BFBCBACBB1A8B8E6A3A8C4A3B0E5A3A92E646F6378> 批 准 立 项 年 份 2007 通 过 验 收 年 份 2013 教 育 部 重 点 实 验 室 年 度 报 告 ( 2015 年 1 月 2015 年 12 月 ) 实 验 室 名 称 : 机 器 智 能 与 先 进 计 算 教 育 部 重 点 实 验 室 实 验 室 主 任 : 张 军 实 验 室 联 系 人 / 联 系 电 电 : 詹 志 辉 /13826089486 E-mail 地 址

More information

<D2BDC1C6BDA1BFB5CDB6C8DAD7CAB8DFB7E5C2DBCCB3B2CEBBE1C3FBB5A52E786C7378>

<D2BDC1C6BDA1BFB5CDB6C8DAD7CAB8DFB7E5C2DBCCB3B2CEBBE1C3FBB5A52E786C7378> 参 会 人 员 名 单 Last Name 姓 名 公 司 Tel Fax Bai 柏 煜 康 复 之 家 8610 8761 4189 8610 8761 4189 Bai 白 威 久 禧 道 和 股 权 投 资 管 理 ( 天 津 ) 有 限 公 司 8610 6506 7108 8610 6506 7108 Bao 包 景 明 通 用 技 术 集 团 投 资 管 理 有 限 公 司 8610

More information

54 48 6-7 word2vec 8-10 GloVe 11 Word2vec X king - X man X queen - X woman Recurrent Neural Network X shirt - X clothing X chair - X furniture 2 n-gra

54 48 6-7 word2vec 8-10 GloVe 11 Word2vec X king - X man X queen - X woman Recurrent Neural Network X shirt - X clothing X chair - X furniture 2 n-gra Journal of South China Normal University Natural Science Edition 2016 48 3 53-58 doi 106054 /jjscnun201605006 1 2* 2 3 2 1 510631 2 3 510225 Glove TP3911 A 1000-5463 2016 03-0053-06 Research on Academic

More information

双 语 教 学 之 中 综 上 所 述, 科 大 讯 飞 畅 言 交 互 式 多 媒 体 教 学 系 统, 围 绕 语 音 核 心 技 术 的 研 究 与 创 新, 取 得 了 一 系 列 自 主 产 权 并 达 到 国 际 领 先 水 平 的 技 术 成 果, 同 时 获 得 发 明 专 利 3

双 语 教 学 之 中 综 上 所 述, 科 大 讯 飞 畅 言 交 互 式 多 媒 体 教 学 系 统, 围 绕 语 音 核 心 技 术 的 研 究 与 创 新, 取 得 了 一 系 列 自 主 产 权 并 达 到 国 际 领 先 水 平 的 技 术 成 果, 同 时 获 得 发 明 专 利 3 博 士 后 制 度 实 施 30 周 年 成 果 展 科 大 讯 飞 股 份 有 限 公 司 二 博 士 后 科 研 成 就 胡 国 平 博 士 在 博 士 后 工 作 站 期 间 承 担 的 项 目 为 畅 言 交 互 式 多 媒 体 教 学 系 统 畅 言 交 互 式 多 媒 体 教 学 系 统 是 基 于 科 大 讯 飞 国 际 领 先 的 中 英 文 合 成 识 别 及 自 动 口 语 评

More information

Mixtions Pin Yin Homepage

Mixtions Pin Yin Homepage an tai yin 安 胎 饮 775 ba wei dai xia fang 八 味 带 下 方 756 ba zhen tang 八 珍 汤 600 ba zheng san 八 正 散 601 bai he gu jin tang 百 合 固 金 汤 680 bai hu jia ren shen tang 白 虎 加 人 参 汤 755 bai hu tang 白 虎 汤 660 bai

More information

* CUSUM EWMA PCA TS79 A DOI /j. issn X Incipient Fault Detection in Papermaking Wa

* CUSUM EWMA PCA TS79 A DOI /j. issn X Incipient Fault Detection in Papermaking Wa 2 *. 20037 2. 50640 CUSUM EWMA PCA TS79 A DOI 0. 980 /j. issn. 0254-508X. 207. 08. 004 Incipient Fault Detection in Papermaking Wastewater Treatment Processes WANG Ling-song MA Pu-fan YE Feng-ying XIONG

More information

第一章

第一章 6.1 1. N-gram 2. 3. 4. 60 6.2 4.114.13 4.124.14 Rong Jin[7] TF*IDF - SARS SARS SARS SARS 61 62 [1] Michele Banko, Vibhu O. Mittal, and Michael J. Witbrock. 2000. Headline Generation Based on Statistical

More information

Stock Transfer Service Inc. Page No. 1 CENTURY PEAK METALS HOLDINGS CORPORATION (CPM) List of Top 100 Stockholders As of 12/31/2015 Rank Sth. No. Name

Stock Transfer Service Inc. Page No. 1 CENTURY PEAK METALS HOLDINGS CORPORATION (CPM) List of Top 100 Stockholders As of 12/31/2015 Rank Sth. No. Name Stock Transfer Service Inc. Page No. 1 CENTURY PEAK METALS HOLDINGS CORPORATION (CPM) List of Top 100 Stockholders As of 12/31/2015 Rank Sth. No. Name Citizenship Holdings Rank ------------------------------------------------------------------------------------------------------------------------

More information

acl2017_linguistically-regularized-lstm-MinlieHuang

acl2017_linguistically-regularized-lstm-MinlieHuang ACL 2017 Linguistically Regularized LSTM for Sentiment Classification Qiao Qian, Minlie Huang, Jinhao Lei, Xiaoyan Zhu Dept. of Computer Science Tsinghua University 1 aihuang@tsinghua.edu.cn Outline Introduction

More information

Dan Buettner / /

Dan Buettner / / 39 1 2015 1 Vol. 39 No. 1 January 2015 74 Population Research 80 + /60 + 90 + 90 + 0 80 100028 Measuring and Comparing Population Longevity Level across the Regions of the World Lin Bao Abstract Appropriate

More information

240 ( )

240 ( ) BIBLID 1026-5279 (2007) 96:2 p. 239-252252 (2007.12) 239 國家圖書館館刊 九十六年索引 ( 一 ) 中文 96 1 2007.6 87-122 96 1 2007.6 41-86 綉 綉 96 1 2007.6 1-39 96 2 2007.12 91-159 96 1 2007.6 96 1 2007.6 41-86 96 2 2007.12

More information

北京大学学报 ( 自然科学版 ) 图 1 使用短语对完成解码过程 ( 虚线框中是未生成的短语 对 ) Fig. 1 Decoding with using phrase pairs (phrase pair in dashed rectangle is not generated) 进行拼装, 完成

北京大学学报 ( 自然科学版 ) 图 1 使用短语对完成解码过程 ( 虚线框中是未生成的短语 对 ) Fig. 1 Decoding with using phrase pairs (phrase pair in dashed rectangle is not generated) 进行拼装, 完成 http://www.cnki.net/kcms/detail/11.2442.n.20150929.1436.010.html 北京大学学报 ( 自然科学版 ) Acta Scientiarum Naturalium Universitatis Pekinensis doi: 10.13209/j.0479-8023.2016.007 李强 1, 李沐 2 张冬冬 2 朱靖波 1 1. 东北大学自然语言处理实验室,

More information

3 Why would Chen risk ending the recent dance of détente between Taipei and Beijing a dance he has helped choreograph? Political analysts say Chen in

3 Why would Chen risk ending the recent dance of détente between Taipei and Beijing a dance he has helped choreograph? Political analysts say Chen in ) 1 8 3 http://www.president.gov.tw/php-bin/shownews.php4. 2. 2002 8 3 2002 7 21 91 7 22 20027 29 7 21 91 7 31 1 3 Why would Chen risk ending the recent dance of détente between Taipei and Beijing a dance

More information

一般社団法人電子情報通信学会 信学技報 THE INSTITUTE OF ELECTRONICS, IEICE Technical Report INFORMATION THE INSTITUTE OF AND ELECTRONICS, COMMUNICATION ENGINEERS IEICE L

一般社団法人電子情報通信学会 信学技報 THE INSTITUTE OF ELECTRONICS, IEICE Technical Report INFORMATION THE INSTITUTE OF AND ELECTRONICS, COMMUNICATION ENGINEERS IEICE L 一般社団法人電子情報通信学会 信学技報 THE INSTITUTE OF ELECTRONICS, IEICE Technical Report INFORMATION THE INSTITUTE OF AND ELECTRONICS, COMMUNICATION ENGINEERS IEICE LOIS2016-85(2017-03) Technical Report INFORMATION AND

More information

, CAS-IA CMU Speech Trans, English-Japanese Speech-to-speech translation, S2S Spoken language translation, SLT Spoken dialogue t

, CAS-IA CMU Speech Trans, English-Japanese Speech-to-speech translation, S2S Spoken language translation, SLT Spoken dialogue t ( 11) cqzong@nlpr.ia.ac.cn http://www.nlpr.ia.ac.cn/english/cip/cqzong.htm No.95, Zhongguancun East Road Beijing 100080, China http://www.ia.ac.cn Tel. No.: +86-10-6255 4263 , CAS-IA 2004-5-19 2 11.1 1989

More information

2 GOLD ELITE AUTUMN GOLD ELITE AUTUMN 3 主 编 寄 语 2013 / 第 一 期 G O L D E L I T E 银 行 黄 金 文 化 读 本 中 国 工 商 银 行 贵 金 属 & 21 世 纪 传 媒 联 合 出 品 东 风 之 手 SPONSOR

2 GOLD ELITE AUTUMN GOLD ELITE AUTUMN 3 主 编 寄 语 2013 / 第 一 期 G O L D E L I T E 银 行 黄 金 文 化 读 本 中 国 工 商 银 行 贵 金 属 & 21 世 纪 传 媒 联 合 出 品 东 风 之 手 SPONSOR GOLD ELITE AUTUMN 1 G O L D E L I T E 银 行 黄 金 文 化 读 本 2013 / 第 一 期 2 GOLD ELITE AUTUMN GOLD ELITE AUTUMN 3 主 编 寄 语 2013 / 第 一 期 G O L D E L I T E 银 行 黄 金 文 化 读 本 中 国 工 商 银 行 贵 金 属 & 21 世 纪 传 媒 联 合 出 品

More information

ssdts-AMTA-poster.key

ssdts-AMTA-poster.key Statistical Syntax-Directed Translation with Extended Domain of Locality Liang Huang (Penn), Kevin Knight (ISI), Aravind Joshi (Penn) AMTA 2006, Boston, MA Syntax-Directed Translation How do we human-beings

More information

徐汇教育214/3月刊 重 点 关 注 高中生异性交往的小团体辅导 及效果研究 颜静红 摘 要 采用人际关系综合诊断量表 郑日昌编制并 与同性交往所不能带来的好处 带来稳定感和安全感 能 修订 对我校高一学生进行问卷测量 实验组前后测 在 够度过更快乐的时光 获得与别人友好相处的经验 宽容 量表总分和第 4 项因子分 异性交往困扰 上均有显著差 大度和理解力得到发展 得到掌握社会技术的机会 得到 异

More information

中国媒体发展研究报告

中国媒体发展研究报告 中 国 媒 体 发 展 研 究 报 告 (2005 年 卷 ) 武 汉 大 学 媒 体 发 展 研 究 中 心 武 汉 大 学 新 闻 与 传 播 学 院 武 汉 大 学 新 闻 传 播 与 媒 介 化 社 会 创 新 基 地 主 办 编 委 会 成 员 主 编 罗 以 澄 张 金 海 单 波 执 行 主 编 张 金 海 强 月 新 编 委 ( 以 姓 氏 笔 画 为 序 ) 王 松 茂 石 义 彬

More information

课程12-7.FIT)

课程12-7.FIT) 这 是 一 件 真 实 而 又 引 人 深 思 的 小 事 不 久 前, 一 位 法 国 教 育 心 理 学 专 家, 给 法 国 的 小 学 生 和 上 海 的 小 学 生 先 后 出 了 下 面 这 道 完 全 一 样 的 测 试 题 : 一 艘 船 上 有 86 头 牛,34 只 羊, 问 : 这 艘 船 的 船 长 年 纪 有 多 大? 法 国 小 学 生 的 回 答 情 况 是, 超 过

More information

United Nations ~ ~ % 2010

United Nations ~ ~ % 2010 42 3 2018 5 Vol. 42 No. 3 May 2018 38 Population Research 2014 60 3% ~ 4% 10% 60 +

More information

管 理 论 道 创 新 内 部 审 计 工 作 的 实 践 和 思 考 党 建 征 文 紧 跟 改 革 步 伐 勇 担 发 展 责 任 心 情 随 笔 那 些 年 和 字 母 恋 爱 的 美 好 时 光 SHENZHEN INVESTMENT HOLDINGS 深 圳 投 控 危 废 处 理 行 业 任 重 道 远 两 会 聚 焦 国 企 改 革 刘 仲 健 : 与 兰 为 伴, 创 新 不 止 深

More information

标题

标题 第 19 卷 摇 第 4 期 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 模 式 识 别 与 人 工 智 能 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 Vol. 19 摇 No. 4 摇 006 年 8 月 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 PR & AI 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 Aug 摇 摇

More information

DELE_MAYO2013.xls

DELE_MAYO2013.xls PARTE ESCRITA PARTE ORAL NIVEL CÓDIGO APELLIDO NOMBRE FECHA HORA AULA FECHA Hora Prep Hora Ex AULA 13050315601020001 NI HUANMENG 25-may 13050315601020002 GUO YUANCHUN 25-may 13050315601020004 XU AI 25-may

More information

Vol. 36 ( 2016 ) No. 6 J. of Math. (PRC) HS, (, ) :. HS,. HS. : ; HS ; ; Nesterov MR(2010) : 90C05; 65K05 : O221.1 : A : (2016)

Vol. 36 ( 2016 ) No. 6 J. of Math. (PRC) HS, (, ) :. HS,. HS. : ; HS ; ; Nesterov MR(2010) : 90C05; 65K05 : O221.1 : A : (2016) Vol. 36 ( 6 ) No. 6 J. of Math. (PRC) HS, (, 454) :. HS,. HS. : ; HS ; ; Nesterov MR() : 9C5; 65K5 : O. : A : 55-7797(6)6-9-8 ū R n, A R m n (m n), b R m, b = Aū. ū,,., ( ), l ū min u s.t. Au = b, (.)

More information

Myers Majluf 1984 Lu Putnam R&D R&D R&D R&D

Myers Majluf 1984 Lu Putnam R&D R&D R&D R&D 2018 1 156 1 2 2 1. 233030 2. 233030 2005 ~ 2015 A F830. 2 A 1008-2506 2018 01-0015-12 1 2015 1 2017-07-18 71540004 BBSLDQDKT2017B02 1990-1993 - 1964-1 15 2018 1 2025 2015 1 2011 2 + Myers Majluf 1984

More information

We are now living happily. We are now living a happy life. He is very healthy. He is in good health. I am sure that he will succeed. I am sure of his success. I am busy now. I am not free now. May I borrow

More information

Lorem ipsum dolor sit amet, consectetuer adipiscing elit

Lorem ipsum dolor sit amet, consectetuer adipiscing elit English for Study in Australia 留 学 澳 洲 英 语 讲 座 Lesson 3: Make yourself at home 第 三 课 : 宾 至 如 归 L1 Male: 各 位 朋 友 好, 欢 迎 您 收 听 留 学 澳 洲 英 语 讲 座 节 目, 我 是 澳 大 利 亚 澳 洲 广 播 电 台 的 节 目 主 持 人 陈 昊 L1 Female: 各 位

More information

Microsoft Word - 专论综述1.doc

Microsoft Word - 专论综述1.doc 1 基 于 协 同 过 滤 的 高 考 志 愿 推 荐 系 统 徐 兰 静, 李 珊, 严 钊 ( 南 京 航 空 航 天 大 学 经 济 与 管 理 学 院, 南 京 211100) 摘 要 : 近 年 来 信 息 过 载 问 题 的 出 现 使 得 个 性 化 推 荐 技 术 应 运 而 生, 其 中 协 同 过 滤 推 荐 技 术 通 过 在 用 户 和 信 息 之 间 建 立 联 系, 被

More information

A Community Guide to Environmental Health

A Community Guide to Environmental Health 102 7 建 造 厕 所 本 章 内 容 宣 传 推 广 卫 生 设 施 104 人 们 需 要 什 么 样 的 厕 所 105 规 划 厕 所 106 男 女 对 厕 所 的 不 同 需 求 108 活 动 : 给 妇 女 带 来 方 便 110 让 厕 所 更 便 于 使 用 111 儿 童 厕 所 112 应 急 厕 所 113 城 镇 公 共 卫 生 设 施 114 故 事 : 城 市 社

More information

2-7.FIT)

2-7.FIT) 文 化 园 地 8 2009 年 8 月 18 日 星 期 二 E-mail:liuliyuan@qunlitimes.com 群 立 文 化 感 受 今 天 你 开 心 了 吗? 周 传 喜 群 雄 争 立 竞 争 意 识 ; 傲 立 群 雄 奋 斗 目 标, 这 几 句 话 一 直 是 群 立 的 文 化 和 方 针, 也 同 样 是 我 很 喜 欢 的 座 右 铭 我 想 这 几 句 话 生

More information

的 真 正 的 短 语 该 模 型 的 基 本 思 想 是 : 在 训 练 阶 段 从 大 量 双 语 句 子 对 齐 的 平 行 语 料 中 抽 取 短 语 到 短 语 的 翻 译 规 则, 在 翻 译 时 将 源 语 言 句 子 切 分 为 短 语 序 列, 利 用 翻 译 规 则 得 到 目

的 真 正 的 短 语 该 模 型 的 基 本 思 想 是 : 在 训 练 阶 段 从 大 量 双 语 句 子 对 齐 的 平 行 语 料 中 抽 取 短 语 到 短 语 的 翻 译 规 则, 在 翻 译 时 将 源 语 言 句 子 切 分 为 短 语 序 列, 利 用 翻 译 规 则 得 到 目 机 器 翻 译 研 究 最 新 进 展 及 其 应 用 张 家 俊 宗 成 庆 中 国 科 学 院 自 动 化 研 究 所 模 式 识 别 国 家 重 点 实 验 室 机 器 翻 译 是 指 利 用 计 算 机 技 术 自 动 地 将 一 种 自 然 语 言 ( 通 常 称 作 源 语 言, 譬 如 汉 语 ) 翻 译 成 另 一 种 自 然 语 言 ( 通 常 称 作 目 标 语 言, 譬 如 英

More information

(2008) 主 张 教 师 在 课 文 教 学 中 应 让 学 生 有 意 识 地 注 意 语 块, 并 指 出 语 块 教 学 对 大 学 生 的 英 语 写 作 能 力 有 着 重 要 的 意 义 于 秀 莲 (2008) 以 大 学 生 为 受 试 对 象, 在 对 不 同 学 生 分 别

(2008) 主 张 教 师 在 课 文 教 学 中 应 让 学 生 有 意 识 地 注 意 语 块, 并 指 出 语 块 教 学 对 大 学 生 的 英 语 写 作 能 力 有 着 重 要 的 意 义 于 秀 莲 (2008) 以 大 学 生 为 受 试 对 象, 在 对 不 同 学 生 分 别 第 17 卷 第 1 期 2015 年 2 月 基 础 英 语 教 育 Journal of Basic English Education Vol. 17, No. 1 Feb., 2015 结 合 语 块 教 学 提 高 中 下 水 平 学 生 写 作 能 力 的 研 究 曾 燕 文 摘 要 : 随 着 广 东 高 考 英 语 写 作 比 重 的 增 加, 如 何 提 高 中 下 水 平 学 生

More information

目 党 建 研 究 录 059 提 高 党 执 成 效 : 探 索 挑 战 与 策 纪 强 治 与 法 研 究 065 土 地 换 保 障 : 总 体 现 状 及 区 域 差 异 ( ) 张 新 文 杜 春 林 071 审 法 官 责 任 制 论 逻 辑 与 制 度 设 计 石 东

目 党 建 研 究 录 059 提 高 党 执 成 效 : 探 索 挑 战 与 策 纪 强 治 与 法 研 究 065 土 地 换 保 障 : 总 体 现 状 及 区 域 差 异 ( ) 张 新 文 杜 春 林 071 审 法 官 责 任 制 论 逻 辑 与 制 度 设 计 石 东 目 录 纪 念 邓 小 平 诞 辰 110 周 年 005 邓 小 平 扶 贫 开 发 贡 献 文 建 龙 011 邓 小 平 解 决 领 土 问 题 战 略 思 考 及 当 代 价 值 刘 海 潮 哲 研 究 017 自 由 与 制 度 : 马 克 思 解 释 历 史 二 维 向 度 赵 峰 022 麦 克 斯 阿 德 勒 马 克 思 哲 观 探 析 孟 飞 026 近 年 来 历 史 虚 无 思

More information

PCA+LDA 14 1 PEN mL mL mL 16 DJX-AB DJ X AB DJ2 -YS % PEN

PCA+LDA 14 1 PEN mL mL mL 16 DJX-AB DJ X AB DJ2 -YS % PEN 21 11 2011 11 COMPUTER TECHNOLOGY AND DEVELOPMENT Vol. 21 No. 11 Nov. 2011 510006 PEN3 5 PCA + PCA+LDA 5 5 100% TP301 A 1673-629X 2011 11-0177-05 Application of Electronic Nose in Discrimination of Different

More information

一 29 Latest Global Internet Statistical Information (Vol. 29) CNNIC 2007 07 ( July, 2007) (Table of Contents) GLOBAL INTERNET DEVELOPMENT... 2 1 The Total Number of Internet Users in the World...2 2 The

More information

Microsoft Word - 专论综述1.doc

Microsoft Word - 专论综述1.doc 2016 年 第 25 卷 第 期 http://www.c-s-a.org.cn 计 算 机 系 统 应 用 1 基 于 节 点 融 合 分 层 法 的 电 网 并 行 拓 扑 分 析 王 惠 中 1,2, 赵 燕 魏 1,2, 詹 克 非 1, 朱 宏 毅 1 ( 兰 州 理 工 大 学 电 气 工 程 与 信 息 工 程 学 院, 兰 州 730050) 2 ( 甘 肃 省 工 业 过 程 先

More information

Microsoft Word doc

Microsoft Word doc 中 考 英 语 科 考 试 标 准 及 试 卷 结 构 技 术 指 标 构 想 1 王 后 雄 童 祥 林 ( 华 中 师 范 大 学 考 试 研 究 院, 武 汉,430079, 湖 北 ) 提 要 : 本 文 从 结 构 模 式 内 容 要 素 能 力 要 素 题 型 要 素 难 度 要 素 分 数 要 素 时 限 要 素 等 方 面 细 致 分 析 了 中 考 英 语 科 试 卷 结 构 的

More information

99 學年度班群總介紹 第 370 期 班群總導 陳怡靜 G45 班群總導 陳怡靜(河馬) A 家 惠如 家浩 T 格 宜蓁 小 霖 怡 家 M 璇 均 蓁 雴 家 數學領域 珈玲 國燈 370-2 英領域 Kent

99 學年度班群總介紹 第 370 期 班群總導 陳怡靜 G45 班群總導 陳怡靜(河馬) A 家 惠如 家浩 T 格 宜蓁 小 霖 怡 家 M 璇 均 蓁 雴 家 數學領域 珈玲 國燈 370-2 英領域 Kent 2010 年 8 月 27 日 出 刊 精 緻 教 育 宜 蘭 縣 公 辦 民 營 人 國 民 中 小 學 財 團 法 人 人 適 性 教 育 基 金 會 承 辦 地 址 : 宜 蘭 縣 26141 頭 城 鎮 雅 路 150 號 (03)977-3396 http://www.jwps.ilc.edu.tw 健 康 VS. 學 習 各 位 合 夥 人 其 實 都 知 道, 我 是 個 胖 子, 而

More information

神经机器翻译前沿进展

神经机器翻译前沿进展 第十五届 机器学习及其应用 研讨会 基于深度学习的机器翻译 刘洋清华大学 1 机器翻译 目标 : 利用计算机实现自然语言之间的自动翻译 布什与沙龙举行了会谈 Bush held a talk with Sharon 2 发展历史 发展趋势 : 让计算机更加 自主 地学习如何翻译 规则机器翻译 统计数据驱动神经机器翻译机器翻译机器翻译 1980 1990 1990 2013 3 训练数据 : 平行语料库

More information

CHIPS Oaxaca - Blinder % Sicular et al CASS Becker & Chiswick ~ 2000 Becker & Chiswick 196

CHIPS Oaxaca - Blinder % Sicular et al CASS Becker & Chiswick ~ 2000 Becker & Chiswick 196 2015 3 179 2015 5 Comparative Economic & Social Systems No. 3 2015 May 2015 2001 ~ 2011 F812 A 1003-3947 2015 03-0020-14 Wu & Perloff 2004 Benjamin et al. 2004 Sicular et al. 2007 1998 2003 40% 1985 2.

More information

a b

a b 38 3 2014 5 Vol. 38 No. 3 May 2014 55 Population Research + + 3 100038 A Study on Implementation of Residence Permit System Based on Three Local Cases of Shanghai Chengdu and Zhengzhou Wang Yang Abstract

More information

Your Paper's Title Starts Here: Please Center

Your Paper's Title Starts Here: Please Center International Conference on Advanced Information and Communication Technology for Education (ICAICTE 2014) Analysis about the influence of English Science News to the College English Study of College Students

More information

Score sheet

Score sheet Round: 9 Tbl Home Visiting Home IMP Visiting VP 1 China 32 : 9 15.56 : 4.44 2 ingapore China Hong Kong 22 : 14 12.29 : 7.71 3 ew Zealand 0 Japan 8 : 59 0.75 : 19.25 4 Chinese Taipei 6 : 72 0.00 : 20.00

More information

唐彪《讀書作文譜》述略

唐彪《讀書作文譜》述略 唐 彪 讀 書 作 文 譜 選 析 唐 彪 讀 書 作 文 譜 選 析 * 呂 湘 瑜 龍 華 科 技 大 學 通 識 教 育 中 心 摘 要 唐 彪 乃 清 初 浙 江 名 儒, 其 讀 書 作 文 譜 簡 潔 地 呈 現 了 對 於 讀 書 作 文 以 及 文 學 的 種 種 看 法 其 以 為 無 論 是 讀 書 或 者 作 文, 都 必 須 以 靜 凝 神 為 出 發 點, 先 求 得 放

More information

~ 10 2 P Y i t = my i t W Y i t 1000 PY i t Y t i W Y i t t i m Y i t t i 15 ~ 49 1 Y Y Y 15 ~ j j t j t = j P i t i = 15 P n i t n Y

~ 10 2 P Y i t = my i t W Y i t 1000 PY i t Y t i W Y i t t i m Y i t t i 15 ~ 49 1 Y Y Y 15 ~ j j t j t = j P i t i = 15 P n i t n Y * 35 4 2011 7 Vol. 35 No. 4 July 2011 3 Population Research 1950 ~ 1981 The Estimation Method and Its Application of Cohort Age - specific Fertility Rates Wang Gongzhou Hu Yaoling Abstract Based on the

More information

現代學術之建立 陳平 998 7-3-3592-6 美學十五講 淩繼堯 美學 23 7-3-643-4 論集 徐複觀 書店出版社 的方位 陳寶生 宣傳 敦煌文藝出版社 論集續篇 徐複觀 書店出版社 莊子哲學 王博 道家 7-3-666-3 的天方學 沙宗平 伊斯蘭教 7-3-6844- 周易 經傳十

現代學術之建立 陳平 998 7-3-3592-6 美學十五講 淩繼堯 美學 23 7-3-643-4 論集 徐複觀 書店出版社 的方位 陳寶生 宣傳 敦煌文藝出版社 論集續篇 徐複觀 書店出版社 莊子哲學 王博 道家 7-3-666-3 的天方學 沙宗平 伊斯蘭教 7-3-6844- 周易 經傳十 東西方比較研究 範明生, 陳超南 物流發展報告 物流與採購聯合會 物流發展報告 物流與採購聯合會 物流發展報告 丁俊發 唯物史觀與歷史科學 地理學 社會科學院出版 23 23 物流 研究報告 2 物資出版社 22 7-547-88-5 物流 物資出版社 7-547-22-3 龐卓恒 歷史唯物主義 高等教育出版社 7-4-4333-X 周尚意, 孔翔, 朱竑 地理學 高等教育出版社 7-4-446-

More information

中文模板

中文模板 软 件 学 报 doi: 10.13328/j.cnki.jos.004932 中 文 公 众 事 件 信 息 熵 计 算 方 法 靳 锐 +, 张 宏 莉, 张 玥, 王 星 ( 哈 尔 滨 工 业 大 学 计 算 机 科 学 与 技 术 学 院, 哈 尔 滨 150001) Calculation Method of Chinese Public Event Information Entropy

More information

一 30 Latest Global Internet Statistical Information (Vol. 30) CNNIC 2007 09 (September, 2007) (Table of Contents) GLOBAL INTERNET DEVELOPMENT... 2 1 The Total Number of Hostnames in the World...2 2 Top Ten

More information

85% NCEP CFS 10 CFS CFS BP BP BP ~ 15 d CFS BP r - 1 r CFS 2. 1 CFS 10% 50% 3 d CFS Cli

85% NCEP CFS 10 CFS CFS BP BP BP ~ 15 d CFS BP r - 1 r CFS 2. 1 CFS 10% 50% 3 d CFS Cli 1 2 3 1. 310030 2. 100054 3. 116000 CFS BP doi 10. 13928 /j. cnki. wrahe. 2016. 04. 020 TV697. 1 A 1000-0860 2016 04-0088-05 Abandoned water risk ratio control-based reservoir pre-discharge control method

More information

201411.doc

201411.doc 蔣 經 國 國 際 學 術 交 流 基 金 會 簡 訊 (2014 年 11 月 ) 一 學 術 交 流 1. 本 會 朱 執 行 長 雲 漢 於 一 百 零 三 年 六 月 六 日 至 十 日 與 陳 副 執 行 長 純 一 中 央 研 究 院 近 代 史 研 究 所 副 所 長 張 力 教 授 臺 灣 大 學 數 位 人 文 研 究 中 心 主 任 項 潔 教 授 籌 備 處 林 光 美 主 任

More information

,,.,, : 1),,,,, 2),,,,, 3),,,,,,,,,, [6].,,, ( ),, [9], : 1), 2),,,,, 3),,, 2.,, [10].,,,,,,,,, [11]. 2.1,, [12],, ;, ; Fig. 1 1 Granular hier

,,.,, : 1),,,,, 2),,,,, 3),,,,,,,,,, [6].,,, ( ),, [9], : 1), 2),,,,, 3),,, 2.,, [10].,,,,,,,,, [11]. 2.1,, [12],, ;, ; Fig. 1 1 Granular hier 36 7 Vol. 36, No. 7 2010 7 ACTA AUTOMATICA SINICA July, 2010 1, 2 1, 2, 3 1, 2,,,,,,, DOI,,, 10.3724/SP.J.1004.2010.00923 Distributed Simulation System Hierarchical Design Model Based on Quotient Space

More information

untitled

untitled 19932005 1 1993-2005 The Urban Residential Housing System in Shanghai 1993-2005: the Marketization Process and Housing Affordability Jie Chen, Assistant Professor, Management School of Fudan University,

More information

those four kinds of factors are significantly associated with the intention to institutional care of the elderly without ADL disability. However for t

those four kinds of factors are significantly associated with the intention to institutional care of the elderly without ADL disability. However for t 2014 6 207 POPULATION & ECONOMICS No. 6 2014 Tot. No. 207 100872 Logistic C913. 6 A 1000-4149 2014 06-0022 - 13 DOI 10. 3969 /j. issn. 1000-4149. 2014. 06. 003 A Study on the Factors Associated with Preferences

More information

McGraw-Hill School Education Group Physics : Principles and Problems G S 24

McGraw-Hill School Education Group Physics : Principles and Problems G S 24 2017 4 357 GLOBAL EDUCATION Vol. 46 No4, 2017 * 1 / 400715 / 400715 / 400715 1 2010-2020 2 * mjzxzd1401 2012 AHA120008 1 23 3 4-7 8 9 McGraw-Hill School Education Group Physics : Principles and Problems

More information

国 际 视 野 中 国 立 场 原 创 诉 求 专 业 精 神 读 者 寄 语 Readers of the Message

国 际 视 野 中 国 立 场 原 创 诉 求 专 业 精 神 读 者 寄 语 Readers of the Message 中 国 新 闻 周 刊 2012 年 刊 例 国 际 视 野 中 国 立 场 原 创 诉 求 专 业 精 神 读 者 寄 语 Readers of the Message 中 国 新 闻 周 刊 China Newsweek 中 国 新 闻 社 China News Service 创 刊 于 1999 年 9 月,2000 年 1 月 1 日 正 式 China Newsweek, was first

More information

春 雷 新 雨 看 潮 生 2015 年 计 算 机 系 大 众 创 业 万 众 创 新 校 友 论 坛 创 业 新 锐 奖 颁 奖 孙 茂 松 为 罗 建 北 老 师 颁 发 创 业 伯 乐 奖 杨 士 强 为 本 科 生 超 新 星 工 作 室 颁 发 未 来 创 新 之 星 奖 杨 士 强 为

春 雷 新 雨 看 潮 生 2015 年 计 算 机 系 大 众 创 业 万 众 创 新 校 友 论 坛 创 业 新 锐 奖 颁 奖 孙 茂 松 为 罗 建 北 老 师 颁 发 创 业 伯 乐 奖 杨 士 强 为 本 科 生 超 新 星 工 作 室 颁 发 未 来 创 新 之 星 奖 杨 士 强 为 清 华 大 学 计 算 机 科 学 与 技 术 系 Department of Computer Science and Technology,Tsinghua University 系 友 通 讯 ALUMNI EXPRESS 系 讯 简 报 春 雷 新 雨 看 潮 生 2015 年 计 算 机 系 大 众 创 业 万 众 创 新 校 友 论 坛 举 行 我 系 为 80 岁 老 教 师 举 行

More information

PowerPoint 演示文稿

PowerPoint 演示文稿 多策略的机器翻译 王海峰 2006 年 11 月 21 日 提纲 概述 东芝的机器翻译研究 概况 规则方法 实例方法 统计方法 其它 多种方法的融合 讨论与展望 Page 2 三种主流机器翻译方法 对语言规律良好的概括和描述能力 规则方法 机器翻译产品仍以规则系统为主 仍有不断提高的潜力 (Zhu. 2005) 实例方法 统计方法 对相似句子相当精确的翻译能力 依然活跃 (MT Journal, MT

More information

Y m G C I IMC C II IMC R Y = + C I IMC F f G - G^ + - F f G^ C I IMC D + C I IMC F f G - G^ 9 D() R() C IMC() Ⅱ CIMC() U() Ⅰ G() Y() Y m() - G

Y m G C I IMC C II IMC R Y = + C I IMC F f G - G^ + - F f G^ C I IMC D + C I IMC F f G - G^ 9 D() R() C IMC() Ⅱ CIMC() U() Ⅰ G() Y() Y m() - G 4 ELECTRI C MACHINES AND CONTROL Vol. 4 No. Jan. 2. 22 2. 28 TM 92 A 7-449X - 6- Three-degree-freedom internal model dynamic decoupling control of ynchronou motor ZHU Xi-rong ZHOU Yuan-hen FU Xiao 2. Department

More information

[ 13 年 12 月 06 日, 下 午 6 点 24 分 ] Intel Hosts 新 加 入 的 同 学 们, 快 去 听 听 在 线 宣 讲 会 哦, 同 时 完 成 页 面 下 方 有 奖 调 查, 就 有 资 格 参 与 大 奖 抽 取 啦! [ 13 年 12 月 06 日, 下 午

[ 13 年 12 月 06 日, 下 午 6 点 24 分 ] Intel Hosts 新 加 入 的 同 学 们, 快 去 听 听 在 线 宣 讲 会 哦, 同 时 完 成 页 面 下 方 有 奖 调 查, 就 有 资 格 参 与 大 奖 抽 取 啦! [ 13 年 12 月 06 日, 下 午 China Career Fair: To Know a Different Intel Time Participants Chat Transcript [ 13 年 12 月 06 日, 下 午 6 点 00 分 ] Participant Hi [ 13 年 12 月 06 日, 下 午 6 点 00 分 ] Intel Hosts 大 家 好! [ 13 年 12 月 06 日, 下 午

More information

泰迪杯全国数据挖掘挑战赛 OCR (CNN) OCR() CNN % 92.1% 15% 90%. Viterbi. OCR..,,,,,

泰迪杯全国数据挖掘挑战赛  OCR (CNN) OCR() CNN % 92.1% 15% 90%. Viterbi. OCR..,,,,, 泰迪杯全国数据挖掘挑战赛 www.tipdm.org 第四届 泰迪杯 全国数据挖掘挑战赛 优 秀 作 品 作品名称 : 基于深度学习和语言模型的印刷文字 OCR 系统 荣获奖项 : 特等并获企业冠名奖 作品单位 : 华南师范大学 作品成员 : 苏剑林曾玉婷 泰迪杯全国数据挖掘挑战赛 www.tipdm.org OCR 2016 5 15 (CNN) OCR(). +.... CNN 140 99.7%

More information

并非没有必要的一些宏观思考

并非没有必要的一些宏观思考 第 一 章 引 论 第 一 章 引 论 1.1 课 题 的 提 出 1 本 课 题 的 研 究 工 作 是 尝 试 在 句 法 和 语 义 两 个 层 级 上 归 纳 现 代 汉 语 短 语 结 构 的 组 合 规 则, 解 决 计 算 机 分 析 现 代 汉 语 短 语 时 碰 到 的 结 构 歧 义 问 题 有 别 于 以 往 主 要 是 面 向 人 的 语 法 研 究, 本 课 题 的 研 究

More information

/3 CAD JPG GIS CAD GIS GIS 1 a CAD CAD CAD GIS GIS ArcGIS 9. x 10 1 b 1112 CAD GIS 1 c R2VArcscan CAD MapGIS CAD 1 d CAD U

/3 CAD JPG GIS CAD GIS GIS 1 a CAD CAD CAD GIS GIS ArcGIS 9. x 10 1 b 1112 CAD GIS 1 c R2VArcscan CAD MapGIS CAD 1 d CAD U 1006-3862 2010 05-0059 - 07 361005 1 GIS 2 3 What if 2. 0 1 2 3 4 GIS TU984. 11 A 1 Planning Support System MIS PSS 1989 1 90 23 4-7 GIS Planning Support GIS System SDSS PSS GIS GIS CAD GIS SDSS CAD CAD

More information

Microsoft Word - 201506定版

Microsoft Word - 201506定版 56 Chinese Journal of Library and Information Science for Traditional Chinese Medicine Dec. 2015 Vol. 39 No. 6 综 述 中 医 药 学 语 言 系 统 研 究 综 述 于 彤, 贾 李 蓉, 刘 静, 杨 硕 *, 董 燕, 朱 玲 中 国 中 医 科 学 院 中 医 药 信 息 研 究 所,

More information

mò bì j n n i shang qìng yè j n chuò t o jì píx u xi o g n ch q qú q xu n hé w yàng q qi o f dào juéjiàng qi n sh mò y u i

More information

83 2004 2007 2010 / / / Kornai1993 hierarchy Weber1958 Williamson 1979 chain of command Downs 1994 Tullock 1992 Lazear1998 Li & Zhou 2005 2008 promoti

83 2004 2007 2010 / / / Kornai1993 hierarchy Weber1958 Williamson 1979 chain of command Downs 1994 Tullock 1992 Lazear1998 Li & Zhou 2005 2008 promoti 2014 5 175 2014 9 Comparative Economic & Social Systems No. 5 2014 Sep. 2014 D08 A 1003-3947 2014 05-0082-14 1 / 2 1 Bo 2002 2010 2 20 80 2008 2013 83 2004 2007 2010 / / / Kornai1993 hierarchy Weber1958

More information

2005 5,,,,,,,,,,,,,,,,, , , 2174, 7014 %, % 4, 1961, ,30, 30,, 4,1976,627,,,,, 3 (1993,12 ),, 2

2005 5,,,,,,,,,,,,,,,,, , , 2174, 7014 %, % 4, 1961, ,30, 30,, 4,1976,627,,,,, 3 (1993,12 ),, 2 3,,,,,, 1872,,,, 3 2004 ( 04BZS030),, 1 2005 5,,,,,,,,,,,,,,,,, 1928 716,1935 6 2682 1928 2 1935 6 1966, 2174, 7014 %, 94137 % 4, 1961, 59 1929,30, 30,, 4,1976,627,,,,, 3 (1993,12 ),, 2 , :,,,, :,,,,,,

More information

%

% 38 1 2014 1 Vol. 38No. 1 January 2014 51 Population Research 2010 2010 2010 65 100028 Changing Lineal Families with Three Generations An Analysis of the 2010 Census Data Wang Yuesheng Abstract In contemporary

More information

[9] R Ã : (1) x 0 R A(x 0 ) = 1; (2) α [0 1] Ã α = {x A(x) α} = [A α A α ]. A(x) Ã. R R. Ã 1 m x m α x m α > 0; α A(x) = 1 x m m x m +

[9] R Ã : (1) x 0 R A(x 0 ) = 1; (2) α [0 1] Ã α = {x A(x) α} = [A α A α ]. A(x) Ã. R R. Ã 1 m x m α x m α > 0; α A(x) = 1 x m m x m + 2012 12 Chinese Journal of Applied Probability and Statistics Vol.28 No.6 Dec. 2012 ( 224002) Euclidean Lebesgue... :. : O212.2 O159. 1.. Zadeh [1 2]. Tanaa (1982) ; Diamond (1988) (FLS) FLS LS ; Savic

More information

从零构建支持向量机(SVM)

从零构建支持向量机(SVM) (SVM) zhangh04@gail.co (SVM),,,,,,,,,,,,,,,,,,,,.,, {(x, y ), (x, y ),..., (x, y )}, x i R d, y {, }, h: R {, }, h(x i ) = y i, y i = ; h(x i ) = () y i =. i. y i h(x i ) =. (), x i, h(x i ) := sign(w

More information

高中英文科教師甄試心得

高中英文科教師甄試心得 高 中 英 文 科 教 師 甄 試 心 得 英 語 學 系 碩 士 班 林 俊 呈 高 雄 市 立 高 雄 高 級 中 學 今 年 第 一 次 參 加 教 師 甄 試, 能 夠 在 尚 未 服 兵 役 前 便 考 上 高 雄 市 立 高 雄 高 級 中 學 專 任 教 師, 自 己 覺 得 很 意 外, 也 很 幸 運 考 上 後 不 久 在 與 雄 中 校 長 的 會 談 中, 校 長 的 一 句

More information

Microsoft Word - CMRO120114 ??????????????? Luxiaoyan

Microsoft Word - CMRO120114 ??????????????? Luxiaoyan 传 播 视 角 下 的 网 络 游 戏 新 媒 体 研 究 * 卢 小 雁 李 文 静 ( 浙 江 大 学 ) 内 容 摘 要 : 如 今, 随 着 科 技 的 发 展, 网 络 新 媒 体 的 发 展 如 日 中 天 媒 介 娱 乐 化 给 网 络 游 戏 产 业 的 不 断 发 展 壮 大 带 来 巨 大 市 场 和 受 众, 其 形 成 的 虚 拟 世 界 也 非 常 大 地 改 变 人 类

More information

Untitiled

Untitiled 卷 首 语 教育是慢的艺术 S 郭元祥 hao X Jiao Yu ing 秋风 秋菊 晚风 晚霞 忙碌的大学校园开始寂静下来 年轻的妈 妈带着蹒跚学步的孩子 年轻的情侣相拥着漫步林间小道 步履稳健的金 婚夫妇相伴缓行 好一首舒缓的小夜曲 在蹒跚学步的孩子旁边 我停下了脚步 只见年轻的妈妈放开学步的 孩子 在几步之遥处蹲下来 拍着双手 面带微笑望着颤巍巍的孩子说 宝宝 过来 孩子面露惧色 双腿发颤

More information

一段“蝶蝶”上休的生命教育故事

一段“蝶蝶”上休的生命教育故事 一 段 蝶 蝶 不 休 的 生 命 教 育 故 事 幼 兒 園 生 命 教 育 之 實 踐 歷 程 幼 兒 教 保 研 究 期 刊 2010 第 4 期 李 麗 娟 姚 維 芬 陳 宜 君 陳 萱 蔡 佩 其 劉 秋 燕 鄭 莉 君 四 季 藝 術 兒 童 教 育 機 構 教 研 中 心 四 季 藝 術 幼 稚 園 摘 要 本 研 究 以 做 中 學 之 蝴 蝶 飼 養 教 學 實 踐 活 動, 探

More information

2016 YOUNG MATHEMATICIAN FORUM Introduction To promote academic communication and cooperation between young staffs from the SMS and the BICMR of Pekin

2016 YOUNG MATHEMATICIAN FORUM Introduction To promote academic communication and cooperation between young staffs from the SMS and the BICMR of Pekin 2016 YOUNG MATHEMATICIAN FORUM Introduction To promote academic communication and cooperation between young staffs from the SMS and the BICMR of Peking University and overseas outstanding young scholars,

More information

Revit Revit Revit BIM BIM 7-9 3D 1 BIM BIM 6 Revit 0 4D 1 2 Revit Revit 2. 1 Revit Revit Revit Revit 2 2 Autodesk Revit Aut

Revit Revit Revit BIM BIM 7-9 3D 1 BIM BIM 6 Revit 0 4D 1 2 Revit Revit 2. 1 Revit Revit Revit Revit 2 2 Autodesk Revit Aut 60 2 2016 2 RAILWAY STANDARD DESIGN Vol. 60 No. 2 Feb. 2016 1004-2954201602-0071-06 BIM 1 1 2 2 1 1. 7140992. 710054 BIM BIM 3D 4D nd BIM 1 3D 4D Revit BIM BIM U442. 5TP391. 72 A DOI10. 13238 /j. issn.

More information

132 包 装 工 程 2016 年 5 月 网 产 品 生 命 周 期 是 否 有 与 传 统 产 品 生 命 周 期 曲 线 相 关 的 类 似 趋 势 旨 在 抛 砖 引 玉, 引 起 大 家 对 相 关 问 题 的 重 视, 并 为 进 一 步 研 究 处 于 不 同 阶 段 的 互 联 网

132 包 装 工 程 2016 年 5 月 网 产 品 生 命 周 期 是 否 有 与 传 统 产 品 生 命 周 期 曲 线 相 关 的 类 似 趋 势 旨 在 抛 砖 引 玉, 引 起 大 家 对 相 关 问 题 的 重 视, 并 为 进 一 步 研 究 处 于 不 同 阶 段 的 互 联 网 第 37 卷 第 10 期 包 装 工 程 2016 年 5 月 PACKAGING ENGINEERING 131 传 统 产 品 生 命 周 期 曲 线 对 互 联 网 产 品 适 应 性 探 究 田 姣, 刘 吉 昆 ( 清 华 大 学, 北 京 100084) 摘 要 : 目 的 探 讨 传 统 产 品 生 命 周 期 曲 线 对 于 互 联 网 产 品 生 命 周 期 是 否 依 然 适

More information

450~ ~ http

450~ ~ http 2012 3 Mar. 2012 2 Arab World Studies No.2. 1978 21 36 450~500 1000 46.4 70~100 1 2003 12.89 2004 133.85 2005 225.89 2006 2010 2010 23931 4195.3 3217.2 2314.7 1530.4 1519.1 1163.8 716.3 707.6 1 0.0283

More information

Microsoft Word - 十月號.doc

Microsoft Word - 十月號.doc 沙 田 培 英 中 學 二 零 零 五 年 十 月 十 月 號 地 址 : 沙 田 禾 輋 邨 豐 順 街 9 號 電 話 :2691 7217 傳 真 :2602 0411 電 郵 :stpyc@school.net.hk 主 筆 : 邱 譪 源 校 長 張 敏 芝 小 姐 親 愛 的 家 長 同 學 和 校 友 : 新 學 年 已 開 始 了 幾 個 星 期, 今 天 剛 收 到 教 統 局 發

More information

. 1 4 Web PAD

. 1 4 Web PAD 20 1 2014 2 Open Education Research Vol. 20 No. 1 Feb. 2014 1 2 1. 100875 2. - 100875 G434 A 1007-2179 2013 06-0100 - 11 10 2013 2013 Microlecture Minicourse Microlesson Microlecture A Le Roy A. McGrew

More information

% % 34

% % 34 * 2000 2005 1% 1% 1% 1% * VZDA2010-15 33 2011. 3 2009 2009 2004 2008 1982 1990 2000 2005 1% 1 1 2005 1% 34 2000 2005 1% 35 2011. 3 2000 0. 95 20-30 209592 70982 33. 9% 2005 1% 258 20-30 372301 115483 31.

More information

Lewis

Lewis 2011 6 World Economic Papers December, 2011 * 2005 2010 2005 * 985 email jadeyyx@ 163. com 600 200433 985 email zhangping_4@ sina. com 985 2011SHKXZD003 2011M500711 20110490654 11CJL024 2011 6 33 Lewis

More information

Sep (SCI) 10. Jiann-Ming Wu, Annealing by two sets of interactive dynamics, IEEE Trans. on Systems Man and Cybernetics Part B-Cybernetics 34 (3)

Sep (SCI) 10. Jiann-Ming Wu, Annealing by two sets of interactive dynamics, IEEE Trans. on Systems Man and Cybernetics Part B-Cybernetics 34 (3) 03-863-3531 E-mail jmwu@mail.ndhu.edu.tw /(1990/06-1994/06) (1988/06-1990/06) (1984/09-1988/06) / (1997/8-) (1996/08-1997/07) () 1996 8 Wu, Jiann-Ming ( SCI EI SSCI TSSCI EconLit A&HCI ) 1. Pei-Hsun Hsu

More information

Natural Neural Networks

Natural Neural Networks 深度学习讨论班 黄雷 2016-11-29 内容大纲 1. 深度学习介绍 神经网络的历史 深度学习的应用 2. 多层感知机 (multi-layer perceptron machine) 前向神经网络 (feedforward neural network) 3. 卷积神经网络 (Convolution neural networks) 4. 递归神经网络 (Recursive neural networks)

More information

可 愛 的 動 物 小 五 雷 雅 理 第 一 次 小 六 甲 黃 駿 朗 今 年 暑 假 發 生 了 一 件 令 人 非 常 難 忘 的 事 情, 我 第 一 次 參 加 宿 營, 離 開 父 母, 自 己 照 顧 自 己, 出 發 前, 我 的 心 情 十 分 緊 張 當 到 達 目 的 地 後

可 愛 的 動 物 小 五 雷 雅 理 第 一 次 小 六 甲 黃 駿 朗 今 年 暑 假 發 生 了 一 件 令 人 非 常 難 忘 的 事 情, 我 第 一 次 參 加 宿 營, 離 開 父 母, 自 己 照 顧 自 己, 出 發 前, 我 的 心 情 十 分 緊 張 當 到 達 目 的 地 後 郭家朗 許鈞嵐 劉振迪 樊偉賢 林洛鋒 第 36 期 出版日期 28-3-2014 出版日期 28-3-2014 可 愛 的 動 物 小 五 雷 雅 理 第 一 次 小 六 甲 黃 駿 朗 今 年 暑 假 發 生 了 一 件 令 人 非 常 難 忘 的 事 情, 我 第 一 次 參 加 宿 營, 離 開 父 母, 自 己 照 顧 自 己, 出 發 前, 我 的 心 情 十 分 緊 張 當 到 達 目

More information

CIP /. 2005. 12 ISBN 7-5062 - 7683-6 Ⅰ.... Ⅱ.... Ⅲ. Ⅳ. G624.203 CIP 2005 082803 櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶櫶 17 710001 029-87232980 87214941 029-87279675 87279676 880 1230 1/64 4.0 110 2006 2 1 2006 2 1 ISBN

More information

成 大 中 文 學 報 第 五 十 二 期 Re-examination of the Core Value in Yi Jing Studies of Xun Shuang: Constructing the Confucius Meaning via Phenomenon and Number

成 大 中 文 學 報 第 五 十 二 期 Re-examination of the Core Value in Yi Jing Studies of Xun Shuang: Constructing the Confucius Meaning via Phenomenon and Number 成 大 中 文 學 報 第 五 十 二 期 2016 年 3 月 頁 1-28 國 立 成 功 大 學 中 文 系 縱 橫 象 數, 儒 門 義 理 荀 爽 易 學 核 心 價 值 的 重 建 與 再 定 位 * 曾 暐 傑 摘 要 荀 爽 (128-190) 易 學 歷 來 為 人 所 關 注 的 即 其 乾 升 坤 降 的 學 說, 並 將 此 視 為 其 易 學 的 核 心 觀 念 順 此,

More information

國立中山大學學位論文典藏.PDF

國立中山大學學位論文典藏.PDF Air Visibility Forecasting via Artificial Neural Networks and Feature Selection Techniques 2003 7 Air Visibility Forecasting via Artificial Neural Networks and Feature Selection Techniques Sequential Floating

More information

4 115,,. : p { ( x ( t), y ( t) ) x R m, y R n, t = 1,2,, p} (1),, x ( t), y ( t),,: F : R m R n.,m, n, u.,, Sigmoid. :,f Sigmoid,f ( x) = ^y k ( t) =

4 115,,. : p { ( x ( t), y ( t) ) x R m, y R n, t = 1,2,, p} (1),, x ( t), y ( t),,: F : R m R n.,m, n, u.,, Sigmoid. :,f Sigmoid,f ( x) = ^y k ( t) = 2007 4 4 :100026788 (2007) 0420114206, (, 430074) :,,,,,,GIS.,,. : ; ; ; ; : TP391 ;P338 : A Development of Combinatorial Intelligentized Decision2Making Support System and Its Utilization in Runoff Forecasting

More information

摘 要 張 捷 明 是 台 灣 當 代 重 要 的 客 語 兒 童 文 學 作 家, 他 的 作 品 記 錄 著 客 家 人 的 思 想 文 化 與 觀 念, 也 曾 榮 獲 多 項 文 學 大 獎 的 肯 定, 對 台 灣 這 塊 土 地 上 的 客 家 人 有 著 深 厚 的 情 感 張 氏 於

摘 要 張 捷 明 是 台 灣 當 代 重 要 的 客 語 兒 童 文 學 作 家, 他 的 作 品 記 錄 著 客 家 人 的 思 想 文 化 與 觀 念, 也 曾 榮 獲 多 項 文 學 大 獎 的 肯 定, 對 台 灣 這 塊 土 地 上 的 客 家 人 有 著 深 厚 的 情 感 張 氏 於 玄 奘 大 學 中 國 語 文 學 系 碩 士 論 文 客 家 安 徒 生 張 捷 明 童 話 研 究 指 導 教 授 : 羅 宗 濤 博 士 研 究 生 : 黃 春 芳 撰 中 華 民 國 一 0 二 年 六 月 摘 要 張 捷 明 是 台 灣 當 代 重 要 的 客 語 兒 童 文 學 作 家, 他 的 作 品 記 錄 著 客 家 人 的 思 想 文 化 與 觀 念, 也 曾 榮 獲 多 項 文

More information

096STUT DOC

096STUT DOC i YouTube was established in 2005 until now only more than 3 years. Although it was established just more than 3 years, it has already become the one of multitudinous video shares website that most people

More information

穨6街舞對抗中正紀念堂_林伯勳張金鶚_.PDF

穨6街舞對抗中正紀念堂_林伯勳張金鶚_.PDF ( ) 115 115140 Journal of City and Planning(2002) Vol.29, No.1, pp.115140 90 10 26 91 05 20 2 3 --- ( ) 1. 2. mag.ryan@msa.hinet.net 3. jachang@nccu.edu.tw 1018-1067/02 2002 Chinese Institute of Urban

More information

本 論 文 獲 客 家 委 員 會 102 年 客 家 研 究 優 良 博 碩 士 論 文 獎 助 謹 此 致 謝

本 論 文 獲 客 家 委 員 會 102 年 客 家 研 究 優 良 博 碩 士 論 文 獎 助 謹 此 致 謝 國 立 中 央 大 學 客 家 社 會 文 化 研 究 所 碩 士 論 文 清 代 臺 灣 客 家 文 人 的 人 際 網 絡 以 吳 子 光 為 中 心 研 究 生 : 呂 欣 芸 指 導 教 授 : 吳 學 明 博 士 中 華 民 國 一 二 年 一 月 本 論 文 獲 客 家 委 員 會 102 年 客 家 研 究 優 良 博 碩 士 論 文 獎 助 謹 此 致 謝 國 立 中 央 大 學 圖

More information

( 一 ) 實 習 的 時 候 就 和 讀 書 會 的 同 學 一 起 把 陳 嘉 陽 紮 實 地 讀 過 一 遍 了, 也 因 此 在 考 完 教 檢 之 後, 我 們 只 有 把 不 熟 或 是 常 考 的 章 節 再 導 讀 一 次 ( 例 如 : 統 計 行 政 法 規 ), 主 力 則 是

( 一 ) 實 習 的 時 候 就 和 讀 書 會 的 同 學 一 起 把 陳 嘉 陽 紮 實 地 讀 過 一 遍 了, 也 因 此 在 考 完 教 檢 之 後, 我 們 只 有 把 不 熟 或 是 常 考 的 章 節 再 導 讀 一 次 ( 例 如 : 統 計 行 政 法 規 ), 主 力 則 是 確 立 目 標, 全 力 衝 刺 102 年 國 中 英 文 科 教 甄 準 備 心 得 主 修 社 會 教 育 學 系 輔 修 英 語 學 系 100 級 臺 北 市 立 東 湖 國 民 中 學 王 建 順 壹 102 國 中 英 文 科 教 甄 準 備 心 得 -- 筆 試 篇 有 幸 能 在 第 一 年 的 第 一 場 國 中 教 甄 脫 穎 而 出, 一 路 上 很 感 謝 前 輩 學 長

More information

Microsoft Word - A201202-493_1329751213.doc

Microsoft Word - A201202-493_1329751213.doc 5 10 15 20 25 BP 神 经 网 络 在 中 国 创 业 板 企 业 成 长 性 预 测 研 究 ** 孙 静 稳, 刘 金 平 ( 中 国 矿 业 大 学 管 理 学 院, 江 苏 徐 州 221116) 摘 要 : 根 据 创 业 板 企 业 的 高 科 技 和 高 成 长 性 特 点, 成 为 金 融 证 券 市 场 热 门 关 注 的 对 象, 其 成 长 性 研 究 是 资 本

More information