<4D F736F F F696E74202D20C8CBB9A4D6C7C4DCBACBD0C4BCBCCAF5BCB0D6C7C4DCB8EFC3FC2DBCBDD6D >

Size: px

Start display at page:

Download "<4D F736F F F696E74202D20C8CBB9A4D6C7C4DCBACBD0C4BCBCCAF5BCB0D6C7C4DCB8EFC3FC2DBCBDD6D >"

伤毛
5 years ago
Views:

1 人工智能核心技术及智能革命冀中天津大学 - 电气自动化与信息工程学院视觉模式分析实验室 /9/12 1

2 提纲 1) 看得见的人工智能 2) 人工智能核心技术 ( 定义历史及核心技术 ) 3) 人工智能最新进展 4) 未来的人工智能对社会的变革 5) 结论 2017/9/12 2

3 art 看得见的人工智能 2017/9/12 3

4 总理政府报告 2017 年 3 月 5 日上午, 李克强总理所做政府工作报告里, 指出要加快培育壮大包括人工智能在内的新兴产业, 人工智能首次被写入了全国政府工作报告 2017/9/12 4

5 白宫人工智能白皮书 2016 年 12 月 22 日, 美国白宫总统办公室正式发布了一份名为人工智能自动化和经济的白皮书, 着重阐述了从白宫的角度看到的人工智能技术行业的进展, 以及未来的趋势结尾指出 : 怎样用政策来应对人工智能革命的经济效应, 是下一届下下届和之后的每一届政府的挑战人工智能已经改变了我们的劳动力, 改变了人可以从事的职业和所需要的技能 2017/9/12 5

6 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 6

7 看到了哪些人工智能现象? 2017/9/12 7

8 看得见的人工智能 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 8

9 看得见的人工智能 AlphaGo 工作原理 AlphaGo 主要工作原理是 " 深度学习 " 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 9

10 看得见的人工智能 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 10

11 看得见的人工智能 100 万盘! 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 11

12 看得见的人工智能 2017 年,CMU 人工智能系统 Libratus 在长达 20 天的鏖战中, 打败 4 名世界顶级德州扑克玩家特斯拉无人驾驶汽车 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 12

13 大公司都在干什么? 大公司都在布局人工智能, 例如 : 谷歌微软苹果 Facebook IBM Intel 亚马逊 BAT 华为滴滴京东科大讯飞不管主营业务是什么, 都在积极布局人工智能的研究创业公司, 雨后春笋 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 13

14 创业公司很多 2017/9/12 天津大学多媒体理解实验室 TJU-MUL 14

15 看得见的人工智能人工智能各细分行业公司数量 ( 家 ) 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 15

16 art 人工智能核心技术 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 16

17 2.1 人工智能定义人工智能 (Artificial Intelligence), 英文缩写为 AI 它是研究开发用于模拟延伸和扩展人的智能的理论方法技术及应用系统的一门新的技术科学人工智能企图了解智能的实质, 并生产出一种新的能以人类智能相似的方式做出反应的智能机器, 该领域的研究包括机器人语言识别图像识别自然语言处理和专家系统等 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 17

18 2.2 人工智能历史 : 跌宕起伏风雨 60 年 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 18

19 2.3 人工智能核心技术 : 深度学习 (Deep Learning) 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 19

20 Neural network Back propagation Nature 1986 Solve general learning problems Tied with biological system 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 20

21 Neural network Back propagation Nature 1986 g(x) w 1 w 2 w 3 x 1 x 2 x 3 f(net) 2017/9/12 21 天津大学多媒体理解实验室 (TJU-MUL)

22 Neural network Back propagation Nature 1986 Solve general learning problems Tied with biological system But it is given up Hard to train Insufficient computational resources Small training sets Does not work well 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 22

23 Neural network Back propagation Nature SVM Boosting Decision tree KNN Flat structures Loose tie with biological systems Specific methods for specific tasks Hand crafted features (GMM HMM, SIFT, LBP, HOG) Kruger et al. TPAMI /9/12 天津大学多媒体理解实验室 (TJU-MUL) 23

24 Neural network Back propagation Nature Deep belief net Science Unsupervised & Layer wised pre training Better designs for modeling and training (normalization, nonlinearity, dropout) New development of computer architectures GPU Multi core computer systems Large scale databases 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 24

25 G. E. Hinton and R. R. Salakhutdinov, Reducing the Dimensionality of Data with Neural Networks, Science, Vol. 313, pp , July /9/12 天津大学多媒体理解实验室 (TJU-MUL) 25

Neural network Back propagation Nature Deep belief net Science Speech 1986 2006 2011 deep learning results

26 Neural network Back propagation Nature Deep belief net Science Speech deep learning results Solve general learning problems Tied with biological system But it is given up 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 26

27 Neural network Back propagation Nature Deep belief net Science Speech Rank Name Error rate Description 1 U. Toronto Deep learning 2 U. Tokyo Hand-crafted 3 U. Oxford features and learning models. 4 Xerox/INRIA Bottleneck. Object recognition over 1,000,000 images and 1,000 categories (2 GPU) A. Krizhevsky, L. Sutskever, and G. E. Hinton, ImageNet Classification with Deep Convolutional Neural Networks, NIPS, /9/12 天津大学多媒体理解实验室 (TJU-MUL) 27

28 2017/9/12 天津大学多媒体理解实验室 TJU-MUL 28

29 What makes deep learning successful in computer vision? Li Fei-Fei Geoffrey Hinton Data collection Evaluation task Deep learning One million images with labels Predict 1,000 image categories CNN is not new Design network structure 三驾马车 : 算法 + 大数据 +GPU New training strategies 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 29

30 Neural network Back propagation Deep belief net Science Speech Google and Baidu announced their deep learning based visual search engines (2013) Google on our test set we saw double the average precision when compared to other approaches we had tried. We acquired the rights to the technology and went full speed ahead adapting it to run at large scale on Google s computers. We took cutting edge research straight out of an academic research lab and launched it, in just a little over six months. Baidu 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 30

31 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 31

32 2011 年 CV 领域的一些顶级学者仍不看好 Deep Learning 2012 年 Geoffrey Hinton 团队在 ImageNet 竞赛上获得冠军 2013 年 3 月,Google 斥资 5000 万美元收购了一家名为 DNNresearch 的初创公司, 这家公司隶属多伦多大学计算机科学院, 只有三个人 Geoffrey Hinton 与他的研究生学生 Alex Krizhevsky 和 Ilya Sutskever (Baidu 也参与了竞价 ) 2013 年 4 月,Baidu 深度学习研究院在硅谷成立 2014 年 1 月,Google 斥资 6.6 亿美元收购人工智能初创企业 DeepMind (AlphaGo 团队 ) 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 32

33 这是人才的争夺战! 这是知识的争夺战! 人工智能方面的顶级博士在硅谷年薪 2,3 百万国内 2017 届互联网企业校招薪酬报告 : 白菜价 22w, 青菜价 30w, 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 33

34 深度学习的核心变革 : 特征工程从特征工程到特征学习 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 34

35 特征工程 : 以人脸识别为例 2 parameters 3 parameters Geometric features Pixel vector Gabor filters Local binary patterns 1980s /9/12 天津大学多媒体理解实验室 (TJU-MUL) 35

36 特征学习 Collect data Collect data Preprocessing 1 Preprocessing 2 Feature design Classifier Connection Deep neural network Feature transform Feature transform Classifier 2017/9/12 Evaluation Evaluation 天津大学多媒体理解实验室 (TJU-MUL) 36

37 以做菜为例 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 37

38 Traditional Cooking 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 38

39 Traditional Cooking 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 39

40 Traditional Cooking 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 40

41 Traditional Cooking 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 41

42 Traditional Cooking 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 42

43 End to End Cooking 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 43

44 深度学习几个主流技术 CNN RNN GAN 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 44

Convolutional Neural Networks (CNN) First proposed by Fukushima in 1980 Improved by LeCun, Bottou, Bengio and Haffner in 1998 Y. LeCun, L. Bottou, Y. Bengio, and P.

45 Convolutional Neural Networks (CNN) First proposed by Fukushima in 1980 Improved by LeCun, Bottou, Bengio and Haffner in 1998 Y. LeCun, L. Bottou, Y. Bengio, and P. Haffner, Gradient-based Learning Applied to Document Recognition, Proceedings of the IEEE, Vol. 86, pp , Y. LeCun 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 45

46 Convolutional Neural Networks (CNN) Learned filters Convolution Pooling 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 46

47 CNN Model 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 47

48 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 48

49 2 Weights/Parameter Sharing 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 49

50 3 Backpropagation W is the parameter of the network; J is the objective function Target values Feedforward operation Output layer Hidden layers Back error propagation Input layer D. E. Rumelhart, G. E. Hinton, R. J. Williams, Learning Representations by Back-propagation Errors, Nature, Vol. 323, 2017/9/12 pp , 天津大学多媒体理解实验室 (TJU-MUL) 50

51 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 51

52 举例 : 百度最强大脑从 20 张蜜蜂少女队成员童年照中挑出 2 张高难度照片, 选手通过动态录像表演将所选童年照和在场的成年少女相匹配识别对象群组中有一对双胞胎, 小度在识别之后, 给出了两个相似度非常接近的答案, 一个是 72.98%, 另一个是 72.99%, 最后吴恩达现场选择 72.99% 的照片, 匹配正确但是, 也正是在这一识别任务上, 从未失利的王峰出错, 导致最后输掉比赛跨年龄人脸识别 200 万人 2 亿照片做训练 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 52

53 art 人工智能最新进展 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 53

54 抽象的说, 目前深度学习所创造的所有价值, 可看作是学习相对简单的 A-->B 映射举例来说 : 如果 A 是一个图像,B 是一个对象标签, 这就是物体识别如果 A 是图片,B 是对应的文字说明, 就是图说如果 A 是英语句子,B 是法语句子, 就是机器翻译如果 A 是图片和问题,B 是相应的答案, 这个问题就变成了基于图像的 QA 问题 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 54

55 1) 人工智能之黄金时代能听会讲 2016 年十月, 微软实现语音识别的历史性突破在日常对话数据上, 达到了 5.9% 的单词错误率, 首次取得了与人类相当的识别精度 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 55

56 2) 人工智能之黄金时代慧眼识图 Examples from ImageNet 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 56

57 人类的错误率大约是 5.1%, 而 ResNet 达到了将近 3.5% 的错误率就是说对于特定领域, 特定类别的问题, 机器已经超过了人的识别能力 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 57

58 3) 人工智能之黄金时代同声传译例如,Skype 可以同时支持多人多点语音多语言的实时同声传译 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 58

59 4) 人工智能之黄金时代治病救人 2016 年,IBM 人工智能 Watson 利用 10 分钟时间读了二千万页的医疗文献 ( 堆积起来 4km 高 ) 诊断出一名 60 岁的日本女病人患上罕见的急性骨髓性白血病, 还找到最适合她的疗法, 目前患者已经可以出院 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 59

60 5) 人工智能之黄金时代人脸识别 Deep learning achieves 99.53% face verification accuracy on Labeled Faces in the Wild (LFW), higher than human performance Y. Sun, X. Wang, and X. Tang. Deep Learning Face Representation by Joint Identification-Verification. NIPS, Y. Sun, X. Wang, and X. Tang. Deeply learned face representations are sparse, selective, and robust. CVPR, /9/12 天津大学多媒体理解实验室 (TJU-MUL) 60

61 Labeled Faces in the Wild (2007) Best results without deep learning 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 61

62 6) 人工智能之黄金时代看图说话 What, Where and How? 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 62

63 6) 人工智能之黄金时代看图说话 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 63

64 我们训练模型的结果 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 64

65 7)人工智能之黄金时代智能监控我们提出一个 CNN+LSTM的深度模型 2017/9/12 天津大学多媒体理解实验室 TJU-MUL 65

66 我们训练的物体检测的深度模型 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 66

67 8) 人工智能之黄金时代自动问答 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 67

68 9) 人工智能之黄金时代绘画大师 Prisma 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 68

69 10) 人工智能之黄金时代写作高手编诗姬 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 69

70 10) 人工智能之黄金时代写作高手华盛顿邮报的写稿机器人 Heliograf 自动化写作服务的公司 Automated Insights 腾讯新闻写作机器人 Dreamwriter 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 70

71 10) 人工智能之黄金时代写作高手鲍勃迪伦 (Bob Dylan) IBM Watson 对 2016 年诺贝尔文学奖获得者的评价 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 71

72 art 未来的人工智能? 对社会的变革? 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 72

73 未来人工智能会是这样吗? 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 73

74 人工智能,2001 年 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 74

75 机械姬, /9/12 天津大学多媒体理解实验室 (TJU-MUL) 75

76 未来的路还很长 ( 自主学习, 预测学习, 自我意识, 情感, ) 人工智能是否可控? 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 76

77 目前可预期的变革 : 自动驾驶 : L4 Drive 机器人 : 控制机械感知决策 AR/VR: 进一步的成熟和发展需要借助计算机视觉方面的进步智能交通工业机器人健康医疗 AI 助理,AI 女友, 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 77

78 AI 惠及民生的同时, 也会带来很多新的工作机会, 但同时也会使得一些单一的重复性强的工作岗位会逐渐消失, 比如中介, 驾驶员, 翻译, 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 78

79 art 结论 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 79

80 Future: Closer to True Intelligence

81 2016 年 9 月 3 日 : 习近平主席在 20 国集团工商峰会上发表主旨演讲, 指出人工智能虚拟现实等技术日新月异, 虚拟经济与实体经济的结合将给人们的生产方式和生活方式带来革命性的变化等例如 : 滴滴百度外卖淘宝腾讯福字 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 81

82 AI 已经成为全球先进国家的共识与行动 AI 是人类最伟大的事业和梦想之一, 也将是未来 30 年对人类影响最大的技术革命中国在此次技术革命中没有落后, 比较领先 2017/9/12 天津大学多媒体理解实验室 (TJU-MUL) 82

83 对 AI 保持激动之心, 这是时代的召唤! 对 AI 怀有敬畏之心, 这是许多科学家多年的不懈努力! 对 AI 保持平常之心, 不会对人类构成威胁! --- 王飞跃教授 2017/9/12 83

84 本次报告参考了许多文献和网络资料, 在此对这些知识产权的所有者表示感谢! 2017/9/12 84

85 2017/9/12 85

报告 1: 郑斌教授, 美国俄克拉荷马大学医学图像特征分析与癌症风险评估方法摘要 : 准确的评估癌症近期发病风险和预后或者治疗效果是发展和建立精准医学的一个重要前

报告 1: 郑斌教授, 美国俄克拉荷马大学医学图像特征分析与癌症风险评估方法摘要 : 准确的评估癌症近期发病风险和预后或者治疗效果是发展和建立精准医学的一个重要前东北大学中荷生物医学与信息工程学院 2016 年度生物医学与信息工程论坛会议时间 2016 年 6 月 8 日, 星期三,9:30 至 16:00 会议地址会议网址主办单位东北大学浑南校区沈阳市浑南区创新路 195 号生命科学大楼 B 座 619 报告厅 http://www.bmie.neu.edu.cn