2017全球云计算开源峰会-张鑫.key

Size: px

Start display at page:

Download "2017全球云计算开源峰会-张鑫.key"

钿詹
5 years ago
Views:

1 从 Kubernetes 到谷歌容器器集群管理理的落地与演化张鑫才云科技 CEO

张鑫 CEO 创始人 CMU 博士云计算和安全学术专家谷歌数据中心 (Borg) 容器器集群技术带头人 6 次获谷歌副总裁总监奖清华大学优秀毕业生北北京地区优秀毕业生教育部优秀留留学生 Kubernetes 最早贡献者邓德源 CTO CMU 硕士谷歌资深工程师开源容器器集群项目顶级贡献者谷歌私有云平台构筑者代表中国队获得机器器人大赛金金牌

2 张鑫 CEO 创始人 CMU 博士云计算和安全学术专家谷歌数据中心 (Borg) 容器器集群技术带头人 6 次获谷歌副总裁总监奖清华大学优秀毕业生北北京地区优秀毕业生教育部优秀留留学生 Kubernetes 最早贡献者邓德源 CTO CMU 硕士谷歌资深工程师开源容器器集群项目顶级贡献者谷歌私有云平台构筑者代表中国队获得机器器人大赛金金牌唐鹏程首席架构师 CMU 硕士美国亚马逊工程师开源容器器集群项目贡献者 Amazon 实现容器器化的技术骨干精通容器器技术与分布式系统郑泽宇首席科学家 CMU 硕士谷歌资深工程师大数据和机器器学习专家发明学习算法, 为谷歌创造千万美金金营收代表北北大参加 ACM 竞赛韩佳瑶 COO 匹兹堡大学博士计算机法律律历史艺术多学位美国成功连续创业者创业管理理市场经验丰富签约首个企业客户发布容器器云产品 ClaaS1.0 入选杭州市政府重点扶持计划, 获得数百万扶持基金金获得赛伯乐数百万美金金天使轮融资才云科技 CaiCloud 成立发布国内首个支持分布式 TensorFlow 的系统平台 Clever 正式成为美国 CNCF/Linux Foundation 官方合作伙伴发布云产品 Cargo, Cubernetes, Cyclone 深度学习公有云平台发布 KubeCon 主题演讲 - 德国柏林林站发布容器器云 ClaaS2.0, 深度学习平台 TaaS1.1 获得经纬中国 4000 万 A 轮融资, 赛伯乐跟投发布容器器云深度学习平台 TaaS1.0 入选联想之星入选微软加速器器 KubeCon 主题演讲 - 美国西雅图站 ; Cyclone 开源获得第五届中国创新创业大赛总决赛第二名

3 Docker usage report April 12,

5 Kubernetes vs Google Cluster Management Kubernetes vs 传统行行业 Kubernetes vs Big Data

6 Kubernetes vs Google Cluster Management

7 调试系统发布管理理资源分配扩集群监测安全扫描分布式构分布式测调试系统 SDN 网络 Borg 分布式存储负载均衡用户和组管集群工作流日历系统 Capacity 安集群数据耗竭系 Hareware 自动系统在线硬盘生产系统节点网络自动节

8 集群数据库集群工作流管自动系统安装 Borg driver Chubby 节点医生节点管理理 agent 节点医生 agent

9 集群数据库集群工作流管理理系统 Capacity 安全节点医生耗竭系迁移工 Borg driver 自动系统安在线硬盘修 HWops Borg(let/ 节点医生 agent 节点管理理 agent

10 代码检查平台云端代码库本地代发布工具镜像管分布式构分布式测 BorgCLI 资源分配监测系统配置管理理 Borg

11 镜像管理理系统 - 基于 Harbor 的企业级镜像仓库 github.com/vmware/harbor github.com/caicloud/harbor - 高可用 - 多 registry 镜像同步 - 镜像安全扫描 - 审计与鉴权 - 标签化灵活管理理 - 可视化管理理操作 - 多种存储方案

12 联合发布系统 github.com/caicloud/cyclone

13 灰度发布系统

14 应用编排系统 Helm 基于 Kubernetes 的应用编排工具 - 自带多种常用应用模版 - 快速构建部署复合型微服务应用 - 复合应用的共享分发管理理 Helm-registry (just open-sourced!) 提供持久化的可共享的应用商店库 - 上传存储共享管理理应用模版 - 提供 API 支持工具整合 - 支持 ACL 等权限管理理

15 监控报警系统监控物理理机应用容器器 CPU 内存磁盘 IO 网络连接数, 网络请求流量量 Mysql 索引数量量,QPS, 负载告警抵制告警策略略 Webhook 通知

16 安全策略略 1. Calico network policy 实现的 ACL 安全组及白名单,pod 粒度 2. Kubernetes network policy 实现调度 pod 时下发所需网络策略略

17 Kubernetes vs 传统行行业落地离线部署私有 IaaS 对接 ( 网络存储负载均衡 ) 有状态单体应用的无缝迁移线上系统升级多租户管理理与安全把控

18 主机节点端口 Session Affinity Port Conflict Scaling SPOF : :31080 Rule1 Rule1: -A NODEPORTS -p tcp -m tcp --dport j SVC- A Rule2 Rule2.1: -A SVC-A -m statistic --mode random --probability 0.5 -j EP-A Rule2.2: -A SVC-A -j EP-B Rule2 Rule3.1: -A EP-A -p tcp -m tcp -j DNAT --to-destination :80 Rule3.2: -A EP-B -p tcp -m tcp -j DNAT --to-destination :80 Service node node

19 外部负载均衡器器提供外部访问和外部负载均衡云环境 :GCE AWS 阿里里云等私有环境 :F5 Haproxy 集群等 load balancer Session Affinity Port Conflict Extra Ops Rules Rules node node

20 Ingress foo.bar.com/foo 提供外部访问和内部负载均衡 4 层 7 层负载 :80 host network 4 层 7 层负载提交 ( 通过 master) haproxy ingress controller 维护组成对外服务的后端 service node node

21 Reload Storm Ingress Scaling foo.bar.com/foo SPOF :80 重载后端信息, 更更新 haproxy 配置 haproxy ingress controller host network node node

22 高可用 Ingress 提供高可用外部访问和内部负载均衡固定的浮动 IP haproxy haproxy Active/Passive ingress controller host network ingress controller host network 维护浮动 IP keepalived keepalived node node node

高可用 Ingress Reload Storm service discovery Scaling foo.bar.com/foo 10

23 高可用 Ingress Reload Storm service discovery Scaling foo.bar.com/foo haproxy haproxy haproxy ingress controller host network ingress controller host network ingress controller host network keepalived keepalived keepalived node node node

24 Ingress 调度 master 均衡 Ingress 负载 etcd scheduler 提交 api-server controller manager 通过 Policy 维护 Ingress 池, 目前支持 namespace 级别调度 ingress scheduler 管理理可供外部访问的 IP 地址段将 ingress 中的域名通过 DNS 提供给外部访问创建 ingress controller ingress controller ingress controller ingress controller node node node node node

25 采集目录文件 : 采用 sidecar fluentd sidecar stdout /var/lib/docker/s/ / log.json /var/log/s/server-aunxw_kube-system_server json 软链接 pod Elasticsearch Fluentd node

26 采集目录文件 :logdir 直接扩展 API 和系统组件, 支持容器器写文件 fluentd sidecar stdout /var/lib/docker/s/ / log.json /var/log/s/server-aunxw_kube-system_server json 软链接 Elasticsearch Fluentd node

27 中国规模最大的综合性酒店旅游产业集团之一截止 2016 年年 ~ ~ ~ 底, 此酒店拥有管理理和特许经营的酒店 7000 余家, 客房总数超某国企的旅游的线上业务迁移至才云平台某国企的旅行行线上平台全部转入才云平台平台扩展权限管理理资源申请存储持久化等功能过 70 万间, 全球酒店集团排名前 5 位, 亚洲第 1 位完成收购兼并后, 集团会员规模超过 1 亿, 线上渠道的重要性以及相关比例例越来越大线上平台还负担着内部多个 BU 交叉销 5~7 千个容器器在线运行行数百台节点技术方案升级运维自动化 95% 的应用迁移至容器器云基础应用服务化资源数字化开发运维效率提高 13 倍售, 海海内海海外渠道交叉销售的重要角色

28 银行行卡联合组织公司通过跨行行交易易清算系统, 实现商业银行行系统间的互联互通和资源共享, 保证银行行卡跨行行跨地区和跨境的使用目前已与境内外数百家机构展开广泛合作, 金金融网络遍布中国城乡, 并已延伸至亚洲欧洲美洲大洋洲非洲等 160 个国家和地区

29 Kubernetes vs Big Data

30 企业缺少数据超媒体报表日志大量量非结构化数据束手无策数据记录不不科学, 需要整形 HTML 数据的特征很难提取行行列列数据大数据业务结果很难再优化数据量量巨大时效果不不好缺乏有效模型将数据变价值文档图像视频

31 多层复杂特征提取优势大数据量量优势

32 星数 (Star) 复制仓库 (Fork) Caffe Deeplearning4j Microsoft Cognitive Toolkit MXNet PaddlePaddle TensorFlow Theano Torch 活跃讨论贴 (issue) 活跃代码提交请求 (pull request) Caffe Deeplearning4j Microsoft Cognitive Toolkit MXNet PaddlePaddle TensorFlow Theano Torch

33 Inception-v3 模型 Inception-v3 模型 :2500 万参数 & 50 亿次运算 / 推导 1 张图片 ===> 78% 的正确率需 :6 个月 CPU 计算效率较低

34 Google runs everything in its clusters, including Machine Learning tasks scaling out self-management ease of deployment/update resource sharing (and isolation)

35 分布式 Kubernetes 容器器集群统一存储分布式 Kubernetes 租户容器器集群计算管理理节点计算管理理节点深度学习计算节点深度学习计算节点支持 GPU 资源调度和管理理的服务器器

36 操作原生 TensorFlow 才云科技 TaaS 部署安装 Pip 安装无需安装,web 界面提供服务分布式环境资源调度模型训练训练过程监控手工在多台服务器器架设运行行环境需要考虑设备集群之间资源分配问题需要在多个节点上通过命令行行手动设置以启动参数和计算自行行启动 TensorBoard, 手动查看运行行状态无需自行行搭建分布式环境, 系统自动提供隔离的完整分布式环境支持基于 Kubernetes 高效管理理计算节点集群和资源调度模板化编辑模型文件, 提供上传接口, 图形界面设置参数, 傻瓜式操作便便可启动模型训练自动启动监控平台, 图形 UI 界面统一监控训练过程管理理手动保存模型日志文件自动化管理理模型日志文件在线提供服务提供在线服务, 可通过自定义方式实现自动启动并维护在线服务 ; 支持训练模型导出

37 模型训练前端展深度学习系统数据调微服务应 DevOps 应训练模型 1 训练模型 n TensorFlow 分布式模型训练云平台新增训练模型智能投顾系统侵预警系统运预测系统智能客服系统 TensorFlow 分布式计算服务云平台新增应系统数据存储服务 Web 服务消息队列服务代码构建 CIC D 系统镜像仓库 Kubernetes 容器云平台新增深度学习系统上线流程 : 企业结构化数据接创建数据整形微服务数据存储训练创建 TaaS 模型训练微服务形成新的深度学习应系统微服务服务提供

行行菜单设置更更合理理, 客户体验更更好风险控制 : 反欺诈, 反洗钱, 贷后风险管理理更更高准确率身份认证 :VTM

38 短信营销 : 信用卡分期客户, 减少短信发送量量, 提高业务实现率智能投顾 : 理理财产品智能推荐, 响应率和交易易总金金额指数级提升流失预警 : 分析客户行行为趋势, 预测客户流失倾向, 提升客户忠诚度智能客服 : 电话银行行菜单设置更更合理理, 客户体验更更好风险控制 : 反欺诈, 反洗钱, 贷后风险管理理更更高准确率身份认证 :VTM 远程开户身份验证期货指标 : 指标预测成功率提升 30% 基金金经理理 : 深度学习作为基金金经理理, 无人工接触金金融交易易 : 深度学习系统自动交易易, 秒级操作

39 安全入侵作业管理理智能交通高危监测区域入侵检测安全帽检查空位检测烟雾检测翻越围墙检测物体搬移监测人车分离明火检测设备防盗检测人员轨迹跟踪牌号识别设备故障检测火焰智能检测遗留留物品检测行行为分析高危操作监测

40 图像识别

41 时序预测深度学习训练后发电量量预测电力力使用量量预测炼油量量预测水库水位预测系统运行行状况预测

42 谢谢! 张鑫才云科技 CEO

实践课堂成都站-0609.key

实践课堂成都站-0609.key 青云 QingCloud 容器器及 Kubernetes 实践王渊命青云 QingCloud 容器器平台负责人当我们谈论容器器时我们在谈论什什么? 容器器的两个视角资源隔离应用封装容器器生态圈现状容器器技术一家独大百花齐放 Docker, Rocket, Mesos Universal container, LXC, Hyper Container 调度系统三足鼎立