<Insert Picture Here> - 软 件 发 掘 数 据 价 值 - MPP NewSQL 数 据 库 集 群 支 撑 企 业 超 大 规 模 数 据 仓 库 案 例 介 绍 武 新, CTO- 南 大 通 用 数 据 技 术 有 限 公 司 2013 年 4 月 18
目 录 大 数 据 引 发 的 行 业 变 革 GBase 8a MPP Cluster GBase 8a 电 信 经 分 类 DW 案 例 介 绍 企 业 简 介 & QA 2
2012 年 5 月,GBase 8a 参 与 中 移 动 下 一 代 DW 选 型 测 试 电 信 行 业 新 一 代 DW 平 台 的 选 型 是 下 一 代 数 据 分 析 平 台 技 术 的 较 量, 也 是 国 内 数 据 库 产 品 和 国 外 产 品 开 始 站 在 了 同 一 个 起 跑 线 上! Exadata 南 大 通 用
中 移 动 数 据 仓 库 : 业 务 背 景 本 次 测 试 共 有 8 个 数 据 库 厂 商 参 与 :Oracle,IBM,Microsoft,EMC,HP,SAP, Teradata 和 南 大 通 用 测 试 方 案 覆 盖 了 经 营 分 析 数 据 仓 库 建 设 的 所 有 业 务 流 程, 包 括 :ODS ( 运 营 数 据 集 市 ) 到 EDW( 企 业 数 据 仓 库 ) 的 汇 总 转 换 过 程 即 席 查 询 多 维 分 析 混 合 负 载 大 并 发 高 可 用 动 态 扩 展 中 移 动 提 供 全 程 监 控 的 测 试 环 境, 各 个 参 与 厂 商 面 对 真 实 数 据 和 极 其 复 杂 的 业 务 场 景 公 平 竞 争 测 试 结 果 :GBase 8a MPP Cluster, 在 规 定 的 时 间 内 顺 利 完 成 测 试, 与 HP 和 EMC 在 基 于 X-86 的 云 平 台 上 并 列 第 一 Exadata 南 大 通 用 4
目 录 大 数 据 引 发 的 行 业 变 革 GBase 8a MPP Cluster GBase 8a 电 信 经 分 类 DW 案 例 介 绍 企 业 简 介 & QA 5
大 数 据 引 发 数 据 处 理 架 构 变 革 一 种 架 构 支 持 多 类 应 用 (One Size Fits All) 分 析 大 数 据 时 代 多 种 架 构 支 持 多 类 应 用 NewSQL 分 析 事 务 OldSQL 互 联 网 架 构 多 元 化 OldSQL 事 务 NoSQL 互 联 网 基 于 Stonebraker 教 授 的 论 文 传 统 数 据 库 的 基 本 架 构 是 30 年 前 以 事 务 处 理 为 主 要 应 用 设 计 的 大 数 据 的 主 要 应 用 是 分 析 类 的, 应 采 用 新 的 技 术 架 构 行 业 的 技 术 大 思 路 应 该 由 一 种 架 构 支 持 所 有 应 用 转 变 成 多 种 架 构 支 持 多 类 应 用 数 据 库 行 业 出 现 三 个 互 为 补 充 的 三 大 阵 营,OldSQL NewSQL 和 NoSQL M. Stonebraker ( 斯 教 授 主 创 的 数 据 库 产 品 Ingres Informix PostgreSQL 和 Vertica) 6
大 数 据 激 发 技 术 创 新 NewSQL 列 存 储 关 系 型 MPP NoSQL Key-Value MapReduce MPP OldSQL 行 存 储 关 系 型 SMP 分 布 式 计 算, 分 布 式 文 件 系 统 内 存 计 算 (In Memory Computing) 新 的 硬 件 :Flash Card,SSD,Infiniband(40G/s) 大 数 据 激 发 了 数 据 库 行 业 技 术 创 新 的 热 情, 主 要 的 驱 动 力 是 对 处 理 性 能 的 强 烈 需 求 为 了 提 升 性 能,NewSQL 阵 营 普 遍 采 用 了 列 存 储 技 术 ; NoSQL 阵 营 普 遍 采 用 了 KV 技 术 三 个 阵 营 都 不 同 程 度 地 采 用 了 分 布 式 计 算 分 布 式 文 件 系 统 内 存 计 算 技 术, 并 积 极 地 使 用 新 的 硬 件 技 术, 如 大 内 存 Flash SSD 和 高 速 网 络 连 接 ( 万 兆 交 换 机 和 Infiniband) 7
大 数 据 推 动 产 品 创 新 NewSQL GBase 8a Greenplum Vertica AsterData Sybase IQ F1/Spanner NoSQL Hadoop HBase Bigtable Cassandra Dynamo Dremel Impala OldSQL TimesTen Altibase SolidDB Exadata Netezza Teradata 大 数 据 推 动 了 数 据 库 行 业 的 产 品 创 新,NewSQL 阵 营 在 过 去 五 年 里 形 成 了 近 十 个 商 用 的 产 品, 去 年 Google 发 表 论 文 介 绍 了 F1/Spanner 关 系 型 数 据 库 ( 未 开 源 ) NoSQL 阵 营 的 技 术 源 于 互 联 网 公 司 Google, Yahoo,Amazon, Facebook 等 OldSQL 阵 营 在 基 本 架 构 不 变 的 基 础 上 引 入 内 存 计 算 和 一 体 机 技 术 以 提 升 处 理 性 能 8
新 型 NewSQL 数 据 库 市 场 格 局 公 司 产 品 技 术 特 点 产 品 来 源 Sybase IQ 列 存 + 共 享 磁 盘 收 购 (2010) HANA 内 存 数 据 库 + 列 存 收 购 (2009) NewSQL 国 外 厂 商 Vertica 列 存 + MPP 收 购 (2011) Greenplum 行 存 + 列 存 +MPP 集 群 收 购 (2010) PDW 列 存 + MPP 集 群 预 计 2013 年 初 国 内 厂 商 GBase 8a 列 存 + MPP 集 群 国 内 唯 一 (2008 年 ) NoSQL 国 外 厂 商 BigTable 列 存 + Key Value Google(2004 年 ) HBase 列 存 + Key Value 开 源 社 区 (2006 年 ) 9
大 数 据 的 宏 观 视 图 : 行 业 与 互 联 网 大 数 据 大 数 据 领 域 行 业 大 数 据 互 联 网 大 数 据 经 营 类 管 理 类 监 管 类 专 业 类 电 信 信 令 电 信 话 单 金 融 细 账 金 融 票 据 电 力 调 度 智 能 电 网 经 营 分 析 结 构 化 为 主 文 件 报 表 纳 税 分 析 社 保 分 析 决 策 支 持 预 测 结 构 化 + 半 结 构 化 公 安 网 监 国 安 技 侦 舆 情 监 控 银 监 会 稽 查 食 品 溯 源 环 保 监 测 结 构 化 + 半 结 构 化 音 视 频 地 震 勘 探 气 象 云 图 卫 星 遥 感 雷 达 数 据 物 联 网 非 结 构 为 主 10% 结 构 化 30% 半 结 构 化 60% 非 结 构 化 价 值 密 度 结 构 化 > 半 结 构 化 >> 非 结 构 化 中 国 既 有 互 联 网 大 数 据 更 有 行 业 大 数 据, 是 世 界 为 数 不 多 的 数 据 大 国 行 业 大 数 据 的 价 值 密 度 对 数 据 库 厂 商 的 价 值 更 大 10
目 录 大 数 据 引 发 的 行 业 变 革 GBase 8a MPP Cluster GBase 8a 电 信 经 分 类 DW 案 例 介 绍 企 业 简 介 & QA 11
GBase 8a 应 用 定 位 : 分 析 类 应 用 全 数 据 处 理 Old SQL 数 据 库 : Oracle, DB2 等 服 务 器 产 生 的 数 据 : 网 络 电 信 金 融 物 联 网 等 直 接 加 载 应 用 应 用 类 型 数 据 分 析 挖 掘 GBase 8a 全 文 检 索 + 查 询 统 计 非 结 构 大 数 据 管 理 查 询 统 计 设 备 产 生 的 数 据 : 遥 感 高 分 雷 达 地 震 气 象 扫 描 音 视 频 等 结 构 关 系 模 型 半 结 构 全 文 检 索 + DFS 非 结 构 元 数 据 + DFS 应 用 领 域 政 府 行 业 安 全 物 联 网 12
传 统 的 Shared Disk 架 构 Interconnection Network CPU CPU CPU CPU CPU CPU memory memory memory Shared storage:san,nas disks 数 据 13
新 型 的 Shared Nothing + MPP 架 构 技 术 Interconnection Network CPU CPU CPU CPU CPU CPU MPP 架 构 横 向 扩 展 最 多 192 个 节 点 memory memory memory disks disks disks disks 数 据 数 据 分 布 策 略 Hash, Range, Random 14
Shared Disk 和 Shared Nothing 架 构 对 比 数 据 库 集 群 架 构 Shared Disk Shared Nothing 有 Master 无 Master Oracle RAC GreenPlum HDFS HBase GBase 8a Vertica Teradata 15
GBase 8a MPP Cluster 集 群 架 构 特 征 应 用 程 序 SQL 数 据 库 节 点 Interconnect.. 无 Master, 节 点 对 等 的 扁 平 架 构 高 性 能, 高 密 度 节 点 完 全 并 行 的 MPP+Shared Nothing 架 构, 在 线 节 点 动 态 伸 缩 多 副 本 数 据, 透 明 高 可 用 数 据 分 发 节 点 外 部 数 据 来 源 ftp, nfs etc 16
GBase 8a Cluster 集 群 架 构 探 秘 应 用 层 SQL 统 一 接 口 层 JDBC,ODBC,.Net, CAPI SQL 分 布 式 并 行 任 务 管 理 层 GCluster Parser Optimizer 分 布 式 任 务 GCluster Parser Optimizer Coordinator Coordinator 分 布 式 数 据 管 理 层 GBase 8a 列 存 储 引 擎 全 文 检 索 引 擎 高 速 数 据 链 接.. GBase 8a 列 存 储 引 擎 全 文 检 索 引 擎 分 布 式 A B 集 群 节 点 A B 存 储 层 数 据 多 个 副 本 数 据 多 个 副 本 分 布 式 集 群 管 理 层 GCWare OS + 存 储 GCWare OS + 存 储 17
核 心 技 术 : 集 群 高 可 用 性 保 证 机 制 -Safegroup GBASE Cluster database 一 个 Safegroup node1 T1p1 T1p2 T1p3 node2 T1p1 T1p2 T1p3 数 据 2 个 副 本 Replicator/ 复 制 引 擎 node3 T1p1 T1p2 T1p3 18
核 心 技 术 : 在 线 动 态 扩 展 能 力 通 过 Safegroup 动 态 扩 展 集 群 节 点 GBase Cluster database 可 以 实 际 扩 展 到 64x3 个 节 点 每 个 节 点 可 以 处 理 10-20TB 有 效 数 据 每 个 节 点 同 时 提 供 计 算 和 存 储 能 力 Gcware 负 责 新 节 点 的 数 据 同 步 19
目 录 大 数 据 引 发 的 行 业 变 革 GBase 8a MPP Cluster GBase 8a 电 信 经 分 类 DW 案 例 介 绍 企 业 简 介 & QA 20
移 动 经 分 DW 测 试 : 测 试 目 标 本 次 测 试 的 测 试 目 的 是 针 对 在 某 电 信 运 营 商 的 经 营 分 析 领 域 中 应 用 GBase 8a MPP Cluster 数 据 库, 在 大 数 据 量, 多 运 算 节 点 环 境 下 进 行 的 现 网 实 际 需 求 的 性 能 测 试 智 能 分 析 领 域 大 数 据 电 信 行 业
移 动 经 分 DW 测 试 : 业 务 场 景 描 述 本 次 测 试 的 数 据 表 按 全 国 4.9 亿 用 户 生 成, 以 1 年 为 时 间 跨 度, 按 平 均 每 人 每 年 450 次 普 通 通 话 话 单, 1200 次 网 络 流 量 话 单 产 生 的 业 务 数 据 4.9 亿 手 机 用 户 1 年 时 间 跨 度 普 通 话 单 与 网 络 流 量 话 单
移 动 经 分 DW 测 试 : 业 务 场 景 描 述 本 次 测 试 过 程 使 用 某 电 信 运 营 商 测 试 规 范 中 的 测 试 数 据 模 型, 生 成 200T 的 数 据, 其 主 要 数 据 模 型 分 布 情 况 如 下 数 据 表 名 中 文 名 称 字 段 数 目 单 行 长 度 数 据 规 模 ( 亿 行 ) 数 据 量 XXX_VOIC_XXX 普 通 语 音 话 单 80 584 2240 124 TB XX_SVC_XXXX_XXX 用 户 80 536 4.9 180 GB XXX_XXX 明 细 账 单 5 60 28 148 GB XX_XXX_XXX_XXX_HIST 用 户 开 通 业 务 功 能 历 史 4 59 28 180 GB XX_XXX_XXXX_ORG_XXX X_XXX 集 团 业 务 个 人 用 户 绑 定 关 系 6 63 14 69 GB XXXX_CDR 网 络 流 量 话 单 12 129 5600 76 TB
移 动 经 分 DW 测 试 : 平 台 测 试 环 境 介 绍 测 试 环 境 一 共 分 为 三 个 部 分, 由 3 个 加 载 节 点 组 成 的 加 载 模 块,80 个 运 算 节 点 组 成 的 集 群 模 块 和 1 个 监 控 节 点 的 监 控 模 块 组 成, 各 个 部 分 间 通 过 万 兆 网 络 环 境 互 连 3 加 载 节 点 1 监 控 节 点 万 兆 网 络 环 境 80 节 点 集 群
移 动 经 分 DW 测 试 : 平 台 测 试 环 境 介 绍 80 个 运 算 节 点, 采 用 40*2 进 行 部 署, 分 为 40 个 SafeGroup SafeGroup 是 GBase 8a MPP Cluster 的 高 可 用 机 制, 每 个 Safegroup 最 多 支 持 三 个 存 储 节 点, 数 据 存 储 3 份, 保 证 数 据 和 计 算 的 高 可 用 此 次 测 试 每 个 SafeGroup 中 包 含 两 个 运 算 节 点 相 互 备 份 40X2 SafeGroup 集 群 node1 node2 一 个 Safegroup T1p1 SafeGroup 中 每 个 节 点 相 互 备 份 T1p1 T1p2 T1p2
移 动 经 分 DW 测 试 : 网 络 部 署 部 署 结 构 示 意 图
移 动 经 分 DW 测 试 : 平 台 基 础 环 境 介 绍 通 用 的 x-86 2U, 2 路 PC 服 务 器 64GB 内 存 6x600GB 15k SAS 盘 10K Ethernet 网 络 标 准 Linux 操 作 系 统 84 台 服 务 器 5 台 万 兆 交 换 机 部 署 跨 7 个 机 柜 硬 件 配 置 项 详 细 信 息 硬 件 配 置 项 详 细 信 息 交 换 机 型 号 DELL PowerConnect 8024F 机 器 型 号 DELL PowerEdge R720XD 交 换 容 量 480Gbps CPU 2*4 core(intel(r)xeon(r)cpu E5620 @2.40GHz) 内 存 16MB 内 存 64GB 端 口 24 硬 盘 3.6T(600GBx6, 1 5K 转 SAS 盘 ) 端 口 类 型 SPF+ 网 卡 10Gb DA/SFP+ 聚 合 网 络 适 配 器
移 动 经 分 DW 测 试 : 测 试 场 景 分 类 与 方 法 本 次 测 试 场 景 可 分 为 数 据 加 载 与 存 储 测 试 功 能 测 试 性 能 测 试 压 力 与 稳 定 性 测 试 可 扩 展 测 试 高 可 用 测 试 压 缩 测 试 7 大 类,15 小 类, 总 计 29 个 测 试 用 例, 测 试 用 例 分 布 如 下 图 所 示 测 试 用 例 分 布 数 据 加 载 和 存 储 测 试 2 个 7% 4% 3% 3% 功 能 测 试 4 个 7% 性 能 测 试 18 个 14% 压 力 和 稳 定 性 测 试 2 个 62% 可 扩 展 测 试 1 个 高 可 用 测 试 1 个 压 缩 测 试 1 个
移 动 经 分 DW 测 试 : 测 试 场 景 分 类 与 方 法 测 试 方 法 本 次 测 试 分 为 2 个 阶 段 进 行 测 试, 分 别 为 64 节 点 集 群 测 试 与 80 节 点 集 群 测 试 每 个 测 试 用 例 均 以 测 试 脚 本 形 式 执 行 测 试, 全 程 避 免 人 工 干 预 每 个 测 试 用 例 执 行 前 进 行 清 理 缓 存 操 作, 保 证 全 部 在 冷 数 据 情 况 下 进 行 测 试, 并 开 启 系 统 资 源 监 控 和 集 群 总 体 状 态 监 控 32X2 SafeGroup 集 群 扩 容 40X2 SafeGroup 集 群 64 节 点 集 群 测 试 阶 段 80 节 点 集 群 测 试 阶 段
移 动 经 分 DW 测 试 : 测 试 用 例 汇 总 测 试 用 例 分 布 情 况 数 据 加 载 和 存 储 测 试 单 表 加 载 多 表 加 载 功 能 测 试 基 本 语 句 测 试 OLAP 函 数 测 试 资 源 分 配 测 试 管 理 功 能 测 试 性 能 测 试 基 本 操 作 数 据 rollback 并 发 多 任 务 数 据 导 出 端 到 端 测 试 压 力 和 稳 定 性 测 试 压 力 测 试 稳 定 性 测 试 可 扩 展 测 试 64 节 点 扩 80 节 点 测 试 高 可 用 测 试 节 点 故 障 后 可 恢 复 性 测 试 压 缩 测 试 归 档 压 缩
测 试 结 果 数 据 加 载 能 力 测 试 数 据 加 载 与 存 储 测 试 用 于 测 试 GBase 8a Cluster 的 数 据 加 载 与 存 储 的 能 力, 它 包 括 单 表 与 多 表 加 载 测 试 用 例, 本 次 测 试 通 过 3 个 加 载 机 同 时 进 行 加 载, 加 载 过 程 开 启 归 档 压 缩 加 载 机 加 载 机 200T 数 据 文 件 GBase 8a Cluster 148T 存 储 空 间 加 载 机 由 于 存 在 副 本, 实 际 入 库 参 与 预 算 的 数 据 量 为 400TB, 采 用 压 缩 入 库, 压 缩 比 为 1:2.7, 实 际 占 存 储 空 间 148TB( 含 副 本 数 据 )
功 能 测 试 功 能 测 试 主 要 包 括 对 标 准 SQL 语 句 支 持 测 试,OLAP 函 数 支 持 的 测 试, 资 源 负 载 管 理 测 试, 系 统 管 理 测 试 4 部 分 内 容 标 准 SQL 语 句 支 持 测 试 用 于 测 试 对 于 SQL92 标 准 的 支 持 情 况, 共 计 283 个 SQL 语 句, 本 次 测 试 全 部 通 过 OLAP 函 数 支 持 测 试 用 于 验 证 对 常 用 OLAP 函 数 的 支 持 能 力 与 性 能 指 标, 本 次 测 试 包 含 6 个 SQL 语 句, 本 次 测 试 全 部 通 过 资 源 负 载 管 理 测 试, 用 于 验 证 在 多 用 户 环 境 下 对 不 同 用 户 发 起 的 任 务 请 求 进 行 资 源 的 占 用 限 定 机 制, 本 次 测 试 包 含 3 个 测 试 案 例, 本 次 测 试 全 部 通 过 系 统 管 理 测 试, 用 于 验 证 系 统 提 供 的 外 部 管 理 能 力, 包 含 4 个 测 试 案 例, 本 次 测 试 全 部 通 过
1000s 功 能 测 试 : OLAP 函 数 测 试 结 果 OLAP 函 数 测 试 是 针 对 用 户 详 单 表, 数 据 量 在 28 亿 级 别 进 行 的 测 试, 测 试 结 果 如 下 : 200.00 180.00 160.00 140.00 120.00 100.00 80.00 60.00 SQL 样 例 : SELECT subs_id, avg(mer_amt-disc_amt) over (partition by subs_id order by acct_prd_ytm) From _ ; 45.5 171.9 40.00 20.00 0.00 19.7 22 2.7 2.1
性 能 测 试 内 容 性 能 测 试 包 括 基 本 操 作 测 试, 数 据 Roll back 操 作, 并 发 多 任 务, 端 到 端 测 试 4 大 类,18 个 测 试 用 例, 包 含 35 条 SQL 语 句 基 本 操 作 测 试 用 于 验 证 应 用 基 本 操 作 类 型 时 的 性 能 表 现, 包 含 8 个 测 试 用 例, 涵 盖 了 7 条 SQL 语 句 ; 数 据 Roll back 操 作 用 于 验 证 数 据 回 滚 的 性 能 表 现, 包 含 2 个 测 试 用 例, 涵 盖 了 4 条 SQL 语 句 ; 并 发 多 任 务 用 于 验 证 在 多 并 发 情 况 下 的 性 能 表 现 包 含 5 个 测 试 用 例, 涵 盖 了 9 条 SQL 语 句 ; 端 到 端 测 试 用 于 考 察 在 端 到 端 场 景 下 的 性 能 表 现 包 含 3 个 测 试 用 例, 涵 盖 了 15 条 SQL 语 句 ; 22
性 能 测 试 结 果 基 本 操 作 基 本 操 作 测 试 包 括 全 表 扫 描 多 表 关 联 Merge 操 作 Insert Update Delete 嵌 套 Distinct 去 重 操 作, 执 行 结 果 如 下 所 示 单 位 : 秒 基 本 操 作 5000 4000 3000 2000 1000 基 本 操 作 0
性 能 测 试 案 例 全 表 扫 描 全 表 扫 描 是 一 个 可 以 完 全 并 行 分 布 的 SQL,GBase 8a 的 列 存 储 +MPP 架 构 在 亿 级 规 模 的 表 上 可 达 到 秒 级 响 应 下 面 案 例 包 含 最 常 用 SQL 统 计 函 数 千 亿 级 别 十 亿 级 别 亿 级 别 记 录 数 :2240 亿 查 询 时 间 :2568.3 s 记 录 数 :28 亿 查 询 时 间 :36.8 s 记 录 数 :4.9 亿 查 询 时 间 :16.1 s SQL 样 例 : SELECT FROM GROUP BY substr(call_bgn_tm,1,2), sum(cfee), avg(lfee), max(lfee2), min(info_fee), avg(disc_cfee), avg(disc_lfee), sum(disc_lfee2), sum(disc_info_fee), count(distinct(msisdn)) _VOIC_ substr(all_bgn_tm,1,2); xxx_voic_xxx 表 中 的 数 据 按 照 MSISDN 自 动 做 一 致 性 hash 分 布
性 能 测 试 案 例 : 多 表 关 联 多 表 关 联 用 例, 测 试 GBase 8a MPP Cluster 对 大 事 实 表 与 维 度 表 关 联 的 性 能 多 表 关 联 1 关 联 表 : 流 量 表 用 户 表 内 容 计 费 业 务 代 码 数 据 量 :2240 亿 +4.9 亿 + 维 度 表 结 果 集 :42 执 行 时 间 :2008.7 s 多 表 关 联 2 关 联 表 : 话 单 表 用 户 表 用 户 类 型 维 度 表 数 据 量 :5600 亿 +4.9 亿 ++ 维 度 表 结 果 集 :12 执 行 时 间 :2230.4 s SQL 样 例 : SELECT FROM JOIN ON JOIN ON WHERE AND AND count(a.msisdn), sum(a.call_dur), sum(a.up_dat_strm_amt), B.CMCC_PROV_PRVD_ID, C.BUSN_NAME _CDR A _SVC_ _ B A.MSISDN=B.MSISDN _ _ _ _ C A.BUSN_CD =C.BUSN_CD A.CALL_BGN_TM>'YYYYMMDDHHMMSS' B.SUBS_TYP_CD in('1','2') substr(a.msisdn,1,2) in ('13','15','18','14') GROUP BY B.CMCC_PROV_PRVD_ID,C.BUSN_NAME;
性 能 测 试 案 例 : 多 任 务 并 发 多 任 务 并 发 查 询 用 例 用 于 测 试 GBase 8a Cluster 在 单 个 用 户 下 使 用 SQL 语 句 做 多 并 发 查 询, 验 证 其 查 询 效 率 大 表 并 发 查 询 大 表 查 询 样 例 : 关 联 表 : 流 量 表 用 户 表 内 容 计 费 业 务 代 码 表 数 据 量 :5600 亿 +4.9 亿 并 发 量 :20 SELECT count(a.msisdn), sum(a.call_dur), sum(a.up_dat_strm_amt), B.CMCC_PROV_PRVD_ID, C.BUSN_NAME 查 询 总 数 :100 次 结 果 集 行 数 :42 行 总 执 行 时 间 :3270.3 s 小 表 并 发 查 询 关 联 表 : 用 户 表 账 单 明 细 表 数 据 量 :4.9 亿 +28 亿 并 发 量 :100 查 询 总 数 :100 万 次 FROM 小 表 查 询 样 xxx_cdr 例 : A JOIN SELECT _SVC_ _ count(*) B ON FROM A.MSISDN=B.MSISDN _SVC_ _ A JOIN LEFT OUTER _ _ _ _ JOIN _ B C ON on A.BUSN_CD A.SUBS_ID=B.SUBS_ID =C.BUSN_CD WHERE WHERE A.MSISDN= '; A.CALL_BGN_TM>='20120114000000 and A.CALL_BGN_TM<='20120114235959 and B.SUBS_TYP_CD in('1','2') and substr(a.msisdn,1,2) in ('13','15','18','14') GROUP BY B.CMCC_PROV_PRVD_ID,C.BUSN_NAME; 结 果 集 行 数 :1 行 总 执 行 时 间 :7348.6 s 注 算 子 条 件 中 的 日 期 与 手 机 号 从 原 表 中 随 机 获 取
性 能 测 试 案 例 : DML 并 发 insert 多 任 务 并 发 insert 用 于 测 试 GBase 8a Cluster 在 使 用 同 一 用 户 做 多 次 并 发 insert 操 作, 验 证 数 据 插 入 效 率 用 例 分 为 2 部 分 组 成, 分 别 针 对 表 进 行 大 数 据 量 并 发 插 入 操 作 以 及 小 数 据 量 并 发 插 入 操 作 大 表 并 发 insert 并 发 量 :20 查 询 目 标 表 数 据 总 量 :2240 亿 insert 总 数 :100 次 一 次 insert 行 数 :5.1 亿 行 总 执 行 时 间 :39233 s SQL 样 例 ( 大 表 并 发 ): INSERT into _VOIC_ _TMP1 SELECT * FROM _VOIC_ WHERE CALL_BGN_DT = yyyymmdd 小 表 并 发 insert 并 发 量 :100 查 询 目 标 表 数 据 总 量 :4.9 亿 insert 总 数 :100 万 次 一 次 insert 行 数 :1 行 总 执 行 时 间 :27481 s SQL 样 例 ( 小 表 并 发 ): INSERT into _SVC_ _ _TMP1 SELECT * FROM _SVC_ _ WHERE MSISDN= ' 注 算 子 条 件 中 的 日 期 与 手 机 号 从 原 表 中 随 机 获 取
混 合 负 载 场 景 测 试 案 例 : 省 经 端 到 端 测 试 省 经 端 到 端 用 例 是 性 能 测 试 中 比 较 重 要 的 一 个 用 例, 它 包 括 背 景 加 载 任 务, 统 计 查 询 业 务, 精 确 查 询 业 务,Merge 操 作, 插 入 操 作 更 新 操 作 删 除 操 作 和 数 据 导 出 查 询 涉 及 数 据 量 :122 亿 行 导 出 数 据 量 :229G 加 载 数 据 量 :1.2T Merge 数 据 量 :6.9 亿 行 Insert 数 据 量 :7.4 亿 行 Update 数 据 量 :7.4 亿 行 Delete 数 据 量 :7.4 亿 行 查 询 SQL 样 例 : SELECT FROM JOIN LEFT JOIN COUNT(A.MSISDN),SUM(A.CFEE), COUNT(DISTINCT B.MSISDN),COUNT(DISTINCT A.MSISDN) XXX_VOIC_XXX_TMP4 A XX_XXX_XXXX_HIST_TMP4 B ON A.MSISDN=B.MSISDN and B.SUBS_TYP_CD='2' XX_XXX_XXX_XXXX_TYPE C ON A.CDR_SUBS_TYP_CD=C.CDR_SUBS_TYP_CD and C.CDR_SUBS_TYP_CD IN('0','4','2') LEFT JOIN XX_XXX_XXX_FUNC_HIST_TMP4 D ON B.SUBS_ID=D.SUBS_ID LEFT JOIN XX_XXX_XXXX_XXX_XXXX_SUBSCRB_TMP4 E ON D.SUBS_ID=E.SUBS_ID and E.ORG_SVC_TYP in('32619598','87007319') WHERE A.CALL_BGN_DT>'20110622 and A.CALL_DUR > 10 and A.SVC_TYP in ('003','004','005') and substr(a.msisdn,1,2) in ('13','15','18','14');
VGOP 端 到 端 测 试 真 实 业 务 环 境 模 拟 VGOP 端 到 端 用 例 是 整 个 端 到 端 用 例 中 最 为 复 杂 的 一 个 用 例, 它 包 括 背 景 加 载 前 景 加 载 多 任 务 并 发 查 询 多 任 务 并 发 Insert 和 数 据 导 出 查 询 数 据 量 :5600 亿 行 加 载 数 据 量 :829G 导 出 数 据 量 :149G
扩 展 性 测 试 :64 到 80 节 点 扩 展 在 数 据 量 为 200TB 下, 完 成 了 64 节 点 到 80 节 点 的 扩 容 操 作 同 时 在 64 和 80 节 点 分 别 执 行 了 SQL 语 句, 考 察 扩 容 后 的 系 统 性 能 扩 容 耗 时 60 小 时 测 试 结 果 : 节 点 数 增 加 了 25%, 查 询 性 能 提 升 了 20%, 呈 线 性 提 升 单 位 : 秒 30000 25000 20000 32 2 SafeGroup 集 群 线 性 扩 展 能 力 扩 容 40X2 SafeGroup 集 群 单 位 : 秒 15000 30000 10000 20000 10000 5000 0 0 单 位 : 秒 30000 20000 10000 64 节 点 0 avg sum Rank Row_number 全 表 扫 描 多 表 关 联 Distinct 64 节 点 80 节 点 80 节 点
高 可 用 测 试 : 在 线 替 换 2 个 服 务 器 高 可 用 测 试 执 行 了 节 点 故 障 测 试 以 及 节 点 恢 复 测 试, 整 个 恢 复 过 程 耗 时 2 小 时, 且 该 过 程 还 执 行 了 背 景 SQL, 是 考 察 在 此 场 景 下 数 据 库 对 应 用 的 高 可 用 和 故 障 后 的 可 恢 复 能 力 网 络 连 接 异 常 GBase 8a Cluster 高 可 用 节 点 级 异 常 节 点 恢 复 工 作 总 耗 时 2 小 时, 恢 复 过 程 中 数 据 库 可 以 正 常 使 用
11:50 12:00 12:10 12:20 12:30 12:40 12:50 13:00 13:10 13:20 13:30 13:40 usr%+sys% Disk xfers 测 试 结 果 汇 总 分 析 介 绍 压 力 测 试 压 力 测 试 主 要 内 容 是 采 用 能 力 摸 高 的 方 式 操 作, 测 试 数 据 库 在 高 压 力 之 下 的 处 理 能 力, 该 测 试 在 2240 亿 数 据 量 下, 包 含 了 1 个 SQL, 测 试 过 程 服 务 器 资 源 监 控 如 下 SQL 样 例 : SELECT sum(ta.call_dur), sum(ta.cfee_bill_dur), sum(ta.long_fee_bill_d UR), sum(ta.cfee), sum(ta.lfee), sum(ta.lfee2), 100 System Summary 2013/2/4 CPU% IO/sec 14000 sum(ta.info_fee), sum(ta.disc_cfee), sum(ta.disc_lfee), sum(ta.disc_lfee2), sum(ta.disc_info_fee), sum(tb.mer_amt), sum(disc_amt) FROM _VOIC_ TA, _ TB, _SVC_ _ TC WHERE TA.MSISDN=TC.MSISDN and TB.SUBS_ID=TC.SUBS_ID and substr(ta.msisdn,7,5)= 80 60 40 20 0 12000 10000 8000 6000 4000 2000 0
千 亿 级 大 表 关 连 案 例 SELECT a.cust_brnd_id, sum(b.total_call_dur) total_call_dur, sum (case when c.total_flow is null then 0 else c.total_flow end) total_flow FROM TB_SVC_SUBS_HIST a JOIN ( select MSISDN, ON SUM(call_dur) as total_call_dur from GSM_VOIC_CDR group by MSISDN) b a.msisdn=b.msisdn LEFT JOIN (select MSISDN, sum(up_dat_strm_amt+dwn_ dat_strm_amt) as total_flow FROM GPRS_CDR group by MSISDN) c on a.msisdn=c.msisdn group by cust_brnd_id ; 按 用 户 品 牌, 计 算 1 年 内 所 有 用 户 通 话 数 据 业 务 总 量 3 张 表 数 据 量 返 回 结 果 集 执 行 时 间 5600 亿 +2240 亿 +4.9 亿 挑 战 和 核 心 技 术 : 3 3.8 小 时 对 复 杂 SQL 产 生 完 全 并 行 分 布 的 SQL 执 行 计 划 每 个 单 节 点 上 的 并 行 hash join 效 率 单 节 点 上 8a 列 存 储 引 擎 的 高 效 统 计 能 力 全 列 扫 描 的 效 率
压 力 测 试 下 系 统 资 源 瓶 颈 分 析 数 据 导 出 数 据 汇 总 节 点 系 统 资 源 统 计 每 个 计 算 节 点 系 统 资 源 统 计 磁 盘 I/O 能 力 仍 然 是 系 统 瓶 颈! 单 个 节 点 可 达 到 的 上 限 : 读 写 =500MB/s I/O=35000 次 /s 网 络 =600MB/s
测 试 总 结 关 键 指 标 数 据 加 载 性 能 : 4.7TB/ 小 时, 持 续 稳 定 数 据 压 缩 比 : 1:2.7 ( 真 实 数 据 压 缩 比 远 大 于 此 值 ) 单 个 查 询 响 应 时 间 : 秒 级 到 小 时 级 混 合 业 务 场 景 支 持 : 加 载 + 查 询 +DML+ 数 据 导 出 大 表 关 联 : 2 个 千 亿 级 表 + 亿 级 维 度 表 复 杂 查 询 : OLAP 函 数 的 支 持 高 可 用 : 在 线 替 换 任 何 物 理 节 点 高 扩 展 能 力 : 在 线 扩 展 集 群 数 据 重 分 布 稳 定 : 高 压 下 连 续 24 小 时 稳 定 运 行 并 发 : 同 时 执 行 上 千 个 SQL
测 试 总 结 我 们 学 到 了 什 么? 100 节 点,1PB 结 构 数 据 NewSQL MPP 数 据 库 集 群 能 够 解 决 行 业 大 数 据 分 析 问 题, 处 理 能 力 远 远 超 过 SMP 的 小 型 机 架 构 高 可 用, 故 障 恢 复 集 群 必 须 有 故 障 自 动 检 测 和 恢 复 能 力 动 态 扩 展, 生 命 周 期 管 理 集 群 必 须 具 有 动 态 扩 展 在 线 替 换 节 点 平 台 生 命 周 期 管 理 功 能, 实 现 rolling upgrade 易 用 性, 可 维 护 性 集 群 产 品 必 须 要 有 高 效 的 自 动 优 化 能 力, 自 我 监 控 诊 断 能 力 所 有 测 试 都 是 在 数 据 压 缩 态 下 实 现 没 有 使 用 任 何 索 引, 分 区, 物 化 视 图
8a MPP Cluster 应 用 场 景 总 结 8a 的 优 势 是 大 数 据, 但 是 小 数 据 也 有 适 用 的 场 景 如 ROLAP 大 数 据 查 询, 统 计 分 析 互 联 网 移 动 互 联 网 金 融 电 信 物 联 网 等 : PB 支 撑 能 力 海 量 数 据 边 入 库 边 使 用 数 据 仓 库 支 撑 ODS,EDW,DM: 百 TB 支 撑 能 力 万 亿 行 多 表 join, 复 杂 统 计 即 席 查 询 统 计 分 析 基 于 任 何 字 段 组 合 的 随 机 查 询 统 计 : 百 TB 支 撑 能 力 几 百 列 的 宽 表 任 意 组 合 查 询 R-OLAP Cube 基 于 星 形 雪 花 模 型 的 多 维 分 析 : TB 支 撑 能 力 - TB 级 别 的 CUBE 实 时 钻 取 Interconnect.. 49
大 型 行 业 IT 支 撑 架 构 现 状 分 析 系 统 单 一 孤 岛 式 部 署 为 主 数 据 库 以 传 统 OldSQL 为 主 以 SMP 的 小 型 机 为 主 案 例 : 某 电 信 运 营 商 拥 有 40PB 高 端 存 储 5000 台 以 上 小 型 机 高 端 小 型 机 优 点 : 过 去 20 年 形 成 的 成 熟 技 术 体 系 适 合 支 撑 业 务 固 定 数 据 量 小 且 增 长 缓 慢 的 应 用 潜 在 问 题 和 困 难 : 每 TB 数 据 管 理 成 本 在 20-50 万 RMB 之 间 单 个 系 统 很 难 超 越 100TB 数 据 规 模 很 难 应 对 快 速 发 展 的 新 业 务 需 求 数 据 快 速 增 长 需 求 50
新 型 数 据 库 如 何 解 决 IT 大 数 据 支 撑 问 题? 去 小 型 机 化 基 于 x-86 的 云 化 改 造 从 SMP 到 MPP 逐 步 取 代 传 统 数 据 库 使 用 新 型 MPP 分 布 式 数 据 库 小 型 机 的 垂 直 扩 展 能 力 已 经 达 到 极 限 MPP 集 群 的 横 向 扩 展 能 力 优 势 明 显 : 互 联 网 证 明 了 一 切 新 型 大 数 据 平 台 在 大 数 据 处 理 上 的 价 值 明 显 : 对 比 项 SMP ( 特 殊 环 境 ) MPP ( 开 放 x-86 环 境 ) 每 TB 数 据 处 理 成 本 20-50 万 元 2-5 万 元 系 统 处 理 能 力 100TB 1PB 应 用 支 撑 能 力 单 一 固 定 多 样 弹 性 51
MPP 架 构 的 横 向 扩 展 能 力 80 台 2U 普 通 PC Server 意 味 着 什 么 样 的 处 理 能 力? 内 容 测 试 平 台 最 大 可 能 容 量 CPU 1280 核 1280 核 2*8 cores 内 存 5TB 20TB 内 部 存 储 容 量 281.25TB 562.5TB 15k,600GB SAS I/O 带 宽 ( 读 ) 62.5GB/ 秒 80GB/ 秒 I/O 带 宽 ( 写 ) 31.25GB/ 秒 40GB/ 秒 IOPS 80 万 100 万 网 络 带 宽 800MB/s ( 使 2GB/s ( 使 用 IB) 用 10K Ethernet)
数 据 处 理 技 术 趋 势 : 混 搭 架 构, 多 种 技 术 高 数 据 价 值 密 度, 实 时 性 低 SMP/ OldSQL MPP/NewSQL MPP/NoSQL TB PB EB 数 据 管 理 能 力 53
目 录 大 数 据 引 发 的 行 业 变 革 GBase 8a MPP Cluster GBase 8a 电 信 经 分 类 DW 案 例 介 绍 企 业 简 介 & QA 54
企 业 简 介 数 据 库 产 品 研 发 与 销 售 天 津 南 大 通 用 数 据 技 术 有 限 公 司 GBase 数 据 库 产 品 供 应 商 GBase 产 品 解 决 方 案 供 应 商 基 本 情 况 经 营 地 区 企 业 实 力 注 册 时 间 :2004 年 5 月 注 册 资 金 :2000 万 元 总 资 产 :1.2 亿 员 工 数 :400 人 天 津 : 总 部 与 技 术 基 地 北 京 : 营 销 中 心 分 公 司 或 办 事 处 : 沈 阳 西 安 济 南 南 京 广 州 成 都 等 11 个 城 市 入 选 2010 年 国 家 规 划 布 局 内 重 点 软 件 企 业 是 人 员 规 模 最 大 市 场 占 有 率 最 高 技 术 能 力 最 强 的 国 产 数 据 库 厂 商 55
特 色 产 品 优 质 服 务 本 土 厂 商 十 年 努 力 安 全 市 场 政 务 市 场 行 业 市 场 安 全 数 据 库 目 录 数 据 库 通 用 数 据 库 GBase 8s GBase 8d GBase 8g 内 存 数 据 库 Altibase 分 析 型 数 据 库 GBase 8a 神 舟 通 用 ( 核 高 基 ) 2005- 今 2001- 今 2004- 今 2007- 今 安 全 自 主 高 速 56
企 业 资 质 高 新 技 术 企 业 商 用 密 码 产 品 定 点 单 位 公 安 部 信 息 安 全 产 品 销 售 许 可 软 件 企 业 国 军 标 资 质 认 证 国 家 规 划 布 局 内 重 点 软 件 企 业 ISO27001 安 全 体 系 ISO9001 质 量 管 理 体 系 ISO14000 环 境 体 系 57
企 业 资 质 : 国 家 规 划 布 局 内 重 点 软 件 企 业 连 续 两 届 入 选 国 家 规 划 布 局 内 重 点 软 件 企 业 ( 全 国 共 242 家 ) 2011-2012 年 度 国 产 数 据 库 唯 一 入 选 企 业 国 家 五 部 委 联 合 认 定 ( 国 家 发 改 委 工 信 部 商 务 部 财 政 部 国 税 总 局 ) 2011-2012 年 度 2010 年 度 58
世 界 级 的 市 场 和 用 户 一 定 能 培 育 出 世 界 级 的 产 品 数 据 库 大 会 有 奖 活 动, 请 关 注 新 浪 微 博 @GBASE 数 据 库 天 津 : 中 国 天 津 华 苑 产 业 区 海 泰 发 展 六 道 6 号 海 泰 绿 色 产 业 基 地 J 座 电 话 :022-58815678 传 真 :022-58815679 北 京 : 北 京 市 海 淀 区 金 源 时 代 商 务 中 心 B 座 1206 电 话 :010-88866866 传 真 :010-88864556 网 址 : http://www.gbase.cn E-mail:info@gbase.cn 技 术 支 持 热 线 :400-817-9696