Exadata新技术特性及其应用

<Insert Picture Here> Exadata 新技术特性及其应用 售前咨询顾问李强 Oracle(China) Sales Consultant

Exadata 概览

为什么快?Exadata 革命性的设计 Exadata 请求 DB Servers InfiniBan d Exadata Storage 高性能理由 1 Smart Scan : 计算负载部分卸载至并行智能存储层, 并只传输经筛选的有用数据 高性能理由 2 综合列压缩 (EHCC) : 技术获得 10x- 50x 超高压缩比, 并提高磁盘 I/O 效率高性能理由 3 Smart Flash Cache : 高达 5.3TB 的 Flash Cache, 随机 I/O 性能高达 1M IOPS 高性能理由 4 Infiniband : 提供 40Gb/s 端口带宽, 聚合带宽高达 880Gb/s, 端口延时 (0.1um ) 小于以太网的 1/1000 Smart Scan EHCC Smart Flash Cache 等是 Oracle Exadata 独有的关键性能突破技术 3

Exadata 硬件架构 数据库网格 8 个数据库节点 (1U) 64 个 Intel 内核 576 GB 内存 InfiniBand 网络 3 个 36 口,40Gb/s 的交换机 统一网络 - 服务器和存储互连 相当于 324 个光纤口 存储网格 14 个存储服务器 (2U) 存储有 112 个 Intel 内核 100 TB SAS 盘或 336 TB SATA 盘 5 TB PCI 闪存 数据在存储服务期间进行镜像 4

Exadata 软件架构 Real Application Clusters ASM 高可用存储管理 Exadata 数据库智能存储软件 Partitioning (8i) 超大表的性能和管理 13 年的成熟技术 Real Application Clusters (RAC) (9i) 数据库网格性能与高可用性 10 years > 15,000 用户 Automatic Storage Manager (ASM) (10g) 卷管理 & 存储网格可靠性 6 years > 6000 用户 Exadata Storage Server Software (11g) 智能存储网格 5

Exadata 的创新特性 智能存储和 Infiniband 数据库云和软硬件可管理性提升

智能存储和 INFINIBAND

Exadata 的创新特性 Exadata Storage Server Software 智能的存储 Smart Scan: 查询卸载至存储 可扩展的存储 Hybrid Columnar Compression 数据仓库 10x 压缩比 归档数据 15x 压缩比 + + + Smart Flash Cache 随机 I/O 速度提升 30x (1M IOPS) 数据扫描速度提升 2 倍 数据以压缩格式进行扫描, 以及在闪存中存储 未压缩 primary backup test standby dev t 压缩 8

Exadata 智能存储网格可扩展的数据处理 数据密集型操作在 Exadata 存储网格中进行 当数据从磁盘传输时, 会对行和列数据进行过滤 (168 Intel Cores) 例子 : 上个季度销售了多少产品 X Exadata Storage 从磁盘读取 10TB Exadata Storage 使用产品名和日期对数据进行过滤 把符合条件的 100GB 数据发送给 DB 服务器 可横向扩展的存储级并行执行, 消除了性能瓶颈 9

Exadata 的存储端数据库处理 Exadata Storage Server 在存储端进行数据密集型处理 使用 where 谓词筛选行 列筛选 联接筛选 增量备份筛选 对加密数据的筛选 数据挖掘模型 通常发送到数据库服务器的数据减少 10 倍 无需更改应用程序 处理是自动和透明的 即使在查询期间单元或磁盘发生故障 10

Exadata 存储索引透明的消除 IO 而且没有多余资源需求 Table A B C D 1 3 5 5 8 3 Index Min B = 1 Max B =5 Min B = 3 Max B =8 Exadata 存储索引在内存中维护一些关于表数据的汇总信息 字段的最大最小值 一般而言每兆磁盘数据会有一个索引项 如果查询的 where 条件和最大最小值不匹配时, 存储索引可以消除不必要的 IO 完全自动化和用户透明 Select * from Table where B<2 - Only first set of rows can match 11

存储索引与分区 : 一个例子 Orders Table Order# Order_Date Ship_Date Item Partitioning Column 1 2007 2007 2 2008 2008 3 2009 2009 如果是按照 Order_Date 分区的, 那么使用 Ship_Date 的查询可能用不到分区带来的好处 但是 Ship_date 和 Order# 两者同 Order_Date 都有很强的相关性 例如 : 发货日期一般都会在 Order_Dates 之后, 但不会在前 存储索引这时就能为用到 Ship_Date 和 Order# 的查询提供类似分区修剪功能带来的性能提升 创建分区或有序加载的数据由于数据是有序的, 对存储索引更有利 12

存储索引和 Join 例子 Dimension Select count(*) from fact, dim where fact.m=dim.m and dim.name= Camry Fact Name M A M C D Accord 1 Camry 3 Civic 5 Bloom filter constructed with min/max for M Perform IO and apply bloom filter 1 3 5 Prius 8 Skip IO Due to Storage Index 5 5 5 13

案例 : 某大型汽车制造厂商 Smart Scan 和 Storage Index 默认开启 且对 DBA 和开发人员而言完全透明, 无需特殊改造!Oracle 建议保持其开启状态 智能扫描影响 关闭 Exadata Storage Server 软件的 Smart Scan 功能, 观察存储中这项功能的作用和影响 打开 Smart Scan 比不打开快 6.2 倍

Exadata Smart Flash Cache OLTP & DW 的极致性能 Exadata 有 5 TB 的 Flash 56 个 Flash PCI 卡避免了磁盘控制器的瓶颈 智能管理的 Flash Smart Flash Cache 存储热点数据 避免大量扫描后的结果集占用缓存 提供了闪存的速度, 磁盘的成本 比 1000 块盘的存储整列快 5x Exadata flash cache 可以达到 : 超过 150 万 IOPS from SQL (8K) 亚秒级响应时间 15

Exadata Smart Flash Log 使用 Flash 来加速交易响应时间 默认值 ( 左边 ) - 响应时间波动 - 很高的异常点 Transaction Response Times Smart Flash Log Enabled Smart Flash Log - 响应时间加快 3x - 异常点低 自动的 用户透明的 Smart Flash Log 对用户透明的使用 Flash 作为并行的写缓存 磁盘和 Flash 哪个快就算哪个 减少了响应时间和异常点 log file parallel write 直方图得到改善 大幅减少 log file sync 几乎不占用 Flash 资源 (0.1%) 16

案例 : 某中型券商 智能闪存 Exadata 1/4 配一体机 Exadata 性能提升倍数 智能闪存的性能表 HISENTRUST_big 303571985 条,78871M SAS 磁盘 15.6 秒 HISENTRUST_big 78871M, 303571985 条 Select /* + parallel(t) full(t) */ Count(*)from HISENTRUST_big t; ~5GB/s Flash 闪存 6.36 秒 Alter table HISENTRUST_big storage(cell_flash_cache keep); Select /* + parallel(t) full(t) */ Count(*) from HISENTRUST_big t; ~12GB/s 2.45X 17

Query 混合列压缩高压缩比, 低性能损耗 数据按列组织和压缩 压缩比好 数据仓库可以使用 查询模式 来获得好的性能 一般能达到 10X 压缩比 由于 Exadata 的存储卸载功能, 查询更快! 对于不常访问的数据采用 归档模式 一般能达到 15X 到 50X 的压缩比 更快更简单 备份 灾备 缓存 重组 克隆都能加快 多重的益处 18

行压缩 vs 列数据库 vs 混合列 压缩的行 Database Block Symbol Table 列数据库 混合列 Compression Unit 1 Row 1 Row 2 Row 3 Compression Unit 2 很好的随机行访问特性 OK 表访问 2x - 5x 压缩 很差的随机行访问特性 非常好的 Table Scan 5x - 40x 压缩 很好的随机行访问特性 非常好的 Table Scan 5x - 40x 压缩 19

Exadata 混合列压缩 Compression Unit 表的几千个行形成一组, 叫压缩单元 Compression Units (CU) 在压缩单元中, 根据列组织数据, 再压缩 将列举有相似值的数据放在一起, 以提升压缩能力 Reduces Table Size 减少 4x - 50x 4x to 40x 对大量数据加载和查询很有好处 20

案例 : 某大型电信运营商 -- 数据压缩 指标 非压缩表 1 BMS_CUSTL OG 压缩表 1(Query High)BMS_CUST LOG_QH 压缩表 2(Archive High)BMS_CUST LOG_AH 记录数 232757094 232757094 232757094 大小 (MB) 21389 3461.875 2613.5 压缩比 ( 压缩前 / 压缩后 ) 全表扫描执行时间 (Sec) 1 6.178 8.18 9.69 1.44 1.35 使用 Query High 压缩比为 6 倍,Archive High 为 8 倍, 但使用 Archive 方式解压时会消耗更多 CPU 时间, 所以全表扫描时间与 Query High 相比提升并不明显 21

Exadata: 对大型扫描的优化 10 TB 的用户数据需要 10 TB 的 IO 1 TB ( 压缩 ) 100 GB ( 分区修剪 ) 20 GB ( 存储索引 ) 5 GB ( 智能扫描 ) 在 Exadata 上实现亚秒级 22

Exadata 中的 Infiniband 数据库节点间通过 RDS over Infiniband 做 IPC, 支持 RDMA Exadata 各个节点间通过 RDS over Infiniband 做 IPC, 支持 RDMA 数据库服务器到 Exadata 节点的通讯架构见左图 Exadata 节点实现了 idb 协议,iDB 协议和 iscsi 类似, 但是具有数据库智能,iDB 协议的基础是 ZDP 网络传输协议 ZDP 协议 ( Zero-loss Zero-copy Datagram Protocol) 实际上就是 RDS V3 RDS: 一种低开销 低延时 高带宽 高可靠的报文传输协议 RDMA: 一种网卡技术, 采用该技术可以使一台计算机直接将信息放入另一台计算机的内存中, 而无需双方操作系统介入 降低网络协议开销 23

数据库云和软硬件可管理性提升

DBFS 可扩展的共享文件系统 Exadata 可以使用 DBFS 作为文件数据的共享文件系统 ETL Files, Reports 统一存储文件和关系型数据 和普通的 Linux 或 Solaris 文件系统类似 文件以 SecureFile LOB 的形式存放在数据库中 文件通过数据库的镜像 /DataGuard/FlashBack 等来进行冗余保护 使得文件 / 数据库表统一 节省了外部 ETL 存储整列的成本和复杂性 比高端 NAS 的数据吞吐量大 7 GB/sec (25 TB/hour) 文件系统的 I/O 吞吐 12 TB/hour 数据库数据加载速率 每秒超过 1 千万行数据 25

DB Resource Manager 数据库资源管理器 在整合的数据库中限制资源使用 最小 CPU 占用率 最大 CPU 占用率 并行度限制 多层级计划 活动会话数限制 可以动态修改资源计划 DB Consolidation Plan #1 CPU Maximum Allocation Utilization Limit HR 50% 50% Sales 30% 50% ERP 20% 50% 26

Exadata I/O Resource Manager Exadata I/O 资源管理器 确保不同的数据库获得正确的相对 IO 带宽占用率 Database A: 33% I/O 资源 Database B: 67% I/O 资源 确保同一数据库内不同的用户和任务获得正确的相对 IO 带宽占用率 Database A: Reporting: 60% of I/O 资源 ETL: 40% of I/O 资源 Database B: Interactive: 30% of I/O 资源 Batch: 70% of I/O 资源 Database A Database B InfiniBand Switch/Network Exadata Cell Exadata Cell Exadata Cell 27

并行执行测试 (1) Copyright 2010, Oracle Corporation and/or its affiliates 28

并行执行测试 (2) Copyright 2010, Oracle Corporation and/or its affiliates 29

DBaaS Exadata 云特性 服务器节点动态扩展 可快速并且方便的增加和减少服务器池中的服务器节点 业务应用系统, 服务节点处理能力不够了, 需要添加新的服务节点 方便轻松的从可用的服务器池中接入 业务应用系统 app_pool 可用的服务器 业务应用系统 app_pool 可用的服务器池 Exadata 服务器负载均衡 在各项测试中 Exadata 收集的各个节点的 CPU 内存负载完美地实现了负载均衡 30

Oracle Enterprise Manager 用于管理 Exadata 软硬件的统一视图 硬件视图 存储节点 数据库节点和交换机的图示 硬件组件报警 软件 / 系统使用 性能, 可用性, 数据库 / 服务 / 集群的使用情况 数据库 /ASM/ 集群的报警 DB 系统和集群的拓扑图 配置视图 所有组件的版本概览和补丁建议 31

Exadata ASR 客户数据中心 Oracle Support Services 硬件故障 现场工程师替换 FRU Oracle 现场工程师 客户 电子邮件通知客户 SR 已经创建 Oracle 售后工程师发布 FRU Oracle Support Engineer Oracle Case Management System SR 传递到 Oracle 售后支持工程师 产品的自动诊断功能向 ASR Manager 发出 SNMP 消息 ASR Manager 故障信息安全传输至 Oracle ASR Service Service Request (SR) 创建 32

总结

数据库整合及云服务, 简化数据中心架构 ERP HR CRM DW System 远程灾备 Exadata DB Cloud DataMart 磁盘阵列 SAN 磁带备份 磁带备份 远程灾备 DBaaS 整合与按需服务 服务器 存储及网络资源池 统一管理与监控 随需扩展 34