Oracle Exadata 在行业的应用 李楠技术咨询顾问
什么是 Exadata?
传统服务器架构 Si Si Si Si 图例 FC 光纤通道千兆以太网线百兆以太网线光纤交换机磁盘存储阵列磁带存储客户端负载均衡器核心交换机核心交换机光纤交换机负载均衡器开发 测试环境系统备份生产环境开发测试备份服务器应用服务器数据库服务器应用服务器 1 2 5 15 12 14 10 11 生产环境 4 数据库服务器 13 6 3 ETL 服务器 ETL 服务器 7 开发测试 8 9
什么是 Exadata 数据库云服务器 Exadata 数据库云服务器是完全优化的 高性能数据库平台 利用业界最为先进的软硬件技术, 并将这些技术发挥到极致 解决传统的系统配置中的性能瓶颈 为企业的各类应用提供端到端的数据管理解决方案 数据库网格智能存储网格 8 台 2CPU( 每 CPU8 核 ) 14 个高性能低费用的存储服务器 64 位的数据库服务器或者 2 台 8CPU( 每 CPU10 核 ) 64 位的数据库服务器 100 TB 高性能存储, 或者 504 TB 高容量存储 InfiniBand 网络 冗余的 40Gb/s 交换机 统一的服务器和存储网络 22.4TB PCI Flash 存储服务器之间作了数据镜像
Oracle 工程化设计的系统 典型的基础架构 Vendor 工作量大, 集成费用昂贵 不能保证有效协作 不保证有效性能 维护成本高 零碎的服务和支持 意外的事故 Oracle 更多创新, 开放 更好性能, 扩展性, 安全性 更少的部署时间 易于管理和升级 更低的拥有成本 TCO 减少变化管理的风险 一站式支持服务
标准化, 部署简单, 整体架构平衡及优化 客户化配置的系统无法达到最佳性能 各部件不平衡, 错误配置, 瓶颈 Exadata 是完全端到端优化配置, 随付即用 2 位数 GB/ 秒磁盘到数据库的数据传输 磁盘, 闪存, 控制器, 总线,HBA, 网络,CPU 等 数据库优化的网络, 磁盘, 操作系统, 服务器 数年的调试, 严格测试, 预置的, 无特殊配置问题 等同于经过 Oracle 专家级大师配置,30 年的 Oracle 数据库经验 端到端优化, 没有瓶颈 在几天内部署完毕, 而不是数月 运行现有 OLTP 和 DW 应用 无需 Exadata 认证 Oracle 技术环境 : 技术, 知识库, 人, 合作伙伴 磁盘到数据库的服务
Exadata 的进化 X3-2 8-core Servers X3-8 80-core Servers State-of-the-Art, Scale-out Hardware Storage Expansion Rack X2-8 CPU Refresh 2TB DRAM per node X2-2 Servers X2-8 64-core Servers Exadata V1 Introduced V2 Servers 40 Gb InfiniBand PCI Flash Cards Solaris x86 Reverse Offload Smart Flash Logging Enterprise Manager 12c Database to Disk Management Write-back Flash cache Smart Scan InfiniBand Scaleout Hardware DB Encryption Automatic Service Request Smart Flash Cache Data Mining Offload Storage Index Columnar Compression Unique Software Integration 2008 2009 2010 2011 2012
8 数据库平台需要具备的能力 性能 保障现有业务, 并支撑未来业务的发展 可靠性 保障业务 7x24 不间断运行 易运维 简单的运行管理和维护 扩展性 支持横向或纵向扩展来支撑业务的发展 成本 降低采购和后期维护成本 服务 及时的服务响应和问题解决
高性能 性能性能
Exadata 数据处理结构的革命 Exadata 架构 传统架构 更少的数据传输 传统 4-8 Gb/S Exadata: 40Gb/S
Exadata 提升性能的关键技术 Exadata 突破传统架构的性能瓶颈 数据库服务器 请求 InfiniBand 智能存储服务器 1 : 高速网络 Infiniband 高速互联使得网络传输不再成为瓶颈 2 : 智能扫描 智能扫描技术彻底解决 IO 瓶颈 (10-100 倍数据处理 ) 3 : 混合列压缩 高效的数据压缩技术节省存储成本的同时, 提升系统性能 (10-50 倍压缩比 ) 4 : 智能闪存 智能闪存显著提升处理效率 ( 10-100 倍 IO 速度 ) 智能扫描 智能闪存, 存储索引等是 Oracle Exadata 独有的关键性能突破技术
Exadata smart scan 处理技术 问题 : 昨天的销售情况如何? Exadata 为什么快 10-100x 倍? Select sum(status) where Date= 24- Sept 数据库网格 构建并发 Smart Scan 请求 Exadata 智能存储层 Smart Scan 在 TB 级数据中扫描匹配请求的数据 SUM 仅仅返回满足条件的数据
智能扫描技术 消除 I/O 瓶颈 数据访问操作被下移到智能存储层中执行, 彻底消除 IO 瓶颈的可能 过滤无用的信息 随数据量的增长具备可扩展能力 20GB Read Exadata 过滤 100MB Sent 数据库服务器 20GB Read 20GB Sent DB CPUs 过滤 Exadata 智能存储 传统的存储
Exadata 存储索引透明的 I/O 操作, 没有额外开销 Table A B C D 1 3 5 5 8 3 Index Min B = 1 Max B =5 Min B = 3 Max B =8 Exadata 存储索引在内存中维护表数据的汇总信息 存储列的最小值和最大值 典型的是每 MB 磁盘一个索引 如果 where 语句中的条件无法与最大值 最小值匹配, 就不会有磁盘 I/O 操作 完全的自动化和透明化 Select * from Table where B<2 - Only first set of rows can match
Exadata 混合列压缩技术 数据以字段形式存储并压缩 Only on Exadata 查询模式 最优的速度 典型的可达到 10X 的压缩率 按压缩比率改进扫描 归档模式 针对非频繁的数据访问 减少空间 典型的可达到 15X 的压缩率 有些可达到 50X Up To 50X
Exadata 智能闪存缓存为 OLTP 和数据仓库提供极限性能 Exadata 有 22.4 TB 的闪存 56 块闪存 PCI 卡防止控制器瓶颈 智能的管理闪存 智能闪存缓存存储热点数据 Avoids large scan wipe-outs of cache 提供闪存的速度, 磁盘的花费 5X More I/Os than 1000 Disk Enterprise Storage Array Exadata 闪存缓存 : 超过 1.5 million IO/sec from SQL (8K) Sub-millisecond 的响应时间
Exadata Smart Flash Log 使用 Flash 提升交易的响应时间 Erase cycles, wear leveling, etc 缺省 ( 红色 ) - 波动的响应时间 - 高异常值 Transaction Response Times Smart Flash Log - 3 倍的速度 - 平稳的响应时间 Smart Flash Log Enabled 更好的方式将 Flash 的用于数据库在线日志 Flash 速度很快而且性能波动很小 全自动和透明 Smart Flash Log 透明的使用 Flash 加速磁盘的日志写性能 无论磁盘还是 flash, 谁先写完日志写交易就完成 更好的响应时间和吞吐量 使用很少的 flash 空间 (0.1%)
Exadata 性能提高分析总结 Exadata 软件减少了循环执行次数,(SmartScan 存储索引 混合列压缩 ) 带来数据规模减少, 同时减少了循环执行次数 数据库时间 数据库等待时间 数据库 CPU 时间 IO 等待时间 网络等待时间 ¼ Exadata 提供比生产系统高 8 倍的 IOPS 和 11 倍的 IO 吞吐 ¼ Exadata IB 网络提供比生产高 10 倍的吞吐和 1/100 的处理延时 ¼ Exadata CPU 处理能力是生产系统的 2 倍 Exadata 硬件加快 IO 处理 网络处理和 CPU 处理
高可靠保证 RAS 特性 可靠性 多层冗余和容错机制降低计划和非计划停机 通过服务器失败恢复 存储失败恢复 网络失败恢复 电源失败恢复等全面确保数据的高可用性 Exadata 服务器节点 RAS 特性 Intel Xeon Advanced Reliability Features (Intel MCAR, SMI Lane failover, QPI Self Healing) 内存 ECC, 过热降频保护功能 冗余的热插拔电源 散热风扇 磁盘 RAID MTBF: 58,000 ~ 60,000 小时 单节点 RAS : 99.998% Exadata 集群 RAS 特性 冗余 集群的数据库服务器 冗余 集群的存储服务器 冗余的网络交换机和网络端口 ASM 镜像 冗余的 PDU
高扩展能力灵活配置, 按需在线扩展 扩展性 Oracle Exadata X2-2 2 to 8 (16 core) database nodes Oracle Exadata X2-8 2 (80 core) database nodes 2 TB DRAM Quarter Half Full, Multi-Rack Exadata models and configurations span the full range of enterprise database deployments Full-Rack Multi-Rack
传统架构的扩展 21 均衡化配置方法论 分区和 HA 规划 网络互联配置规划 数据库存储规划
资源整合 降低采购成本打包销售更优惠, 无软件正版化风险 成本 革新整合架构带来新的销售模式, 降低总体成本并且简化用户工作 将 CPU 从数据库服务器转移到磁盘阵列 : 获得更高性能 无需为这部分 CPU 购买数据库软件, 无软件版权问题 两全其美! 传统方式软硬件分别采购 : 分别购买数据库软件 主机 交换机 闪存卡 磁盘阵列 手工配置, 大量协调工作 按照主机 CPU 数量购买数据库软件, 成本极高 ; 否则面临正版化风险, 影响公司形象 左右为难!
Exadata 与传统集群小型机计算环境比较 1 台满配数据库云平台 3 台集采高端满配服务器集群 +5 台集采高端存储阵列 SPEC_CINT 2006 Rates IOPS MBPS 功耗体积 1 台满配数据库云平台 6,068 1,500,000 75,000 9.8kW 1 Rack 3 台集采高端满配服务器集群合计 6,048 5 台集采高端存储阵列合计 900,000 36,235 19.2kW( 单台 6.4KW) 39kW( 单台 7.8KW) 2-3 Racks 5 Racks 结论 :1 台满配数据库云平台的处理能力 =3 台高端满配服务器 +5 台高端存储阵列, 而功耗和占用机房空间分别仅是后者的 1/6 和 1/7
简单的运维 Exadata 监控和管理 易运维
可维护性微码 补丁升级 提供为 Exadata 测试优化过的补丁包 专门补丁包, 消除补丁冲突的可能, 简化补丁安装过程, 减少补丁安装时间 无须对各个部件单独升级, 如 :BIOS, HCA, Disk controller, Disk firmware, Drivers, OFED 相同的配置, 专门的测试, 减少补丁本身可能的问题 支持滚动升级, 实现零停机
26 Oracle 支持服务 服务 Oracle 售后增值服务 Software Servers and Storage Engineered Systems
27 Oracle Exadata 售后增值服务 Oracle Premier Support for Engineered Systems 24*7*365 远程问题监控,15 分钟通知,30 分钟服务请求生成,24/7 在线 24*7 专属远程响应团队, 用户的所有问题通过统一的接口解决 每个季度对整个系统, 包括硬件和软件执行补丁服务 快速响应时间的承诺, 对严重级别为 1 的 30 分钟响应, 严重级别为 2 的 2 小时响应 专享热线及客服经理
PS4ES 服务平台概览 28 Monitoring Gateway Sun 4170 服务器 抽取必要的 Exadata 状态 远程访问完成 : 验证 / 诊断错误事件信息 补丁 用户可以完全控制设备 用户可以指定仅发送必要信息 仅在必要时连接 Exadata 系统 用户可以关闭设备
最好的数据库机整合数据和分析 在线数据操作 分析数据模型 集成 ETL 联机分析
Exadata 的应用场景
问题 : 不同数据库操作类型间的冲突 (OLTP 与 DW)
Oracle 数据库既支持 OLTP, 也支持 DW
Exadata 的技术特性 智能存储 Scale-out InfiniBand storage Smart Scan query offload 混合列压缩 10x compression for warehouses 15x compression for archives + + + uncompressed 智能闪存 Accelerates random I/O up to 30x Triples data scan rate 数据在扫描过程和存储在 flash 都以压缩的方式进行 compress primary DB Benefits Cascade to Copies standby test dev backup
Exadata 适用于多系统整合和高性能计算 34 相比应用系统的虚拟化而言, 业务压力 系统的 I/O 吞吐量 系统的资源利用率是数据库 服务器的主要参考依据 高 高性能和高扩展型 例 : 彩票销售 电子商务 数据仓库 I/O 吞吐量 多系统整合 低 低 资源 (CPU 内存等 ) 使用率 高
Exadata 多应用部署模式 数据库云服务器 外部用户 内部用户 应用服务器集群 数据库服务器集群 Oracle RAC DB Local Balancer 外部用户 内部用户 应用服务器集群 数据库服务器集群 Oracle RAC DB Local Balancer 外部用户 内部用户 应用服务器集群 数据库服务器集群 Oracle RAC DB Local Balancer 外部用户 内部用户 应用服务器集群 数据库服务器集群 Oracle RAC DB Local Balancer
使用数据库云进行整合 效率 Exadata 数据库云 负载 数据库云 Oracle Exadata 投资回报率 数据库虚拟化 操作系统 数据库 服务器 存储 云中数据库 整合 服务器 存储 操作系统 数据库和负载整体整合
应对资源使用的突发变化在数据库资源池内, 进行按需能力供应 感知需求高峰 大乐透透 排列 3 排列 5 七星七星彩彩 感知需求高峰 云生命周期管理 虚拟数据库资源池 资源调整 资源调整
整合后的收益 孟加拉国电信运营商 数据装载速度提高 30 倍 土耳其电信运营商 日本电信运营商 : 软银 在数据仓库系统中替代原有 36 台 Teradata, 占地面积减少 12 倍 (36Racks 减到 3Racks) 查询速度提升 2~8 倍 数据压缩 10 倍 (250TB->25TB) 查询速度提升 10 倍 ~400 倍 (50K 报表 / 月 ), 减少 DC 占地面积 \ 电力 制冷 11 倍 澳大利亚联邦银行 整合 250+ 数据库到 Exadata 3 个数据库中 新业务部署实施时间提升 30 倍 (4 月 ->4 天 ); 提供内部数据库云服务 北美最大的在线市场营销公司 提升查询速度 8 倍 服务器和存储效率提升 8 倍 减少运维 OPEX 3.5 倍 减少 DC 占地面积 \ 电力 4 倍
Exadata 样例客户
Oracle Exadata Customers Small & Large Customers; Across All Industries
Oracle Exadata Customers (Cont.) Small & Large Customers; Across All Industries;
在线支付系统 Mission-critical Databases Production Databases 2 X Exadata X2-8 2 X Full Storage Expansion Primary Data Center Test/Dev ETL Targets GoldenGate Real-time Data Integration * Extreme Performance 300K executions/sec Real Time analysis of 99.99% of critical transactions. avg 40 ms response for 99.99% OLTP databases commonly 10-130 TB WAN, 650+ miles (30ms) Active Data Guard Standby Offload queries and reads Corruption Protection Symmetric System Data Guard ASYNC Redo Transport DR Data Center Production and Standby Clusters = 8 Exadata Racks 3 identical Architectures = 24 Exadata Racks + Test/Dev Resources supporting our Critical Applications. HA and MAA 99.99% Availability MAA technologies (RAC, ASM, ADG, Exadata, Flashback, GG) All disk groups using high redundancy Active Data Guard for auto block corruption repair and DR Rolling upgrade using ASM, Exadata, CRS, Data Guard, and GoldenGate
美国某政府机构 Benefits Faster Applications Storage Savings Maximum Availability Cost Savings Oracle Exadata has changed our strategic IT focus from building systems to developing and supporting application services critical to the fulfillment of our national security mission. - Ken Ritchhart, Deputy Assistant Commissioner 10X speedup 32 billion queries/day 1 Petabyte Replaced $$ SAN 99.95% 75% Cost Reduction Business Objectives Reduce cost and complexity Meet availability SLAs Extreme scalability Consolidation Solution 2010: Implement V2, X2-2 2011: Add X2-2, X2-8 2012: Add X2-8, Exalogic Exadata V2 Primary/Standby Automated Targeting Systems Exadata X2-2 Primary /Standby Automated Export Systems Passenger Systems Exadata X2-8 Primary/Standby Data Guard Data Guard Data Guard 2010 2010-2011 2011-2012 Enterprise Data Warehouse
某移动运营商 DB Consolidation DB 资源池 OSS 交易类应用 OSS 分析类应用 OSS 其他类型应用 智能资源池 共享 Exadata 所有存储资源 专业网管 管理信息系统 信令监测 综合分析
某电信运营商 DW and DB Consolidation Benefits Faster Reports Storage Savings Reduced Admin Data Center Cost Savings In a word, Oracle Exadata is fantastic. Almost no report takes more than 10 minutes to run, versus hours before. It sounds unreal, but it s real. - Power User, Finance Department 10X 27 min to 3 min (avg for 50k rpts) 900 TB 1,000 TB to 100 TB 20% 80% Less Power 30 m 2 Less Space Business Objectives Pre-Exadata Data Warehouse Exadata V2 Data Warehouse 2 Exadata X2-2 Prod Original V2 Prod/DR/Dev Speed up BI Lean, green data center Prepare for big data growth Solution Hitachi USP-V 5 Racks EMC DMX-4 5 Racks 2010 2011 Backup Restore 2010: Replace 11 racks with 1 full-rack Exadata V2 for DW 2011: Add 2 full-rack Exadata X2-2s for DB consolidation 250 TB Raw Data 25 TB Compressed 2 Prod Databases 600 TB Raw / 60 TB Compressed 16-node RAC Cluster 4 Prod, 2 Test Databases 400 TB Raw/ 40 TB Compressed 2 RAC Clusters
某快速消费品厂商 DW and OLTP Benefits Faster Applications Storage Savings Simplified Support Performance with Exadata is much better, and getting an out-of-the-box solution dramatically reduced the time and money to build and maintain our DW platform. - Brian Beckman, DW Platform Manager 2-30X 3x 10x Compression Business Objectives Improve stability and supportability Exadata V2 Data Warehouse Prod Non-Prod Exadata X2-2 Data Warehouse Prod DR Dev UAT Exadata X2-8 Data Warehouse Prod Non-Prod Exadata X2-2 OLTP/Analytics Prod Non-Prod Lower costs Boost performance Solution Data Guard 2010: Implement 1 ST DW on V2 2011: Move 2 nd DW to X2-2, Move OLTP/Analytics to X2-2 2012: Move 3 rd DW to X2-8 Trade/Mkt/POS Data Shipments Data Fin l/planning Data Trade Fund Management
Oracle Beehive: Collaboration Benefits Capacity for Growth Faster Response 100% Uptime [Beehive] is our largest application inhouse. It is Oracle s largest backend database. - Campbell Webb, Vice-President IT, Oracle 5x 60x Business Objectives Company-wide collaboration for > 100K users Exadata V1 Storage Servers Exadata X2-2 Production Austin (Texas) Data Center Exadata X2-2 Standby Utah Data Center CPU/ storage growth 3+ years Improved response times Guarantee uptime 2011 Data Guard Solution 96 V1 storage servers 9 full-rack X2-2 9 full-rack X2-2 2009: Move Beehive storage to Exadata V1 storage 2011: Migrate to Exadata X2-2 Post-Sun acquisition, CPU and disk oversubscribed 2.3 Petabytes raw disk 48 TB flash > 5,000 peak TPS Triple mirroring Disk backups/flashback enabled 100% uptime since go-live
Exadata 的价值点 1. Exadata 提高了商业信息的的战略价值 在硬件及软件层面针对 Oracle 数据库的不可超越的性能优化 提供了更快的战略业务信息给决策支持者 改善了业务用户的全面服务质量水平 2. Exadata 更低的成本 极大的减少了存储成本 (e.g., 混合列压缩, 自动存储管理 ) 数据库服务器 网络 存储整合产生了 IT 价值链的 (e.g., 服务器, 存储, 电力, 管理员, 面积 ) 3. Exadata 降低风险, 节省了时间成本 完整解决方案, 更快的部署, 更低的风险 设计 集成 测试 交付即用装载数据 可以利用现有数据库上的投资和最佳实践 4. 符合云平台战略 满足现有系统平台运行数据库管理的需要 满足未来更多业务系统数据库管理的需要 5. 磁盘 - 数据库端到端的服务, 最好的服务保障