SequoiaDB技术简介

SequoiaDB 技术简介 王涛

产品简介 SequoiaDB 自主研发的企业级分布式数据库 由前 IBM DB2 资深研发成员在北美完成原型设计和内核开发 被众多企业用户选择替代 MongoDB 和 HBase 性能高于国际同类产品 www.sequoiadb.com 2

Agenda 1 2 3 4 大数据概况 SequoiaDB 标准 SQL 支持 Hadoop 整合 5 银行应用场景

Big Data, Big World 大数据概况

大数据 : 信息驱动力 3v 海量数据规模 50% 组织拥有和处理 >10TB 数据 10% 已经处理 >1PB 电子商务和 Web 日志可产生每分钟上万的数据项 社交媒体应用每分钟产生百万交互活动 价值 : 提高效率提升客户体验降低风险创造新的商机 高时效性 30% 组织需要每天处理 >100GB 数据 批处理更新从每天提升到每小时, 每分钟, 甚至实时 复杂事件处理能够即时产生信息发送给分析系统 实时流数据处理 volume velocity 多样化 传统的结构化数据依然是最常见的数据 非结构化的情绪表达和客户行为快速增长 企业现存的非结构化数据蕴含大量开放文本 视频音频在业务操作中被使用 博客, 论坛以及评论反映了客户的声音 volume

Hadoop and SequoiaDB (NoSQL) Hadoop 分布式存储 Volume Variety Velocity Yes Yes SequoiaDB Yes Yes 传统关系型数据库 Yes Hadoop 针对海量与多样化数据 NoSQL 针对海量与高时效性数据 Hadoop 与 NoSQL 互为补充, 而非取代

大数据架构参考超越传统的数据仓库概念 传统数据仓库 传统 / 关系型 数据源 Database & Warehouse At-Rest Data Analytics Results 流计算 非传统 / 非关系型 数据源 In-Motion Analytics Ultra Low Latency Results 传统 / 关系型 大数据处理 数据源 Horizontal Scale 非传统 / 非关系型数据源 Data Analytics Data Operations Model Building Results

企业级 NoSQL Database SequoiaDB ( 巨杉数据库 )

SQL 真可以搞定所有事情? 半结构化数据根本无法维护 SQL 能帮我们做所有的事情

应用程序开发早期, 数据模型相对简单

随着越来越多需求的提出, 数据模型逐渐复杂

数据模型的频繁变更造成维护的不便

复杂的数据模型最终导致产品迭代周期延长

SequoiaDB vs MySQL SequoiaDB

SequoiaDB vs MySQL db.user.profile.find ( { user_id : 1021 } ) ; 使用文档结构能够大大简化数据模型的设计与维护

NoSQL 让我们能够 快速开发, 快速迭代 减少新功能发布的停机时间 确保产品能够随时水平扩张

SequoiaDB 为实时查询与分析而建立 应用层 协调层 编目分片 协调节点... 网络层 数据存储层 数据分片数据分片数据分片...

SequoiaDB 物理架构 协调节点 协调节点 协调节点 协调节点协调节点协调节点 数据节点 数据节点 数据节点 数据节点数据节点数据节点 数据节点数据节点数据节点数据节点数据节点数据节点 编目节点编目节点编目节点 cm cm cm cm cm cm 角色协调节点数据节点编目节点 CM 节点 功能胖客户层, 从编目读取数据分布信息, 从数据节点读取数据负责数据表存储, 提供查询 聚集 数据复制功能负责元数据信息存储, 包括组信息 表切割信息负责集群管理, 包括 watchdog, 节点增删启停

数据水平分区 - Database Partitioning 协调节点数据节点协调节点数据节点协调节点数据节点协调节点协调节点协调节点数据节点数据节点数据节点数据节点数据节点数据节点数据节点数据节点数据节点数据表可按照字段哈希或者范围切割到多组服务器上编目节点编目节点编目节点优势 : 容量和性能可线性扩展

数据垂直分区 - Collection Partitioning 数据表可按照字段范围切割到多个逻辑分区中 协调节点 数节据点 数节据点 数节据点 数据分区 数据分区 数据分区 数据分区 优势 : 容量和性能可线性扩展

HA 高可用性 读 写操作 主数据节点 应用程序 只读 从数据节点 异步日志复制 只读 从数据节点 优势 : 高可用性 + 读写分离

HA 高可用性 主数据节点 应用程序 只读 从数据节点 异步日志复制 只读 从数据节点 场景 : 主节点掉电, 从节点立刻感知

HA 高可用性 主数据节点 应用程序 主数据节点 从数据节点 自动选主 场景 : 从节点自动选举出新的主节点

HA 高可用性 节点恢复 应用程序 读 写操作 主数据节点 节点恢复同步 异步日志复制 只读 从数据节点 场景 : 问题节点恢复后自动并入集群, 成为从节点

异构数据复制机制 Primary Repl-log 虚拟复制请求 异步业务请求 w=1 同步业务请求 w=3 差异化的数据可靠性级别 灵活可配置的数据分片 支持同步与异步复制机制 Secondary Repl-log Push 更新通知 Pull 批量 Repl-log Secondary Repl-log Repl-Group LOST-Window COLD-Window HOT-Window Repl-log 相对窗口 优势 : 异构数据复制机制灵活平衡业务性能 可用性和数据可靠性

读写分离 主 主 主 主 实例 1 数据录入类 从 从 从 从 实例 2 Ad-hoc 类 从 从 从 从 实例 3 批量分析类 分区 1 分区 2 分区 3 分区 4 优势 : 细粒度划分, 指定应用程序所使用的实例

在线扩容 存储空间可扩展 在线迁移数据 业务不中断 负载均衡 扩容步骤 : 将新增节点添加到集群中 划分数据分区 系统自动迁移数据

在线扩容优势 传统数据库 (ORACLE 和 DB2) 性能及吞吐量非线性增长 业务中断时间长 SequoiaDB 增加节点可线性提升数据访问性能 无需中断业务在线扩容 性能和吞吐量 1 2 3 4 5 6 7 8 9 10 11 节点数 ( 个 ) SequoiaDB 传统 (ORACLE 和 DB2)

事务支持 跨集合跨节点事务操作 记录锁 提交 回滚 二段提交

记录锁 行级锁 写操作加互斥锁 读操作默认不加锁 读操作允许加互斥锁 db.transbegin(); db.cs.cl.find({a:1}).lock(); db.cs.cl.update({$inc:{a:1}},{a:1}); db.transcommit() ;

SequoiaDB 与 MongoDB 的差异 SequoiaDB MongoDB 事务 有 无 SQL 支持 有 无 性能 高 中 数据压缩 有 无 存储过程 有 弱 JDBC 驱动 有 无 数据可靠性 高 低 记录锁 有 无

SequoiaDB 与 HBase 的差异 SequoiaDB HBase 多索引 有 无 非主键排序 有 无 聚集 有 无 存储过程 有 无 事务 有 无 锁 有 无 SQL/JDBC 有 无 高可用性 强 弱 图形管理界面 有 无 数据更新删除 有 无

MongoDB 的灵活性 +Cassandra 的性能 场景 1: 电信 40 亿条记录 30 TB 8 台物理机 48GB 内存 6 SATA 磁盘 场景 2:YCSB 测试 1 亿条记录 插入 / 更新 / 查询 单用户 / 多用户 最高吞吐量

Scenario 1 compare with HBase hbase sequoiadb note Data load 21hrs,10mins,46sec 20hrs,28mins,29sec 4billions row, 30TB Query on PK 105 21 ms Update on PK 16 13 ms Delete on PK 6 19 ms insert 310 539 row/s Batch insert 311 3257 row/s Query on table scan 15266 4183 sec Update on table scan 3hrs,48mins,26sec 1hrs,9mins,34s Delete on table scan 3hrs,48mins,26sec 1hrs,9mins,43s Query on 2 nd index (hbase has 3hrs,48mins,26sec 21 ms to do table scan) Delete on 2 nd index 3hrs,48mins,26sec 19 ms Update on 2 nd index 3hrs,48mins,26sec 16 ms File size 36.42 23.72 TB

Scenario 1 compare with HBase 120 100 Query on PK,ms 3500 3000 Batch insert, row/s 600 500 insert,row/s 80 2500 400 60 40 20 0 1 2000 hbase sequoiadb 1500 1000 500 0 1 hbase sequoiadb 300 200 100 0 1 hbase sequoiadb 18000 16000 14000 Table scan, sec 18 16 14 Update on PK, ms 25 20 Query on 2 nd index,ms 12000 10000 8000 6000 hbase sequoiadb 12 10 8 6 15 hbase sequoiadb 10 hbase sequoiadb 4000 2000 4 2 5 0 1 0 1 0 1

Scenario 1 compare with MongoDB mongodb sequoiadb note Load data 3h 58m 43s 2h 57m 50s 4 billion rows, 30TB Query on index 23 20 ms Update on index 30 22 ms Delete on index 28 16 ms insert 2994 6419 row/s Batch insert 5257 14996 row/s Query on table scan 3745 3536 sec Update on table scan 3641 3536 sec Delete on table scan 3641 3536 sec insert(multiple thread) 1709 4073 row/s/thread Batch insert(multiple thread) 2315 5027 row/s/thread

Scenario 1 compare with MongoDB 16000 6000 4500 14000 12000 10000 8000 mongodb 6000 sequoiadb 4000 2000 0 Single thread batch insert,rows/second 4000 5000 3500 4000 3000 2500 mongodb 3000 mongodb 2000 sequoiadb sequoiadb 2000 1500 1000 1000 500 0 Multiple threads batch insert,rows/second/thread Multiple 0 thread insert,rows/second/thread 23.5 3800 35 23 22.5 22 21.5 21 20.5 20 19.5 19 mongodb sequoiadb 3750 3700 3650 3600 3550 3500 3450 mongodb sequoiadb 30 25 20 15 10 5 mongodb sequoiadb 18.5 Query with index,ms 3400 Full table scan,second 0 Update with index,ms

35 Scenario 2 single thread 3000.00 2500.00 2000.00 1500.00 1000.00 500.00 0.00 mongodb query sequoiadb query cassandra query mongodb insert sequoiadb insert cassandra insert mongodb update sequoiadb update cassandra update 0 20 40 60 80 100 120 30000.00 25000.00 20000.00 15000.00 10000.00 sequoiadb bulkinsert hbase put 5000.00 0.00 0 10 20 30 40 50 60 70 YCSB Test,8 Boxes,100 millions records,single thread insert/update/query

36 Scenario 2 multi-thread YCSB Test,4 Boxes,100 millions records,multiple threads insert/update/query

Scenario 3 best throughput for batch-insert 140000 135000 130000 125000 120000 115000 110000 105000 100000 95000 90000 85000 80000 75000 70000 65000 60000 55000 50000 45000 40000 35000 30000 25000 20000 15000 10000 5000 0 Total Throughput(ops/sec) 0 20 40 60 80 100 120 140 160 sequoiadb hbase mongodb YCSB Test,3 Boxes,100 millions records,best throughput for Batch-Insert

SequoiaDB v.s. Couchbase couchbase 在使用到 Bucket 配置的限额内存时性能急剧下降 YCSB Test,3 Boxes,100 millions records

SQL interface for Hadoop and NoSQL database 标准 SQL 支持

27 PostgreSQL FDW 简介 Foreign Data Wrapper 支持标准 SQL92 语法 支持以下数据类型 整数浮点数 字符串 时间 日期 布尔型 数组

系统架构 应用层 其他数据源 调度层 编目分片 SQL Engine 协调节点... Oracle HDFS HBase DB2 网络层 数据存储层 数据分片数据分片数据分片... MySQL MongoDB etc

查询谓词下压, 利用数据库索引提升性能 查询 SELECT * FROM T, K WHERE T.Price > 1000 AND T.id = K.id 关联 数据存储层 HDFS Database HDFS 批量扫描 索引扫描 T.Price > 1000 优势 : 1. 减少网络数据传输 2. 利用数据库索引提升性能

Enhance your data center SEQUOIADB & HADOOP 紧密整合

SequoiaDB 集成 Hadoop 解决方案

SequoiaDB 与 Hadoop 丰富的对接形式 Hive sdb connector Sqoop sdb connector HDFS SequoiaDB HDFS SequoiaDB 与 Hive 对接, 实现大数据导入 / 分析 与 Hadoop/sqoop 对接, 实现传统数据库 / 非结构化数据与 SequoiaDB 转换

Hadoop 连接器 客户端 Hadoop MapReduce Job Tracker Task Tracker Task Tracker Task Tracker 连接器 数据库 Data Node

基于块级并发能力 业务应用 /Hadoop 导入数据量 导入性能 Hbase 30 亿条记录 15W/Sec 获取分片信息数据组 1: 分片号 10,12 数据组 2: 分片号 1,2 并发读取各个数据块内容 SequoiaDB 30 亿条记录 导入性能 19.3W/Sec 编目节点编目节点 数据块 数据块 数据块 数据块 数据组数据组数据组 协调节点数据块数据块数据块 数据块数据组数据组数据组 数据块 数据块 数据块 数据块 数据组数据组数据组 4 3.5 3 2.5 2 1.5 1 0.5 0 IBM Average Query Time(s) SequoiaDB Average Query Time(s) 20 50 100 150 200 多线程并发平均响应时间 1 大数据查询和导入性能相对 HBASE 有较大幅度提升 ; 2 与 Hadoop Map/Reduce 对接能发挥更大的并发优势 ; 在某电信运营商场景测试

Hadoop + SequoiaDB = 分析 + 实时混合业务大数据平台 JDBC/API 接口 Pig Hive MapReduce 分布式计算框架 SQL Engine HDFS 分布式存储引擎 SequoiaDB 关系型数据库

谢谢