幻灯片 1

Size: px

Start display at page:

Download "幻灯片 1"

曹侵盛
5 years ago
Views:

1 Greenplum 介绍唐成

2 汇报提纲 Greenplum VS hadoop Greenplum 架构 Greenplum 的高可用方案 GP 分布式数据库功能介绍理解 GP 的查询处理

3 Greenplum VS hadoop 比较项 Greenplum Hadoop+hive 软件性质商业软件开源集群规模一般在 100 台以下可以到上万台性能 SQL 的支持程度在 100 台以下时, 性能比 hadoop 好单个 SQL 可以做到秒级别集群规模越大, 总体性能越好单个 SQL 最少也有数十秒支持完善, 几乎所有支持有限的 SQL, 查询 PostgreSQL 支持的 SQL, 支持子查询, 但不支持 gp 都支持窗口函数大部分 dml 都不支持, 只支持 append 稳定性有较多的 bug 比较稳定

4 Greenplum 架构图 Lan Segment Host Client Host 高速以太网交换机 Segment Host Segment Host Master Host Segment Host

5 Greenplum 架构 : Master 介绍 Master 服务器是外面用户访问 greenplum 的入口用户都是连接 master 服务器的, 对于外部用户来说, 他并不与 segment host 服务器发生任何关系, 外部用户的网络只需要与 master 服务器连通就可以了, 不需要访问 segment host 服务器所有的用户连接都是直接连接到 master 服务器上的 Greenplum 数据库是基于 PostgreSQL 数据库的, 所以可以用 PostgreSQL 数据库的工具来连接 Greenplum 数据库, 如 java 程序可以使用 PostgreSQL 的 jdbc 驱动来访问 Greenplum 数据库, 也可以使用 psql 工具或 pgadminii 来管理 Greenplum

6 Greenplum 架构 : Master 介绍 Greenplum 的 Master 数据库也是一个被改造过的 PostgreSQL 数据库, 它包含了整个分布式数据库中的所有元数据, 如表结构定义索引等等但其并不存储实际的数据, 实际的数据是存储在 segment 数据库的 master 服务器接受从用户发来的连接, 并做用户验证, 接收用户发来的 sql, 生成分布式执行计划, 再把分布执行计划分发到 segment 上执行, 接收 segment 返回的数据, 最后返回给用户

7 Greenplum 架构 : Segment 介绍 Segment 是数据的实际存储的地方, 也是一个经过改造过的 PostgreSQL 数据库它做实际的数据处理工作 Greenplum 建议在 Segment host 上建多个 Segment 数据库, 数量等于实际的 CPU 的 core 数

8 Greenplum 架构 : 内部网络 Segment host 与 master 是通过 greenplum 的内部网络互联起来的, 外部用户不需要访问这个内部网络的 Segment 与 Segment 之间是有网络连接的, 所以 Segment 之间可以直接交互数据的 Greenplum 默认使用 UDP 协议, 不过我们发现 UDP 有时不稳定, 我们一般都使用 TCP 协议使用 TCP 协议, greenplum 最多 1000 个 segment

9 Greenplum 中的高可用方案 Segment 的 mirror 当配置了 segment mirror, 当 segment primary 不能写的时候,greenplum 会自动切换到 mirror 当 master 不能连接到一个 segment instance 时, 会把这个 instance 标记为 invalid

10 Greenplum 中的高可用方案默认情况下,greenplum 的失败操作模式是 readonly" 模式, 也就是说如果一个 segment 坏了, 整个 greenplum 会变成只读, 不能写了如果模式是 continue 模式时, 一个 segment 坏了的时候, 数据库仍然可以继续工作但由于 segment 的 primary 与 mirror 端的数据不同步了, 所以恢复的时候需要花比较长的时间对于 Greenplum 3.X 的版本, 恢复时, 需要把好的节点上的所有数据都 copy 到坏的机器上而 Greenplum4.0 版本增加了功能, 当备份节点坏的时候, 主节点可以把增量数据记下来, 这样当备份节点的主机恢复时, 只需要恢复增量数据就可以了要让原先已 offline 的节点再加入集群中, 需要重启集群

11 Greenplum 中的高可用方案对于 Greenplum 3.X 的版本,segment 的 primary 与 mirror 之间是做的逻辑同步,mirror 端的数据库实际上也是可以读写的而 Greenplum4.0 版本后,primary 与 mirror 实际上是物理同步, 这时 mirror 一直处于恢复状态, 不能读也不能写

12 高可用之 Master Mirroring 对于 Greenplum Master 的 primary 与 mirror 之间的同步就是使用 PostgreSQL 的日志同步方案 master 的 mirror 可以在建库时建, 也可以在建完 greenplum 后再添加

13 理解 greenplum 分布式数据库

14 理解 GP 分布式数据库

15 理解 GP 的数据分布策略 Hash 分布 : 按分布键对数据时行 hash 分布, 这个 hash 分布算法没有公布, 只有 greenplum 内部知道数据是如何 hash 分布的随机分布 : 数据随机分布在数据库, 每次查询都会查询所有的 segment

16 GP 的 SQL 支持程度基本上绝大多数 PostgreSQL 支持的 SQL, 在 greenplum 都支持, 如常见的建表建索引的 ddl, 以及一般的 dml 语句 Greenplum3.X 不支持表空间 4.0 提供了支持 tablespace 功能不支持 trigger 建表语句多了 distributed by 子名外, 其它的 SQL 语法基本上都与 PostgreSQL 一样 : CREATE TABLE products (name varchar(40), prod_id integer, supplier_id integer) DISTRIBUTED BY (prod_id);

17 GP 的表增强 greenplum 除支持普通的表外, 还增加了 PostgreSQL 中没有的表类型 : append-only table: CREATE TABLE bar (a int, b text) WITH (appendonly=true) DISTRIBUTED BY (a); column-oriented table: CREATE TABLE bar (a int, b text) WITH (appendonly=true, orientation=column) DISTRIBUTED BY (a); append-only 的表支持压缩 : CREATE TABLE foo (a int, b text) WITH (appendonly=true, compresstype=zlib, compresslevel=5);

18 GP 使用人性化的 partion 语法支持分区表 CREATE TABLE sales (id int, date date, amt decimal(10,2)) DISTRIBUTED BY (id) PARTITION BY RANGE (date) ( START (date ' ') INCLUSIVE END (date ' ') EXCLUSIVE EVERY (INTERVAL '1 day') );

19 GP 使用人性化的 partion 语法支持分区表 CREATE TABLE sales (id int, date date, amt decimal(10,2)) DISTRIBUTED BY (id) PARTITION BY RANGE (date) ( PARTITION Jan08 START (date ' ') INCLUSIVE, PARTITION Feb08 START (date ' ') INCLUSIVE, PARTITION Mar08 START (date ' ') INCLUSIVE, PARTITION Apr08 START (date ' ') INCLUSIVE, END (date ' ') EXCLUSIVE );

20 GP 使用人性化的 partion 语法支持分区表 Defining Numeric Range Table Partitions CREATE TABLE rank (id int, rank int, year int, gender char(1), count int) DISTRIBUTED BY (id) PARTITION BY RANGE (year) ( START (2001) END (2008) EVERY (1), DEFAULT PARTITION extra );

21 GP 使用人性化的 partion 语法支持分区表 Defining List Table Partitions CREATE TABLE rank (id int, rank int, year int, gender char(1), count int ) DISTRIBUTED BY (id) PARTITION BY LIST (gender) ( PARTITION girls VALUES ('F'), PARTITION boys VALUES ('M'), DEFAULT PARTITION other );

22 GP 的表的数据可以重分布 ALTER TABLE sales SET DISTRIBUTED BY (customer_id); ALTER TABLE sales SET DISTRIBUTED RANDOMLY; ALTER TABLE sales SET WITH (REORGANIZE=TRUE); 重分布代价比较大, 一般是通过迁移 segment 节点的方式完成加节点

23 GP 支持 bitmap 索引 PostgreSQL 不支持 bitmap 索引,greenplum 支持 bitmap 索引 CREATE INDEX gender_bmp_idx ON employee USING bitmap (gender);

24 并行数据装载 Greenplum Database s parallel file server(gpfdist), 可以达到 1 小时装载 2T 数据

25 GP 的工作负载的资源控制 GP 提供了对工作负载和资源控制的功能在 GP 可以建一个资源队列 (resource queue), 然后把用户加入到这个队列中, 然后就可以控制 : 1. 所有活动的 SQL 的 cost 值最多是多少? 2. 活动的 SQL 最多是多少个 3. 控制活动的 SQL 的优先级 (4.0 的新功能 )

26 GP 的查询处理用户提交一个 SQL 到 master,master 解析这个 SQL, 生成一个分布式的执行计划, 然后把这个分布式的执行计划分发到各个 segment 上, 然后 segment 执行它自己的特定数据集的本地数据库业务所有的数据库操作, 如表扫描表连接 (joins) 聚集 ( aggregations), 排序, 这些操作都会在所有的 segment 上并行执行每个 segment 执行这些操作时都不依赖其它的 segment 除了上面这引起典型的数据库操作,Greenplum 的数据库有一个额外的操作类型, 称为的 motion motion 操作就是把查询处理过程中涉及到的其它节点上的数据在各个节点中做移动

27 GP 的查询处理为了提高执行的性能,Greenplum 把执行计划进行切片 (slice) 例如 : SELECT customer, amount FROM sales JOIN customer USING (cust_id) WHERE datecol = ' ';

28 GP 的查询处理

29 GP 的查询处理在 master 上, 查询的工作进程叫 query dispatcher(qd) 在 segment 上, 查询的工作进程叫 query executor (QE) 执行计划的每个切片 (slice) 至少分配一个工作进程

30 GP 的查询处理

31 GP 的执行计划建测试表 : create table t1(id int primary key,cn int,name varchar(40)) distributed by (id); create table t2(id int primary key,cn int,name varchar(40)) distributed by (id) ; create table t3(id int primary key,cn int,name varchar(40)) distributed by (id) ; insert into t1 select generate_series(1, ),generate_series(1, ),generate_series (1, ); insert into t2 select generate_series(1, ),generate_series(1, ),generate_series (1, ); insert into t3 select generate_series(1,100),generate_series(1,100),generate_series(1,100);

32 GP 的执行计划 tangdb=# explain select count(*) from t1; QUERY PLAN Aggregate (cost= rows=1 width=0) -> Gather Motion 4:1 (slice1; segments: 4) (cost= rows=1 width=0) -> Aggregate (cost= rows=1 width=0) -> Seq Scan on t1 (cost= rows= width=0) tangdb=# explain select id,count(*) from t1 group by id; QUERY PLAN Gather Motion 4:1 (slice1; segments: 4) (cost= rows= width=4) -> HashAggregate (cost= rows= width=4) Group By: id -> Seq Scan on t1 (cost= rows= width=4)

33 GP 的执行计划 tangdb=# explain select name,count(*) from t1 group by name; QUERY PLAN Gather Motion 4:1 (slice2; segments: 4) (cost= rows= width=6) -> HashAggregate (cost= rows= width=6) Group By: t1.name -> Redistribute Motion 4:4 (slice1; segments: 4) (cost= rows= width=6) Hash Key: t1.name -> HashAggregate (cost= rows= width=6) Group By: t1.name -> Seq Scan on t1 (cost= rows= width=6) 如果在单机上的执行计划 : osdba=# explain select name,count(*) from t1 group by name; QUERY PLAN HashAggregate (cost= rows=1 width=36) -> Seq Scan on t1 (cost= rows= width=36)

34 GP 的执行计划 tangdb=# explain select t1.id,t1.name,t2.name from t1,t2 where t1.id=t2.id; QUERY PLAN Gather Motion 4:1 (slice1; segments: 4) (cost= rows= width=16) -> Hash Join (cost= rows= width=16) Hash Cond: t1.id = t2.id -> Seq Scan on t1 (cost= rows= width=10) -> Hash (cost= rows= width=10) -> Seq Scan on t2 (cost= rows= width=10) (6 rows)

35 单机上执行的 : osdba=# explain select t1.id,t1.name,t2.name from t1,t2 where t1.id=t2.cn; QUERY PLAN Hash Join (cost= rows= width=46) Hash Cond: (t1.id = t2.cn) -> Seq Scan on t1 (cost= rows= width=40) -> Hash (cost= rows= width=10) -> Seq Scan on t2 (cost= rows= width=10) GP 的执行计划 tangdb=# explain select t1.id,t1.name,t2.name from t1,t2 where t1.id=t2.cn; QUERY PLAN Gather Motion 4:1 (slice2; segments: 4) (cost= rows= width=16) -> Hash Join (cost= rows= width=16) Hash Cond: t2.cn = t1.id -> Redistribute Motion 4:4 (slice1; segments: 4) (cost= rows= width=10) Hash Key: t2.cn -> Seq Scan on t2 (cost= rows= width=10) -> Hash (cost= rows= width=10) -> Seq Scan on t1 (cost= rows= width=10)

36 GP 的执行计划 tangdb=# explain select t1.id,t1.name,t2.name from t1,t2 where t1.cn=t2.cn; QUERY PLAN Gather Motion 4:1 (slice3; segments: 4) (cost= rows= width=16) -> Hash Join (cost= rows= width=16) Hash Cond: t1.cn = t2.cn -> Redistribute Motion 4:4 (slice1; segments: 4) (cost= rows= width=14) Hash Key: t1.cn -> Seq Scan on t1 (cost= rows= width=14) -> Hash (cost= rows= width=10) -> Redistribute Motion 4:4 (slice2; segments: 4) (cost= rows= width=10) Hash Key: t2.cn -> Seq Scan on t2 (cost= rows= width=10)

37 GP 的执行计划 tangdb=# explain select t1.id,t1.name,t3.name from t1,t3 where t1.cn=t3.cn; QUERY PLAN Gather Motion 4:1 (slice2; segments: 4) (cost= rows=25 width=12) -> Hash Join (cost= rows=25 width=12) Hash Cond: t1.cn = t3.cn -> Seq Scan on t1 (cost= rows= width=14) -> Hash (cost= rows=100 width=6) -> Broadcast Motion 4:4 (slice1; segments: 4) (cost= rows=100 width=6) -> Seq Scan on t3 (cost= rows=25 width=6)

38 Q&A

水晶分析师

水晶分析师大数据时代的挑战产品定位体系架构功能特点大数据处理平台行业大数据应用 IT 基础设施数据源 Hadoop Yarn 终端统一管理和监控中心(Deploy,Configure,monitor,Manage) Master Servers TRS CRYSTAL MPP Flat Files Applications&DBs ETL&DI Products 技术指标 1 TRS