VastbaseG100

基于openGauss内核开发的企业级关系型数据库。

Menu

核心功能

Vastbase G100作为关系型数据库,拥有大量的数据类型、丰富完善的SQL语法、强大的查询优化器、并发控制手段、存储优化手段等。其中针对IT系统开发与调优、数据库管理与维护过程中最常用、具有较高价值的功能点,下文将进行简要的说明与指引。

数据分区

数据分区是数据库产品普遍具备的功能。在Vastbase G100中,数据分区是对数据按照用户指定的策略对数据做的水平分表,将表按照指定范围划分为多个数据互不重叠的部分(Partition)。

Vastbase G100支持范围、哈希、列表和复合分区功能,即根据表的一列,将要插入表的记录分为若干个类别,然后为每个范围创建一个分区,用来存储相应的数据。基于时间分片的方式分区后带来下列收益:

场景描述 收益
当表中访问率较高的行位于一个单独分区或少数几个分区时。 大幅减少搜索空间,从而提升访问性能。
当需要查询或更新一个分区的大部分记录时。 仅需要连续扫描对应分区,而非扫描整个表,因此可大幅提升性能。
当需要大量加载或者删除的记录位于一个单独分区或少数几个分区时。 可直接读取或删除对应分区,从而提升处理性能;同时由于避免大量零散的删除操作,可减少清理碎片工作量。

数据分区带来的好处在于:

  • 改善可管理性:利用分区,可以将表和索引划分为一些更小、更易管理的单元。这样,数据库管理员在进行数据管理时就能采取“分而治之”的方法。 有了分区,维护操作可以专门针对表的特定部分执行。

  • 提升删除操作的性能:删除数据时可以删除整个分区,与分别删除每行相比,这种操作非常高效和快速。

  • 删除分区表与删除普通表的语法一致,都是通过DROP TABLE语法进行删除。

  • 改善查询性能:通过限制要检查或操作的数据数量,分区可带来许多性能优势。

  • 分区剪枝:分区剪枝(也称为分区消除)是在执行时过滤掉不需要扫描的分区,只对相关的分区进行扫描的技术。分区剪枝通常可以将查询性能提高若干数量级。

  • 智能化分区联接:通过使用一种称为智能化分区联接的技术,分区还可以改善多表联接的性能。当将两个表联接在一起,并且至少其中一个表使用联接键进行分区时,可以应用智能化分区联接。智能化分区联接将一个大型联接分为多个较小的联接,这些较小的联接包含与联接的表“相同”的数据集。这里,“相同”定义为恰好包含联接的两端中相同的分区键值集,因此可以确保只有这些“相同”数据集的联接才会有效,而不必考虑其他数据集。

向量化执行和行列混合引擎

在大宽表,数据量比较大、查询经常关注某些列的场景中,行存储引擎查询性能比较差。例如气象局的场景,单表有200~800个列,查询经常访问10个列,在类似这样的场景下,向量化执行技术和列存储引擎可以极大的提升性能和减少存储空间。

向量化执行

标准的迭代器模型控制流向下(右图实线)、数据流向上(右图虚线)、上层驱动下层(上层节点调用下层节点要数据)、一次一元组(下层节点每次只返回一条元组给上层节点)。 而向量化执行相对于传统的执行模式改变是对于一次一元组的模型修改为一次一批元组,配合列存特性,可以带来巨大的性能提升。

行列混合存储引擎

Vastbase G100支持行存储和列存储两种存储模型,用户可以根据应用场景,建表的时候选择行存储还是列存储。

一般情况下,如果表的字段比较多(大宽表),查询中涉及到的列不很多的情况下,适合列存储。如果表的字段个数比较少,查询大部分字段,那么选择行存储比较好。

行列混合存储引擎可以同时为用户提供更优的数据压缩比(列存)、更好的索引性能(列存)、更好的点更新和点查询性能(行存)。

当前列存储引擎有以下约束:

  • DDL仅支持CREATE/DROP/TRUNCATE TABLE的功能。

  • 兼容分区的DDL管理功能(如: ADD/DROP/MERGE PARTITION,EXCHANGE功能)。

  • 支持CREATE TABLE LIKE语法。

  • 支持ALTER TABLE的部分语法。

  • 其他功能都不支持。

  • DML支持UPDATE/COPY/BULKLOAD/DELETE。

  • 不支持触发器,不支持主外键。

  • 支持Psort index、B-tree index和GIN index。

列存下的数据压缩

对于非活跃的早期数据可以通过压缩来减少空间占用,降低采购和运维成本。

Vastbase G100列存储压缩支持Delta Value Encoding、Dictionary、RLE 、LZ4、ZLIB等压缩算法,且能够根据数据特征自适应的选择压缩算法,平均压缩比7:1。压缩数据可直接访问,对业务透明,极大缩短历史数据访问的准备时间。

高可靠事务处理

Vastbase G100提供事务管理功能,保证事务的ACID特性。

为了在主节点出现故障时尽可能地不中断服务,Vastbase G100提供了主备双机高可靠机制。通过保护关键用户程序对外不间断提供服务,把因为硬件、软件和人为造成的故障对业务的影响程度降到最低,以保证业务的持续性。

故障恢复

支持节点故障可恢复及恢复后满足ACID特性。节点故障、停止后重启等情况下,Vastbase G100能够保证故障之前的数据无丢失,满足ACID特性。

事务管理:

  • 支持事务块,用户可以通过start transaction命令显式启动一个事务块。

  • 支持单语句事务,用户不显式启动事务,则单条语句就是一个事务。

高并发&高性能

Vastbase G100通过服务器端的线程池,可以支持1W并发连接。通过NUMA化内核数据结构,支持线程亲核性处理,可以支持百万级tpmC。通过页面的高效冷热淘汰,支持T级别大内存缓冲区管理。通过CSN快照,去除快照瓶颈,实现多版本访问,读写互不阻塞。通过增量检查点,避免全页写导致的性能波动,实现业务性能平稳运行。

SQL自诊断

通过执行查询对应的explain performance,获得对应执行计划,是一种十分有效的定位查询性能问题的方法。但是这种方法需要修改业务逻辑,同时输出的日志量大,问题定位的效率依赖于人员的经验。SQL自诊断为用户提供了另一种更为高效易用的性能问题定位方法。

在执行作业之前,配置GUC参数resource_track_level和resource_track_cost,然后运行用户作业,就可以通过查看相关系统视图,获得执行完成的相关查询作业可能存在的性能问题。系统视图中会给出导致性能问题的可能原因,根据这些“性能告警”,就可以对存在性能问题的作业进行调优。

SQL自诊断可以在不影响用户作业,不修改业务逻辑的情况下,诊断出相对准确的性能问题,为用户提供更为易用的性能调优参考。

内存表

内存优化表(Memory-Optimized Table MOT)是一种事务型基于行存的引擎。这是最新技术和生产级功能,可为Vastbase G100的事务性工作提供更高的性能。MOT完全支持ACID特性,并包括严格的持久性和高可用性支持。企业可以在关键任务、性能敏感的在线事务处理(OLTP)中使用MOT,以实现高性能、高吞吐、可预测低延迟以及多核服务器的高利用率。MOT尤其适合在多路和多核处理器的现代服务器上运行。