网易首页 > 网易号 > 正文 申请入驻

PostgreSQL改造成一款企业级数据库,该如何下手

0
分享至

这个话题我一年半年前在《PG离企业核心应用数据库还有多远》一文中国也谈到过,随着对PG理解的越来越深入,我发现这个话题的内容也不断在扩大。想做好一款能够支撑关键业务的企业级数据库产品并不是那么容易的事情。虽然我们有大量优秀的开源数据库,但是把开源代码改造为一个真正意义上的企业级数据库并非易事。

PG是款不错的数据库,其功能相对来说比较完善,具备作为大型企业级数据库的基本特征。但是作为一款企业级数据库而言,还有很多不足的地方,必须加以改造才能够胜任。很多国产数据库也是基于PG的源代码进行改造开发,如果要让这些数据库成为一款企业级数据库产品,也必须要关注这些问题。

不知道国产数据库厂商的产品经理有没有意识到,其实PG数据库作为一款企业级数据库还是有很多不足的地方的。今天我就给大家分享一些PG数据库缺失的一些比较重要的企业级特征。

像FREEZE和VACUUM这样的老生常谈我就不细说了,这是地球人都知道的事情,也是PG永远的痛。

作为一款企业级数据库最为重要的是数据的完整性和安全性。在这方面PG数据库存在几个比较明显的不足。首先是数据库对数据完整性的校验不够完善,以前我也写文章提出过在PG数据库里面,一张表如果比较大,需要用多个文件来存储,如果丢失了一个或者数个数据文件,目前PG的RDBS核心是没有办法感知到的。此时如果要扫描这张丢失了某些数据文件的表,RDBMS不会报错,但是会得出错误的查询结果。


这个问题我以前也写文章讨论过,当Oracle的数据文件被破坏的时候,RDBMS也不会马上感知到,但是如果扫描某张表的时候访问到了被损坏的文件或者数据块,则能够发现问题,企业级数据库系统不需要随时感知到错误(这个成本太高),但是不能回答错误的答案。

第二个问题是PG数据库对自己的数据文件临时文件的清理工作是做的不完整的。当数据库出现一些问题的时候,或者出现一些异常的时候,是不会自动做清理工作的时间长了就会产生一些垃圾,包括一些孤儿文件。对于一个需要长期,甚至7*24运行的数据库系统来说,自动清理垃圾是必备的能力。

因为缺少PMON/SMON之类的后台进程,当BACKEND的故障的时候,无法由系统自动进行必要的清理工作,因此可能会导致数据存在不一致的可能性,PG可以采取保护措施,让PG数据库宕机。这种方式虽然是有效的,但是这种做法不是一个企业级数据库应该有的。想要让PG数据库在这方面像一个企业级数据库一样就必须建立一组新的后台进程,从而实现像oracle一样能够自如的应对各种系统故障以及进程故障。

试想如果一个企业级应用中因为某个用户进程出问题,如果使用Oracle那么我们杀掉某个进程就搞定了,而如果换成PG数据库,杀还是不杀呢?杀了如果整个实例宕了怎么办?让PG数据库能够自由杀用户进程甚至一些不影响数据库运行的后台服务进程,是让PG成为企业级数据库的不可或缺的条件。

类似RAC的能力也是企业级数据库必须就有的能力,无论什么情况下,当某个实例故障时能够快速、自动、0数据丢失地切换是企业级应用对数据库的基本要求。对于RAC,其实绝大多数用户不需要RAC的横向扩展能力,而是需要其高可用切换能力。现在很多基于PG开发的国产数据库都在做类似RAC的功能,目标都是对等访问,横向扩展。其实我觉得这么做可能是劳民伤财。ASTORE如果不改掉,想做出优秀的RAC架构的共享存储对等访问集群来,几乎是不可能的。

实际上如果PG数据库能够具备共享存储,读写分离能力,就已经足够了,类似ORACLE 两节点时的ACTIVE-STANDBY模式,这个模式在二十年前在一些核心业务系统中被我推荐使用。如果PG数据库具备类似的能力,当某个实例故障后能够在几十秒内实现业务完全切换到STANDBY实例,那么应对企业级关键应用已经足够了。前阵子在电科金仓的一个活动中,金仓给大家演示了自己的RAC系统,当时很多用户都觉得这确实是他们急需的功能。

当前基于流复制的高可用方案其缺点就是对于关键业务系统来说,快速的全自动切换实现起来十分困难。因为只有复制完成,并且数据确保0丢失情况下,对于关键系统才敢做自动化切换,而目前的流复制模式还是不够让人放心。基于RAFT/PAXOS复制组的实现,只要确保延时够低,也是可接受的。不过成本略高,而且保护能力并不完整。Oracle RAC+ADG的MAA架构已经被证明是目前最成功的的高可用架构。

本来想写篇短文,没想到才写了几个点就已经这么多了。后面我简单再列几点问题吧:

  1. SQL引擎增强:PG缺少不少算子,比如HASH ANTI JOIN等,企业级应用十分复杂,如果数据量比较大,业务逻辑相对复杂,缺失算子的问题会导致某些业务无法快速执行,有兴趣的厂商可以把PG的算子与Oracle做一下比较,看看还缺点啥,缺啥补啥吧;

  2. 分区表功能与能力向Oracle看齐:大型企业级应用,分区表的使用十分多,虽然PG也有分区表,但是其管理便捷性,访问性能,对于超过1万分区的大型表的支持能力都还很欠缺。另外类似分区分裂、交换分区之类的能力也尚有缺失;

  3. 全局临时表性能优化:PG的全局分区表功能虽然和Oracle差不多,不过一些国内的ERP厂商已经领教过了PG的全局临时表的性能问题,前些年在分析一个全局临时表的性能问题的时候,我也读过这部分PG的源码,写得真的不怎么样;

  4. 表的在线重定义:需要长期7*24运行的企业级业务系统,对于超大表的再现重定义能力十分关键,Oracle做好这个功能都花了近20年的时间,国产数据库厂商也需要下点力气来做;

  5. SHARED BUFFERS越大,DROP TABLE等操作越慢的问题:这是因为PG的CHECKPOINT机制不够优化导致的,Oracle当年为了优化这方面问题,对kcbdws数据结构做了多次优化,对CHECKPOINT QUEUE,LRU-W等链表的算法做了多次重构,才达到了目前的水平,基于PG的国产数据库也必须在此做大量的优化;

  6. 复制延时控制:有效控制复制延迟,优化并发回放的性能;

  7. 企业级备份管理器:试过备份上百个TB的PG数据库吗?能够让几十TB的PG数据库在周末晚上的有限备份窗口中完成全备,避免影响第二天的业务高峰性能吗?如果不能,那就去优化吧。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
历史上的老照片,将会改变你对过去的看法

历史上的老照片,将会改变你对过去的看法

尚曦读史
2024-12-10 07:36:09
中国海洋石油有限公司钻完井办公室原主任董星亮被查

中国海洋石油有限公司钻完井办公室原主任董星亮被查

新京报
2024-12-11 11:48:02
反转来得太快!联合国:人民币不允许取代美元;多国却反向而行

反转来得太快!联合国:人民币不允许取代美元;多国却反向而行

派大星纪录片
2024-12-11 17:15:35
梅德韦杰夫突访北京,事先没有半点风声,中俄或有4件要事相商

梅德韦杰夫突访北京,事先没有半点风声,中俄或有4件要事相商

蒋福伟
2024-12-11 13:43:25
落难的“凤凰”不如鸡!曾经全世界眼中的阿萨德是如此神级存在

落难的“凤凰”不如鸡!曾经全世界眼中的阿萨德是如此神级存在

派大星纪录片
2024-12-11 15:17:44
年轻外科医生为解压送外卖:“既是城市的红细胞,也是白细胞”

年轻外科医生为解压送外卖:“既是城市的红细胞,也是白细胞”

极目新闻
2024-12-11 14:45:31
自行车运动员徐超去世,年仅30岁刚结婚一年,死因曝光令人惋惜

自行车运动员徐超去世,年仅30岁刚结婚一年,死因曝光令人惋惜

180°视角
2024-12-11 14:43:42
特朗普提名的美国驻希腊大使,曾是他的“准儿媳”,用“咆哮式演讲”为他拉票

特朗普提名的美国驻希腊大使,曾是他的“准儿媳”,用“咆哮式演讲”为他拉票

极目新闻
2024-12-11 12:49:48
这一次,安静的可怕!

这一次,安静的可怕!

燕梳楼频道
2024-12-11 13:44:55
突发!金龙显畏罪自杀,衣服拧成绳子卫生间里自缢,多个细节曝光

突发!金龙显畏罪自杀,衣服拧成绳子卫生间里自缢,多个细节曝光

历史阿务
2024-12-11 12:26:29
中巴联手战无不胜,巴铁军方传来振奋消息:伏击全歼俾路支敢死队

中巴联手战无不胜,巴铁军方传来振奋消息:伏击全歼俾路支敢死队

深析古今
2024-12-11 16:02:46
几年?媒体人:刘奕才11年…金敬道也判了,比想象中轻很多!

几年?媒体人:刘奕才11年…金敬道也判了,比想象中轻很多!

直播吧
2024-12-11 12:28:35
炸裂!琼瑶葬礼,皇冠集团发新动态:冬至团圆!

炸裂!琼瑶葬礼,皇冠集团发新动态:冬至团圆!

阿凫爱吐槽
2024-12-11 11:59:50
网传某科技学院突发火情,疑似校方人员发通知:让学生把火情的照片和视频都删掉

网传某科技学院突发火情,疑似校方人员发通知:让学生把火情的照片和视频都删掉

可达鸭面面观
2024-12-11 14:59:05
广元广播电视大学原党委书记、校长,广元市干部网络学院原院长罗兴发被查

广元广播电视大学原党委书记、校长,广元市干部网络学院原院长罗兴发被查

界面新闻
2024-12-11 17:35:06
退钱哥都失业了?

退钱哥都失业了?

谭谈投研
2024-12-11 11:52:12
尹锡悦或判死刑!决议通过,韩国警方进入总统府,新总统已有人选

尹锡悦或判死刑!决议通过,韩国警方进入总统府,新总统已有人选

说天说地说实事
2024-12-11 15:50:12
曝深圳一高端小区高层因燃气泄漏突发爆炸,前一日维修工来了两次均未排查

曝深圳一高端小区高层因燃气泄漏突发爆炸,前一日维修工来了两次均未排查

可达鸭面面观
2024-12-11 16:04:58
重磅消息!俄航空科技生产中心遭重创!连发十几次爆炸,火光冲天

重磅消息!俄航空科技生产中心遭重创!连发十几次爆炸,火光冲天

国际情爆猿
2024-12-11 15:18:52
媒体人:刘奕大概率向海外转移资产,导致国内资产不足以执行

媒体人:刘奕大概率向海外转移资产,导致国内资产不足以执行

懂球帝
2024-12-11 11:46:08
2024-12-11 18:36:49
ITPUB学院
ITPUB学院
分享技术干货,了解最新动态
933文章数 627关注度
往期回顾 全部

科技要闻

极越夏一平发布内部信:与大家共渡难关

头条要闻

三甲医院外科医生为解压送外卖:第一笔订单就被罚款

头条要闻

三甲医院外科医生为解压送外卖:第一笔订单就被罚款

体育要闻

雷霆灭独行侠闯进四强 东契奇16+11

娱乐要闻

琼瑶遗体火化,儿子含泪送别母亲

财经要闻

蔚来超长账期,越扒越吓人

汽车要闻

高颜值高空间高乐趣 iCAR V23是懂年轻人的

态度原创

数码
房产
本地
艺术
公开课

数码要闻

875克超轻便携全能王者,Dynabook Portégé X30L-M评测

房产要闻

秀英港搬迁,最新消息传出!海口湾业主,集体沸腾了!

本地新闻

探黔地风情,于山水之间赏不败之花

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版