HotDB

HotDB

64.0
1条评价
725次浏览
所属厂商:
热璞

公司介绍:

创始人阿里系,基于MYSQL二次开发优化

产品详情

热璞公司的HotDB是一款面向企业级应用的分布式数据库解决方案,旨在帮助企业突破传统关系型数据库的性能瓶颈与扩展限制,实现数据的水平扩展、高可用保障与弹性资源调度。其设计遵循"兼容传统、平滑迁移、高效稳定"的原则,通过对SQL协议的深度兼容与分布式架构的优化,为用户提供与单机数据库一致的使用体验,同时具备分布式系统的高并发处理能力与容错能力,适用于金融、互联网、政务、物流等对数据库性能、可靠性要求严苛的行业场景。

一、核心定位与整体架构

HotDB的核心定位是成为企业数字化转型中的数据库基础设施核心组件,解决传统数据库在面对海量数据与高并发访问时的扩展性不足、可用性低、运维复杂等问题。其整体架构采用分层设计,涵盖接入层、集群管理层、数据存储层、监控运维层四大核心层次,各层之间松耦合,既保证了系统的灵活性,又便于功能的扩展与维护。

  • 接入层(Proxy层):作为业务应用与后端数据库集群之间的中间层,负责接收应用的SQL请求,进行解析、路由、负载均衡与结果聚合。支持MySQL等主流关系型数据库协议,应用无需修改代码即可直接接入。
  • 集群管理层:负责分布式集群的元数据管理、分片策略维护、节点状态监控、故障自动切换与数据重分布。是HotDB分布式能力的核心,确保集群的稳定运行与弹性扩展。
  • 数据存储层:支持对接多种存储引擎与数据库,包括MySQL、PostgreSQL、云数据库(如阿里云RDS、腾讯云CDB)等,用户可根据业务需求选择合适的存储介质,实现混合存储架构。同时,提供数据多副本同步与一致性保障机制。
  • 监控运维层:提供可视化的监控平台与运维工具,覆盖集群状态、性能指标、SQL执行情况、告警管理等全生命周期运维需求,降低运维复杂度。

二、核心功能模块详解

1. 分布式接入与路由

HotDB的接入层(Proxy)是业务应用与后端集群交互的入口,具备SQL解析、路由决策、负载均衡、结果聚合等核心能力,是实现分布式数据库访问的关键组件。

  • SQL协议兼容:完全兼容MySQL 5.7/8.0协议,支持DDL、DML、DCL等所有标准SQL语法,同时兼容存储过程、触发器、视图等高级特性,应用无需修改代码即可从单机MySQL平滑迁移至HotDB集群,极大降低了迁移成本。
  • 智能路由策略:支持多种路由规则,包括读写分离路由、分库分表路由、全局表路由等,满足不同业务场景的需求。
    • 读写分离路由:基于SQL类型(SELECT/INSERT/UPDATE/DELETE)、用户角色、事务状态等维度,自动将读请求路由至从节点,写请求路由至主节点。支持自定义路由规则,例如将特定用户的读请求路由至指定节点,或在事务中强制使用主节点以保证数据一致性。
    • 分库分表路由:支持哈希、范围、列表、复合四种核心分表策略,覆盖绝大多数业务场景:
      • 哈希分表:基于分片键(如用户ID、订单ID)的哈希值将数据均匀分布至不同分片,适用于数据分布均匀、查询以分片键为主的场景(如用户信息查询)。例如,将用户ID取模16,分配至16个分片,保证每个分片的数据量大致相等。
      • 范围分表:基于分片键的数值范围将数据划分至不同分片,适用于时间序列数据或具有连续值特征的数据(如订单时间、交易金额)。例如,将2023年1月的订单存储至分片1,2023年2月的订单存储至分片2,便于按时间范围进行数据归档与查询优化。
      • 列表分表:基于分片键的固定值列表将数据划分至不同分片,适用于数据具有明确分类的场景(如地区、业务线)。例如,将华北地区的订单存储至分片1,华东地区的订单存储至分片2,便于按地区进行业务隔离与数据分析。
      • 复合分表:结合两种或以上分表策略,满足复杂业务场景的需求。例如,先按用户ID哈希分库,再按订单时间范围分表,既保证了用户数据的集中存储,又便于按时间查询订单信息。
    • 全局表路由:对于字典表、配置表等全局共享数据,支持将其同步至所有分片,保证每个分片都能快速访问到最新数据,避免跨分片查询带来的性能损耗。
  • 负载均衡:Proxy层支持轮询、加权轮询、最少连接数等负载均衡算法,将应用请求均匀分配至后端数据库节点,避免单节点过载。同时,支持对节点权重的动态调整,可根据节点性能分配不同的请求比例。
  • SQL优化与结果聚合:对跨分片查询进行优化,例如将聚合函数(SUM、COUNT、AVG)下推至分片节点执行,仅返回聚合结果至Proxy层,减少数据传输量;对分页查询进行优化,避免全量数据扫描。对于跨分片的联合查询,Proxy层会自动聚合各分片的结果,返回统一的数据集给应用。

2. 高可用与容灾

HotDB通过多副本同步、故障自动切换、跨机房容灾等机制,确保数据库集群的高可用性,满足企业级应用对系统可靠性的要求(目标可用性达99.99%)。

  • 节点故障自动切换:集群管理层实时监控后端数据库节点的状态,通过心跳检测(默认间隔1秒)识别节点故障。当主节点发生故障时,系统会自动选举新的主节点(基于Raft算法或GTID复制状态),并更新Proxy层的路由规则,整个切换过程在秒级完成,应用无感知。从节点故障时,系统会自动将其从集群中移除,并通知运维人员进行处理。
  • 数据多副本同步:支持基于GTID的异步、半同步、强同步三种数据复制模式,用户可根据业务对一致性与性能的需求选择合适的模式:
    • 异步复制:主节点写入数据后立即返回成功,数据异步同步至从节点,性能最高,但可能存在数据丢失风险(主节点故障时未同步的数据会丢失)。
    • 半同步复制:主节点写入数据后,等待至少一个从节点确认接收数据后再返回成功,平衡了性能与数据安全性,适用于大多数业务场景。
    • 强同步复制:主节点写入数据后,等待所有从节点确认接收数据后再返回成功,保证数据的强一致性,但性能会有所下降,适用于金融交易等对数据一致性要求极高的场景。
  • 跨机房容灾:支持两地三中心、异地多活等容灾架构,可将数据同步至异地机房。当主机房发生故障时,系统可快速切换至灾备机房,保证业务的连续性。例如,主机房部署在上海,灾备机房部署在北京与广州,上海机房故障时,自动切换至北京机房,数据损失控制在秒级以内。
  • 故障恢复机制:节点故障恢复后,系统会自动将其重新加入集群,并同步缺失的数据(基于GTID的增量同步)。对于数据损坏的节点,支持自动重建功能,从其他节点复制全量数据,恢复节点状态。

3. 弹性扩展

HotDB支持在线扩容与缩容,无需停机即可调整集群规模,满足业务量波动带来的资源需求变化。

  • 在线扩容:当业务数据量增长或并发量提升时,用户可通过管理界面添加新的数据库节点。系统会自动将现有分片的数据迁移至新节点(数据重分布),迁移过程中不影响业务的正常访问。迁移完成后,Proxy层会自动更新路由规则,将新节点纳入集群负载均衡体系。
  • 在线缩容:当业务量下降时,用户可移除多余的数据库节点。系统会先将待移除节点上的数据迁移至其他节点,迁移完成后再将节点从集群中删除,保证数据不丢失。
  • 数据重分布:数据迁移过程采用"分片迁移"策略,将一个分片的数据拆分为多个部分,逐步迁移至新节点,避免单分片迁移带来的性能影响。同时,支持对迁移速度的控制(如限速100MB/s),可根据业务负载调整迁移节奏。迁移过程中,系统会实时监控数据一致性,确保迁移前后数据完全一致。
  • 资源动态调整:支持计算资源与存储资源的独立扩展。例如,可单独增加存储节点以扩展数据存储能力,或增加计算节点以提升查询性能。

4. 数据一致性保障

HotDB通过分布式事务、全局序列生成、数据一致性校验等机制,保证分布式环境下的数据一致性,满足金融等行业对数据准确性的严格要求。

  • 分布式事务支持:支持XA事务与优化的两阶段提交(2PC)协议,实现跨分片事务的原子性与一致性。同时,针对2PC协议的性能问题,HotDB进行了优化:例如,引入事务协调者的高可用机制,避免单点故障;对非跨分片的事务直接提交,无需经过2PC流程。此外,支持TCC事务模式,适用于业务逻辑复杂的场景。
  • 全局序列生成:为解决分库分表场景下的主键冲突问题,HotDB提供全局序列服务,支持多种序列生成方式:
    • 数据库自增序列:基于专用的序列数据库生成全局唯一的序列值,适用于对序列连续性要求较高的场景。
    • Redis序列:利用Redis的原子操作生成序列值,性能较高,适用于高并发场景。
    • 雪花算法(Snowflake):基于时间戳、机器ID、序列号生成全局唯一的64位整数序列,无需依赖外部组件,性能极高,适用于大规模分布式场景。
  • 数据一致性校验:支持定期与实时的数据一致性校验。定期校验可按天或小时对各分片的数据进行比对,发现数据不一致时自动修复;实时校验则在数据写入时,对主从节点的数据进行同步校验,确保数据复制的准确性。

5. 监控与运维管理

HotDB提供可视化的监控平台与丰富的运维工具,帮助运维人员快速掌握集群状态,高效处理运维任务,降低运维复杂度。

  • 可视化监控平台:提供多维度的监控指标,包括集群整体指标、节点指标、SQL执行指标等:
    • 集群整体指标:QPS、TPS、请求延迟、分片数量、节点数量、数据总量等。
    • 节点指标:CPU使用率、内存使用率、磁盘IO、网络IO、连接数、复制延迟等。
    • SQL执行指标:慢SQL数量、慢SQL详情(执行时间、影响行数、执行计划)、SQL类型分布(SELECT/INSERT/UPDATE/DELETE占比)、跨分片查询数量等。
    监控平台支持自定义仪表盘,用户可根据需求配置常用指标的展示;同时支持指标的历史数据查询,可查看过去7天、30天或更长时间的指标趋势。
  • 告警机制:支持对集群异常、性能阈值、数据一致性问题等事件设置告警规则。告警方式包括邮件、短信、钉钉、微信等,用户可根据事件严重程度(紧急、重要、一般)设置不同的告警接收人。例如,当节点CPU使用率超过90%时,发送紧急告警给运维负责人;当复制延迟超过10秒时,发送重要告警给DBA。
  • 日志管理:提供完整的日志记录,包括Proxy日志、集群管理日志、数据库节点日志等。支持日志的检索与分析,可按时间范围、日志级别、关键字等条件查询日志。此外,支持慢SQL日志的自动收集与分析,帮助DBA优化SQL性能。
  • 自动化运维工具:
    • 自动化部署:支持通过脚本或管理界面快速部署集群,自动完成节点配置、服务启动等步骤。
    • 备份恢复:支持全量备份与增量备份,备份数据可存储至本地磁盘或云存储(如阿里云OSS、腾讯云COS)。恢复时可指定时间点进行恢复,支持单表恢复与全库恢复。
    • 配置管理:支持对集群配置的集中管理与动态更新,无需重启服务即可生效。例如,调整分片策略、修改复制模式等。
    • 性能诊断:提供性能诊断工具,可自动分析集群性能瓶颈,给出优化建议(如调整分片策略、优化SQL语句、增加节点等)。

6. 安全与合规

HotDB提供全方位的安全保障机制,满足企业级应用对数据安全的要求,同时支持等保三级、PCI DSS等合规标准。

  • 权限管理:基于RBAC(角色-based访问控制)模型,支持细粒度的权限控制:
    • 用户角色:预设管理员、DBA、开发人员、只读用户等角色,每个角色拥有不同的权限。
    • 对象权限:支持对数据库、表、列的权限控制,例如允许某个用户仅查询某张表的特定列,禁止其修改数据。
    • 操作权限:支持对SQL操作的权限控制,例如禁止某个用户执行DROP TABLE等危险操作。
  • 数据加密:
    • 传输加密:支持SSL/TLS协议,对应用与Proxy层、Proxy层与数据库节点之间的通信进行加密,防止数据在传输过程中被窃取。
    • 存储加密:支持对数据库存储的数据进行透明加密(TDE),加密密钥由密钥管理系统(KMS)统一管理,确保数据在存储层面的安全。
  • 审计功能:记录所有用户的操作行为,包括登录、SQL执行、权限变更、配置修改等。审计日志不可篡改,可用于合规检查与安全事件追溯。
  • 合规支持:HotDB的安全机制符合等保三级、PCI DSS、GDPR等国际国内合规标准,可帮助企业快速通过相关合规认证。

7. 迁移与兼容

HotDB提供完善的迁移工具与协议兼容机制,帮助企业从传统单机数据库平滑迁移至分布式集群,降低迁移风险与成本。

  • 迁移工具:提供全量+增量的迁移方案,支持从MySQL、Oracle、SQL Server等传统数据库迁移至HotDB集群:
    • 全量迁移:通过工具导出源数据库的数据,按分片策略导入至HotDB集群。支持对大表的并行导出与导入,提升迁移速度。
    • 增量迁移:通过捕获源数据库的日志(如MySQL的binlog、Oracle的redo log),实时同步增量数据至HotDB集群,确保迁移过程中业务的连续性。
    • 迁移验证:迁移完成后,工具会自动对比源数据库与HotDB集群的数据,确保数据一致性。
  • 协议兼容:完全兼容MySQL协议,应用无需修改代码即可接入HotDB集群。同时,支持对JDBC、ODBC、PHP PDO等常用数据库驱动的兼容,确保现有应用的无缝对接。
  • 存储引擎兼容:支持对接多种存储引擎,包括InnoDB、MyRocks、TokuDB等,用户可根据业务需求选择合适的存储引擎。此外,支持对接云数据库(如阿里云RDS、腾讯云CDB),实现混合云存储架构。

三、技术特点与优势

HotDB作为企业级分布式数据库解决方案,具备以下核心技术特点与优势:

  • 高性能:通过分库分表将数据分散至多个节点,实现并行处理,提升系统的并发处理能力;Proxy层的SQL优化与结果聚合减少了数据传输量与计算开销;负载均衡机制确保各节点资源的充分利用,整体性能较单机数据库提升数倍至数十倍。
  • 高可用:节点故障自动切换、数据多副本同步、跨机房容灾等机制,确保集群的可用性达99.99%,满足企业级应用对系统可靠性的要求。
  • 弹性扩展:在线扩容与缩容无需停机,数据重分布过程不影响业务,可快速响应业务量的变化,降低资源浪费。
  • 低迁移成本:完全兼容MySQL协议与SQL语法,应用无需修改代码即可迁移;完善的迁移工具支持全量+增量迁移,确保迁移过程的平滑与数据一致性。
  • 数据一致性:支持分布式事务、全局序列生成、数据一致性校验等机制,保证分布式环境下的数据准确性,适用于金融等对数据一致性要求严苛的行业。
  • 企业级安全:全方位的权限管理、数据加密、审计功能,满足等保三级等合规标准,确保数据安全。
  • 灵活的存储架构:支持对接多种存储引擎与云数据库,可根据业务需求选择合适的存储方案,实现混合存储架构。

四、典型应用场景

HotDB适用于多种行业场景,以下为几个典型案例:

  • 金融行业-核心交易系统:某大型银行的核心交易系统,每日处理千万级交易,传统单机MySQL无法满足高并发需求。采用HotDB后,通过分库分表将交易数据分散至16个分片,读写分离提升读性能,高可用机制确保交易不中断。系统QPS从原来的5000提升至50000,可用性达99.99%,满足了业务增长的需求。
  • 互联网行业-电商秒杀场景:某电商平台的秒杀活动,峰值并发量达百万级。采用HotDB后,通过哈希分表存储商品库存数据,读写分离将读请求路由至从节点,弹性扩展在秒杀前增加节点,秒杀后缩容节点。系统成功支撑了多次秒杀活动,未出现性能瓶颈或数据不一致问题。
  • 政务行业-市民服务平台:某城市的市民服务平台,存储了数百万市民的信息与业务数据,传统数据库难以支撑日益增长的数据量与访问量。采用HotDB后,通过范围分表存储市民的业务记录(按时间),全局表存储字典数据,跨机房容灾确保系统的可靠性。平台的响应速度提升了3倍,数据存储能力扩展至PB级。
  • 物流行业-订单跟踪系统:某物流企业的订单跟踪系统,每日处理数百万订单,需要实时更新订单状态并支持高并发查询。采用HotDB后,通过复合分表(用户ID哈希+订单时间范围)存储订单数据,读写分离支撑实时查询,弹性扩展应对业务量波动。系统的查询延迟从原来的500ms降至50ms,满足了用户对订单跟踪实时性的要求。
  • 游戏行业-玩家数据系统:某游戏公司的玩家数据系统,存储了数千万玩家的信息与游戏数据,需要支撑高并发的实时交互。采用HotDB后,通过哈希分表存储玩家数据,读写分离提升读性能,弹性扩展在开服时增加节点,关服时缩容节点。系统的并发处理能力提升至百万级,玩家体验得到显著改善。

五、总结

HotDB作为热璞公司推出的企业级分布式数据库解决方案,通过分布式架构、高可用机制、弹性扩展能力与完善的迁移工具,为企业提供了一套高效、稳定、安全的数据库基础设施。其核心优势在于兼容传统数据库协议、低迁移成本、高性能与高可用性,适用于金融、互联网、政务等多个行业场景。HotDB的出现,帮助企业突破了传统数据库的扩展限制,加速了数字化转型的进程。

点击链接,了解更多产品详情:

后查看

展开更多

案例介绍

暂无内容

版权/专利

暂无内容
评价
点评抽奖
"客观"-"真实"-"中立"-"专业"点评,每项不少于20字,总字数不少于90字,帮助更多迷茫的IT人。点评完即可现金抽奖,满5个送笔记本/平板活动支架;10个送扫地机器人;20个送VIP视频会员。
评分标准及明细
0-20分很糟糕
很糟糕功能/性能/服务等基本无法使用
20-40分较差
较差功能/性能/服务等存在较多问题
40-60分一般
一般行业同类平均水平,凑活够用
60-80分还不错
还不错行业上游水平,能满足大部分使用需求
80-100分优秀
优秀行业领先水平,只有20%左右评比对象满足这个标准
总评分
还不错64.0分
还不错
共1人评分
项目
评分
同类平均分
综合
64
70
兼容性
70
72
稳定性
70
74
易用性
50
68
性能
70
76
市场占有率
70
62
功能
60
74
扩展性
60
76
美观度
70
66
技术服务
60
64
性价比
60
66
时间排序↓
最新
精华
1 条评论
向我咨询
发表评论