
HotDB
公司介绍:
产品详情
热璞公司的HotDB是一款面向企业级应用的分布式数据库解决方案,旨在帮助企业突破传统关系型数据库的性能瓶颈与扩展限制,实现数据的水平扩展、高可用保障与弹性资源调度。其设计遵循"兼容传统、平滑迁移、高效稳定"的原则,通过对SQL协议的深度兼容与分布式架构的优化,为用户提供与单机数据库一致的使用体验,同时具备分布式系统的高并发处理能力与容错能力,适用于金融、互联网、政务、物流等对数据库性能、可靠性要求严苛的行业场景。
一、核心定位与整体架构
HotDB的核心定位是成为企业数字化转型中的数据库基础设施核心组件,解决传统数据库在面对海量数据与高并发访问时的扩展性不足、可用性低、运维复杂等问题。其整体架构采用分层设计,涵盖接入层、集群管理层、数据存储层、监控运维层四大核心层次,各层之间松耦合,既保证了系统的灵活性,又便于功能的扩展与维护。
- 接入层(Proxy层):作为业务应用与后端数据库集群之间的中间层,负责接收应用的SQL请求,进行解析、路由、负载均衡与结果聚合。支持MySQL等主流关系型数据库协议,应用无需修改代码即可直接接入。
- 集群管理层:负责分布式集群的元数据管理、分片策略维护、节点状态监控、故障自动切换与数据重分布。是HotDB分布式能力的核心,确保集群的稳定运行与弹性扩展。
- 数据存储层:支持对接多种存储引擎与数据库,包括MySQL、PostgreSQL、云数据库(如阿里云RDS、腾讯云CDB)等,用户可根据业务需求选择合适的存储介质,实现混合存储架构。同时,提供数据多副本同步与一致性保障机制。
- 监控运维层:提供可视化的监控平台与运维工具,覆盖集群状态、性能指标、SQL执行情况、告警管理等全生命周期运维需求,降低运维复杂度。
二、核心功能模块详解
1. 分布式接入与路由
HotDB的接入层(Proxy)是业务应用与后端集群交互的入口,具备SQL解析、路由决策、负载均衡、结果聚合等核心能力,是实现分布式数据库访问的关键组件。
- SQL协议兼容:完全兼容MySQL 5.7/8.0协议,支持DDL、DML、DCL等所有标准SQL语法,同时兼容存储过程、触发器、视图等高级特性,应用无需修改代码即可从单机MySQL平滑迁移至HotDB集群,极大降低了迁移成本。
- 智能路由策略:支持多种路由规则,包括读写分离路由、分库分表路由、全局表路由等,满足不同业务场景的需求。
- 读写分离路由:基于SQL类型(SELECT/INSERT/UPDATE/DELETE)、用户角色、事务状态等维度,自动将读请求路由至从节点,写请求路由至主节点。支持自定义路由规则,例如将特定用户的读请求路由至指定节点,或在事务中强制使用主节点以保证数据一致性。
- 分库分表路由:支持哈希、范围、列表、复合四种核心分表策略,覆盖绝大多数业务场景:
- 哈希分表:基于分片键(如用户ID、订单ID)的哈希值将数据均匀分布至不同分片,适用于数据分布均匀、查询以分片键为主的场景(如用户信息查询)。例如,将用户ID取模16,分配至16个分片,保证每个分片的数据量大致相等。
- 范围分表:基于分片键的数值范围将数据划分至不同分片,适用于时间序列数据或具有连续值特征的数据(如订单时间、交易金额)。例如,将2023年1月的订单存储至分片1,2023年2月的订单存储至分片2,便于按时间范围进行数据归档与查询优化。
- 列表分表:基于分片键的固定值列表将数据划分至不同分片,适用于数据具有明确分类的场景(如地区、业务线)。例如,将华北地区的订单存储至分片1,华东地区的订单存储至分片2,便于按地区进行业务隔离与数据分析。
- 复合分表:结合两种或以上分表策略,满足复杂业务场景的需求。例如,先按用户ID哈希分库,再按订单时间范围分表,既保证了用户数据的集中存储,又便于按时间查询订单信息。
- 全局表路由:对于字典表、配置表等全局共享数据,支持将其同步至所有分片,保证每个分片都能快速访问到最新数据,避免跨分片查询带来的性能损耗。
- 负载均衡:Proxy层支持轮询、加权轮询、最少连接数等负载均衡算法,将应用请求均匀分配至后端数据库节点,避免单节点过载。同时,支持对节点权重的动态调整,可根据节点性能分配不同的请求比例。
- SQL优化与结果聚合:对跨分片查询进行优化,例如将聚合函数(SUM、COUNT、AVG)下推至分片节点执行,仅返回聚合结果至Proxy层,减少数据传输量;对分页查询进行优化,避免全量数据扫描。对于跨分片的联合查询,Proxy层会自动聚合各分片的结果,返回统一的数据集给应用。
2. 高可用与容灾
HotDB通过多副本同步、故障自动切换、跨机房容灾等机制,确保数据库集群的高可用性,满足企业级应用对系统可靠性的要求(目标可用性达99.99%)。
- 节点故障自动切换:集群管理层实时监控后端数据库节点的状态,通过心跳检测(默认间隔1秒)识别节点故障。当主节点发生故障时,系统会自动选举新的主节点(基于Raft算法或GTID复制状态),并更新Proxy层的路由规则,整个切换过程在秒级完成,应用无感知。从节点故障时,系统会自动将其从集群中移除,并通知运维人员进行处理。
- 数据多副本同步:支持基于GTID的异步、半同步、强同步三种数据复制模式,用户可根据业务对一致性与性能的需求选择合适的模式:
- 异步复制:主节点写入数据后立即返回成功,数据异步同步至从节点,性能最高,但可能存在数据丢失风险(主节点故障时未同步的数据会丢失)。
- 半同步复制:主节点写入数据后,等待至少一个从节点确认接收数据后再返回成功,平衡了性能与数据安全性,适用于大多数业务场景。
- 强同步复制:主节点写入数据后,等待所有从节点确认接收数据后再返回成功,保证数据的强一致性,但性能会有所下降,适用于金融交易等对数据一致性要求极高的场景。
- 跨机房容灾:支持两地三中心、异地多活等容灾架构,可将数据同步至异地机房。当主机房发生故障时,系统可快速切换至灾备机房,保证业务的连续性。例如,主机房部署在上海,灾备机房部署在北京与广州,上海机房故障时,自动切换至北京机房,数据损失控制在秒级以内。
- 故障恢复机制:节点故障恢复后,系统会自动将其重新加入集群,并同步缺失的数据(基于GTID的增量同步)。对于数据损坏的节点,支持自动重建功能,从其他节点复制全量数据,恢复节点状态。
3. 弹性扩展
HotDB支持在线扩容与缩容,无需停机即可调整集群规模,满足业务量波动带来的资源需求变化。
- 在线扩容:当业务数据量增长或并发量提升时,用户可通过管理界面添加新的数据库节点。系统会自动将现有分片的数据迁移至新节点(数据重分布),迁移过程中不影响业务的正常访问。迁移完成后,Proxy层会自动更新路由规则,将新节点纳入集群负载均衡体系。
- 在线缩容:当业务量下降时,用户可移除多余的数据库节点。系统会先将待移除节点上的数据迁移至其他节点,迁移完成后再将节点从集群中删除,保证数据不丢失。
- 数据重分布:数据迁移过程采用"分片迁移"策略,将一个分片的数据拆分为多个部分,逐步迁移至新节点,避免单分片迁移带来的性能影响。同时,支持对迁移速度的控制(如限速100MB/s),可根据业务负载调整迁移节奏。迁移过程中,系统会实时监控数据一致性,确保迁移前后数据完全一致。
- 资源动态调整:支持计算资源与存储资源的独立扩展。例如,可单独增加存储节点以扩展数据存储能力,或增加计算节点以提升查询性能。
4. 数据一致性保障
HotDB通过分布式事务、全局序列生成、数据一致性校验等机制,保证分布式环境下的数据一致性,满足金融等行业对数据准确性的严格要求。
- 分布式事务支持:支持XA事务与优化的两阶段提交(2PC)协议,实现跨分片事务的原子性与一致性。同时,针对2PC协议的性能问题,HotDB进行了优化:例如,引入事务协调者的高可用机制,避免单点故障;对非跨分片的事务直接提交,无需经过2PC流程。此外,支持TCC事务模式,适用于业务逻辑复杂的场景。
- 全局序列生成:为解决分库分表场景下的主键冲突问题,HotDB提供全局序列服务,支持多种序列生成方式:
- 数据库自增序列:基于专用的序列数据库生成全局唯一的序列值,适用于对序列连续性要求较高的场景。
- Redis序列:利用Redis的原子操作生成序列值,性能较高,适用于高并发场景。
- 雪花算法(Snowflake):基于时间戳、机器ID、序列号生成全局唯一的64位整数序列,无需依赖外部组件,性能极高,适用于大规模分布式场景。
- 数据一致性校验:支持定期与实时的数据一致性校验。定期校验可按天或小时对各分片的数据进行比对,发现数据不一致时自动修复;实时校验则在数据写入时,对主从节点的数据进行同步校验,确保数据复制的准确性。
5. 监控与运维管理
HotDB提供可视化的监控平台与丰富的运维工具,帮助运维人员快速掌握集群状态,高效处理运维任务,降低运维复杂度。
- 可视化监控平台:提供多维度的监控指标,包括集群整体指标、节点指标、SQL执行指标等:
- 集群整体指标:QPS、TPS、请求延迟、分片数量、节点数量、数据总量等。
- 节点指标:CPU使用率、内存使用率、磁盘IO、网络IO、连接数、复制延迟等。
- SQL执行指标:慢SQL数量、慢SQL详情(执行时间、影响行数、执行计划)、SQL类型分布(SELECT/INSERT/UPDATE/DELETE占比)、跨分片查询数量等。
- 告警机制:支持对集群异常、性能阈值、数据一致性问题等事件设置告警规则。告警方式包括邮件、短信、钉钉、微信等,用户可根据事件严重程度(紧急、重要、一般)设置不同的告警接收人。例如,当节点CPU使用率超过90%时,发送紧急告警给运维负责人;当复制延迟超过10秒时,发送重要告警给DBA。
- 日志管理:提供完整的日志记录,包括Proxy日志、集群管理日志、数据库节点日志等。支持日志的检索与分析,可按时间范围、日志级别、关键字等条件查询日志。此外,支持慢SQL日志的自动收集与分析,帮助DBA优化SQL性能。
- 自动化运维工具:
- 自动化部署:支持通过脚本或管理界面快速部署集群,自动完成节点配置、服务启动等步骤。
- 备份恢复:支持全量备份与增量备份,备份数据可存储至本地磁盘或云存储(如阿里云OSS、腾讯云COS)。恢复时可指定时间点进行恢复,支持单表恢复与全库恢复。
- 配置管理:支持对集群配置的集中管理与动态更新,无需重启服务即可生效。例如,调整分片策略、修改复制模式等。
- 性能诊断:提供性能诊断工具,可自动分析集群性能瓶颈,给出优化建议(如调整分片策略、优化SQL语句、增加节点等)。
6. 安全与合规
HotDB提供全方位的安全保障机制,满足企业级应用对数据安全的要求,同时支持等保三级、PCI DSS等合规标准。
- 权限管理:基于RBAC(角色-based访问控制)模型,支持细粒度的权限控制:
- 用户角色:预设管理员、DBA、开发人员、只读用户等角色,每个角色拥有不同的权限。
- 对象权限:支持对数据库、表、列的权限控制,例如允许某个用户仅查询某张表的特定列,禁止其修改数据。
- 操作权限:支持对SQL操作的权限控制,例如禁止某个用户执行DROP TABLE等危险操作。
- 数据加密:
- 传输加密:支持SSL/TLS协议,对应用与Proxy层、Proxy层与数据库节点之间的通信进行加密,防止数据在传输过程中被窃取。
- 存储加密:支持对数据库存储的数据进行透明加密(TDE),加密密钥由密钥管理系统(KMS)统一管理,确保数据在存储层面的安全。
- 审计功能:记录所有用户的操作行为,包括登录、SQL执行、权限变更、配置修改等。审计日志不可篡改,可用于合规检查与安全事件追溯。
- 合规支持:HotDB的安全机制符合等保三级、PCI DSS、GDPR等国际国内合规标准,可帮助企业快速通过相关合规认证。
7. 迁移与兼容
HotDB提供完善的迁移工具与协议兼容机制,帮助企业从传统单机数据库平滑迁移至分布式集群,降低迁移风险与成本。
- 迁移工具:提供全量+增量的迁移方案,支持从MySQL、Oracle、SQL Server等传统数据库迁移至HotDB集群:
- 全量迁移:通过工具导出源数据库的数据,按分片策略导入至HotDB集群。支持对大表的并行导出与导入,提升迁移速度。
- 增量迁移:通过捕获源数据库的日志(如MySQL的binlog、Oracle的redo log),实时同步增量数据至HotDB集群,确保迁移过程中业务的连续性。
- 迁移验证:迁移完成后,工具会自动对比源数据库与HotDB集群的数据,确保数据一致性。
- 协议兼容:完全兼容MySQL协议,应用无需修改代码即可接入HotDB集群。同时,支持对JDBC、ODBC、PHP PDO等常用数据库驱动的兼容,确保现有应用的无缝对接。
- 存储引擎兼容:支持对接多种存储引擎,包括InnoDB、MyRocks、TokuDB等,用户可根据业务需求选择合适的存储引擎。此外,支持对接云数据库(如阿里云RDS、腾讯云CDB),实现混合云存储架构。
三、技术特点与优势
HotDB作为企业级分布式数据库解决方案,具备以下核心技术特点与优势:
- 高性能:通过分库分表将数据分散至多个节点,实现并行处理,提升系统的并发处理能力;Proxy层的SQL优化与结果聚合减少了数据传输量与计算开销;负载均衡机制确保各节点资源的充分利用,整体性能较单机数据库提升数倍至数十倍。
- 高可用:节点故障自动切换、数据多副本同步、跨机房容灾等机制,确保集群的可用性达99.99%,满足企业级应用对系统可靠性的要求。
- 弹性扩展:在线扩容与缩容无需停机,数据重分布过程不影响业务,可快速响应业务量的变化,降低资源浪费。
- 低迁移成本:完全兼容MySQL协议与SQL语法,应用无需修改代码即可迁移;完善的迁移工具支持全量+增量迁移,确保迁移过程的平滑与数据一致性。
- 数据一致性:支持分布式事务、全局序列生成、数据一致性校验等机制,保证分布式环境下的数据准确性,适用于金融等对数据一致性要求严苛的行业。
- 企业级安全:全方位的权限管理、数据加密、审计功能,满足等保三级等合规标准,确保数据安全。
- 灵活的存储架构:支持对接多种存储引擎与云数据库,可根据业务需求选择合适的存储方案,实现混合存储架构。
四、典型应用场景
HotDB适用于多种行业场景,以下为几个典型案例:
- 金融行业-核心交易系统:某大型银行的核心交易系统,每日处理千万级交易,传统单机MySQL无法满足高并发需求。采用HotDB后,通过分库分表将交易数据分散至16个分片,读写分离提升读性能,高可用机制确保交易不中断。系统QPS从原来的5000提升至50000,可用性达99.99%,满足了业务增长的需求。
- 互联网行业-电商秒杀场景:某电商平台的秒杀活动,峰值并发量达百万级。采用HotDB后,通过哈希分表存储商品库存数据,读写分离将读请求路由至从节点,弹性扩展在秒杀前增加节点,秒杀后缩容节点。系统成功支撑了多次秒杀活动,未出现性能瓶颈或数据不一致问题。
- 政务行业-市民服务平台:某城市的市民服务平台,存储了数百万市民的信息与业务数据,传统数据库难以支撑日益增长的数据量与访问量。采用HotDB后,通过范围分表存储市民的业务记录(按时间),全局表存储字典数据,跨机房容灾确保系统的可靠性。平台的响应速度提升了3倍,数据存储能力扩展至PB级。
- 物流行业-订单跟踪系统:某物流企业的订单跟踪系统,每日处理数百万订单,需要实时更新订单状态并支持高并发查询。采用HotDB后,通过复合分表(用户ID哈希+订单时间范围)存储订单数据,读写分离支撑实时查询,弹性扩展应对业务量波动。系统的查询延迟从原来的500ms降至50ms,满足了用户对订单跟踪实时性的要求。
- 游戏行业-玩家数据系统:某游戏公司的玩家数据系统,存储了数千万玩家的信息与游戏数据,需要支撑高并发的实时交互。采用HotDB后,通过哈希分表存储玩家数据,读写分离提升读性能,弹性扩展在开服时增加节点,关服时缩容节点。系统的并发处理能力提升至百万级,玩家体验得到显著改善。
五、总结
HotDB作为热璞公司推出的企业级分布式数据库解决方案,通过分布式架构、高可用机制、弹性扩展能力与完善的迁移工具,为企业提供了一套高效、稳定、安全的数据库基础设施。其核心优势在于兼容传统数据库协议、低迁移成本、高性能与高可用性,适用于金融、互联网、政务等多个行业场景。HotDB的出现,帮助企业突破了传统数据库的扩展限制,加速了数字化转型的进程。
点击链接,了解更多产品详情:
登录后查看
案例介绍
版权/专利









