网易云音乐每天都会产生大量用户行为数据、业务数据及日志数据，这些数据在异常行为跟踪、客诉问题定位、运行状态监控、性能优化等方面扮演守护者的角色。面对每日万亿级别数据的增量，网易云音乐早期的日志库以 ClickHouse 为核心构建，但面临运维成本高、并发查询能力不足、写入性能不稳定、使用费用高昂等问题，在新需求的满足上稍显吃力。
为寻找更优质解决方案，结合当前的业务需求，网易云音乐引入 Apache Doris 作为日志库新方案，替换了 ClickHouse。目前已经稳定运行 3 个季度，规模达到 50 台服务器，2PB 数据，每天新增日志量超过万亿条，峰值写入吞吐达 6GB/s。
升级收益：网易云音乐使用 Apache Doris 替换 ClickHouse 构建了新的日志平台，已经稳定运行三个季度，规模达到 50 台服务器、2PB 数据量。这次架构升级带来查询响应、并发能力、稳定性和运维效率等多方面可观的收益。
查询响应提升：整体 P99 查询延迟降低了 30%。特别是通过倒排索引加速，Doris 的全文检索 MATCH 查询性能比 LIKE 查询提升了 3-7 倍（在查询约 6TB 数据时，LIKE 查询耗时 7-9 秒，而 MATCH 查询仅需 1-3 秒）。此外，倒排索引的全文检索具备自动的大小写和单复数归一化能力，能够高效检索出更多相关日志。
查询并发提升：ClickHouse 并发查询数超过 200 时就会经常出现 Too many simultaneous queries 错误，而 Apache Doris 能够支撑 500+ 并发查询。Doris 还可以对单次查询的数据量和并发数进行调整，以灵活应对不同场景下的并发要求。
写入稳定性提升：FE / BE 发生单点故障时，都能自动感知和重试恢复，保证服务高可用。
运维成本降低：在坏盘和宕机场景下，Doris 的自恢复能力结合进程自动拉起脚本，降低人工干预的运维成本。扩容或停机维护场景下，Doris 的自动均衡能力很强，扩容后随着 tablet 的自动均衡和老数据的清理，集群会自动达到均衡状态。
点击阅读原文：登录后查看
