当前位置: 首页 > article >正文

把数据库做得能扩展:Aurora DSQL 的故事

把数据库做得能扩展:Aurora DSQL 的故事

我们在 AWS re:Invent 上发布了 Aurora DSQL,这是一个全新方式构建关系型数据库的尝试。它不是单纯的技术升级,而是一段从零开始、反复试错、不断学习的工程旅程。

我们为什么做 Aurora DSQL?

AWS 从最早的 RDS 到 DynamoDB、Redshift、Aurora,一直在为客户打造专用型数据库。这些服务解决了客户遇到的实际问题,比如:如何处理超大规模的数据、如何加快查询速度、怎样减轻数据库维护负担等。

但我们还缺了一个拼图:一个真正 可自动扩展、无需人工维护 的 SQL 数据库。Aurora 和 Aurora Serverless 已经向这个目标迈出了一步,但我们想做得更多、更彻底。

DSQL 是什么?

DSQL 把数据库拆成多个模块,每个模块只做一件事,但配合起来可以完成完整数据库功能,比如事务、查询、一致性、并发等。

最难的是如何扩展写操作。传统方法很复杂,容易出错。我们决定换一种思路,把一次写入的全部数据打包写入一个地方,这样简单、可靠。但这样做导致读取数据变复杂,因为要到处找更新数据。

为了解决这个问题,我们设计了 Crossbar

Crossbar 是一个关键组件,能高效管理读写扩展。它允许存储节点只接收相关的数据,而不是所有数据都广播一遍。不过这个系统很难实现,还带来了一堆新问题,比如网络压力、延迟、垃圾回收等。

我们模拟测试后发现问题很严重:只要有一台机器慢,整个系统就变慢了。我们需要根本的改变。

于是,我们选择了 Rust

最初我们的代码是用 Java 的 JVM 平台写的。但 JVM 的垃圾回收机制让我们在高负载下很难保证低延迟。C/C++ 太容易出内存问题。Rust 则给了我们意想不到的答案:

  • 没有垃圾回收,性能稳定
  • 内存安全,避免很多 bug
  • 写出来的代码非常快(比我们优化多年的 Java 版本快 10 倍)

我们决定用 Rust 重写整个数据库核心。控制层最开始还保留在 Kotlin,但最终也迁移到了 Rust,因为:

  • Rust 写的逻辑更一致,便于测试和调试
  • 不同语言导致重复代码、不同表现
  • 开发人员反而更喜欢 Rust,学得快、写得顺
遇到的挑战和收获
  • Rust 学起来不容易,但一旦学会,效率很高
  • Postgres 虽然是用 C 写的,但我们用 Rust 写扩展,反而更安全
  • 决策时最重要的是看团队需求、项目特点,而不是语言流行度
最后的总结

DSQL 的开发不是一蹴而就的,而是靠一步步尝试和不断调整得来的。Rust 最终帮我们打造了一个更稳定、更快速、更可扩展的数据库。它未必适合每个项目,但对我们来说,是个对的选择。

我们最大的收获不是代码写得多快,而是团队一起面对挑战、不断进步的过程。

http://www.lryc.cn/news/2394872.html

相关文章:

  • 全面解析:npm 命令、package.json 结构与 Vite 详解
  • 【本地部署】 Deepseek+Dify创建工作流
  • Rust 配置解析`serde` + `toml`
  • linux进程用户态内存泄露问题从进程角度跟踪举例
  • 数据结构-图的应用,实现环形校验和拓扑排序
  • 交换机 路由器
  • 某乎x-zse-96 破解(补环境版本)
  • VSCode+Cline 安装配置及使用说明
  • Java中Redis面试题集锦(含过期策略详解)
  • Maven 安装与配置指南(适用于 Windows、Linux 和 macOS)
  • android 媒体框架之MediaCodec
  • 堆与堆排序及 Top-K 问题解析:从原理到实践
  • Linux中检查当前用户是不是root
  • 软件锁:守护隐私,安心无忧
  • 无人机桥梁3D建模、巡检、检测的航线规划
  • 项目:贪吃蛇实现
  • 【Java基础05】面向对象01
  • 设计模式:观察者模式 - 实战
  • 8.8 Primary ODSA service without ODSA Portal
  • YOLOv8 移动端升级:借助 GhostNetv2 主干网络,实现高效特征提取
  • 国产化Word处理控件Spire.Doc教程:在 C# 中打印 Word 文档终极指南
  • java的vscode扩展插件
  • 谷歌:贝叶斯框架优化LLM推理反思
  • Qt SQL模块基础
  • [9-3] 串口发送串口发送+接收 江协科技学习笔记(26个知识点)
  • java 微服务中,微服务相互调用 feign 和flux 如何选择
  • 如何在Qt中绘制一个带有动画的弧形进度条?
  • 参加技术会议,为程序人生的职业生涯成长添砖加瓦
  • 国产三维CAD皇冠CAD(CrownCAD)建模教程:汽车电池
  • 记录算法笔记(2025.5.28)只出现一次的数字