The rapid advancement of artificial intelligence has elevated data to a cornerstone of modern software systems. As data projects become increasingly complex and dynamic, version control for data has become essential rather than merely convenient. Existing version control systems designed for source code are inadequate for large-scale data management, as they often require loading entire datasets into memory for diff and merge operations. Database systems, while providing robust data management capabilities, lack native support for version control operations such as diff and merge between data forks. We present a version control system for data implemented in MatrixOne, a cloud-native relational database system. Our system leverages MatrixOne's immutable storage architecture and multi-version concurrency control (MVCC) to enable git-like operations on database tables at scale. The system supports the complete spectrum of version control operations: clone, tag/branch, diff, merge, and revert, on terabyte-scale datasets with near-instantaneous performance. This version control system enables data engineers to adopt established software engineering workflows: creating branches for isolated experimentation, submitting pull requests for change review, and running CI/CD pipelines efficiently and safely. Changes in the development environment are isolated from production in both data integrity and computing resources. Verified changes can be published to production in atomic transactions, ensuring data consistency and avoiding service disruptions.


翻译:人工智能的飞速发展使数据成为现代软件系统的基石。随着数据项目日益复杂化和动态化,数据版本控制已从辅助功能演变为必要需求。现有面向源代码的版本控制系统难以支撑大规模数据管理——其差异比对与合并操作需将完整数据集加载至内存。数据库系统虽具备强大的数据管理能力,但原生缺乏数据分支间的差异比对与合并等版本控制操作。我们提出了一种基于MatrixOne云原生关系型数据库实现的数据版本控制系统。该系统利用MatrixOne的不可变存储架构与多版本并发控制机制,实现了对数据库表级规模数据的类Git操作。该系统支持完整的版本控制操作谱系:克隆、标签/分支、差异比对、合并及回滚,可在TB级数据集上实现近瞬时性能。该版本控制系统使数据工程师能够采用成熟的软件工程工作流:创建独立实验分支、提交变更审核拉取请求、高效安全地运行CI/CD流水线。开发环境中的变更在数据完整性与计算资源层面均与生产环境隔离。经验证的变更可通过原子事务发布至生产环境,确保数据一致性并避免服务中断。

0
下载
关闭预览

相关内容

重磅!《2035数字议程重大议题:数据治理》发布,34页pdf
专知会员服务
65+阅读 · 2022年10月21日
《数据安全治理自动化技术框架》白皮书发布,47页pdf
专知会员服务
61+阅读 · 2022年9月9日
专知会员服务
37+阅读 · 2021年2月26日
专知会员服务
66+阅读 · 2021年1月25日
【大规模数据系统,552页ppt】Large-scale Data Systems
专知会员服务
61+阅读 · 2019年12月21日
如何做数据治理?
智能交通技术
19+阅读 · 2019年4月20日
最全数据科学学习资源:Python、线性代数、机器学习...
人工智能头条
12+阅读 · 2018年5月14日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 4月8日
Arxiv
17+阅读 · 2023年12月4日
VIP会员
最新内容
《人工智能赋能的适应性多功能电磁战》
专知会员服务
9+阅读 · 9月29日
俄乌战场实验室:全面战争如何重塑现代作战
专知会员服务
6+阅读 · 9月29日
2026年美空军协会会议上的无人机系统趋势
专知会员服务
8+阅读 · 9月28日
反制无人机:乌克兰提供的五点启示
专知会员服务
13+阅读 · 9月23日
《各指挥层级均亟需红队能力》报告
专知会员服务
10+阅读 · 9月23日
《航电任务系统框架(FAMOS)》50页报告
专知会员服务
9+阅读 · 9月22日
《对抗行动中的人工智能与自主性》智库报告
专知会员服务
14+阅读 · 9月22日
《从数据到胜利:战争中的分析优势之争》
专知会员服务
17+阅读 · 9月22日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员