Large-scale financial transaction databases face a fundamental tension between operational freshness requirements and storage efficiency. We present the design, implementation, and production evaluation of a lifecycle-aware archival system for a financial transaction service at Razorpay managing billions of records on PostgreSQL Aurora (version 14), occupying tens of terabytes of storage and sustaining peak write throughput in the thousands of TPS. We make two contributions. First, we analytically characterize the Celebrity Partition Problem: lifecycle-state partitioning concentrates all operationally active rows in a single default partition, incurring O(N x M) planning overhead, O(N) execution I/O regression, and write amplification on every state transition. Second, we present an ID-monotonicity-based deduplication technique that exploits temporal encoding in monotonically increasing ID schemes (Snowflake IDs, ULIDs, and equivalent) to route only potentially-archived re-inserts to a warm database lookup, requiring no Bloom filters, idempotency tables, or external dependencies. We report production results from a fully deployed system: 95% hot storage size reduction, 53% reduction in monthly database infrastructure cost, ~60% reduction in service-level p99 processing latency, 51 percentage-point reduction in writer CPU utilization, and sustained operation at peak write TPS - without schema changes to the primary transaction table.


翻译:暂无翻译

0
下载
关闭预览

相关内容

金融业数据应用发展报告(2024—2025年)
专知会员服务
17+阅读 · 2月5日
【电子书】大数据挖掘,Mining of Massive Datasets,附513页PDF
专知会员服务
105+阅读 · 2020年3月22日
【大规模数据系统,552页ppt】Large-scale Data Systems
专知会员服务
61+阅读 · 2019年12月21日
金融领域自然语言处理研究资源大列表
专知
13+阅读 · 2020年2月27日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
11+阅读 · 2021年12月8日
VIP会员
相关主题
最新内容
何为协作武器?
专知会员服务
6+阅读 · 9月1日
《理解认知战:超越信息》
专知会员服务
10+阅读 · 9月1日
美国战争部在GenAI.mil上推出OpenAI的ChatGPT Mil
专知会员服务
8+阅读 · 8月31日
人工智能赋能军事维护:重新定义国防战备
专知会员服务
4+阅读 · 8月31日
《美陆军野战手册(2026年):特种部队》
专知会员服务
6+阅读 · 8月31日
受限仓库多智能体取送中的动态安全等待点选择
相关VIP内容
金融业数据应用发展报告(2024—2025年)
专知会员服务
17+阅读 · 2月5日
【电子书】大数据挖掘,Mining of Massive Datasets,附513页PDF
专知会员服务
105+阅读 · 2020年3月22日
【大规模数据系统,552页ppt】Large-scale Data Systems
专知会员服务
61+阅读 · 2019年12月21日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员