Disaggregated storage systems improve resource utilization and enable independent scaling of storage and compute resources by separating storage resources from computing resources in data centers. NVMe over fabrics (NVMeoF) is a key technology that underpins the functionality and benefits of disaggregated storage systems. While NVMeoF inherently possesses substantial computing and memory capacity, these resources are often underutilized for tasks beyond simple I/O delegation. This study proposes OffloadFS, a user-level file system that enables offloaded IO-intensive tasks primarily to a disaggregated storage node for near-data processing, with the option to offload to peer compute nodes as well, without the need for distributed lock management. OffloadFS optimizes cache management by reducing interference between threads performing distinct I/O operations. On top of OffloadFS, we develop OffloadDB, which enables RocksDB to offload MemTable flush and compaction operations, and OffloadPrep, which offloads image pre-processing tasks for machine learning to disaggregated storage nodes. Our evaluation shows that OffloadFS improves the performance of RocksDB and machine learning pre-processing tasks by up to 3.36x and 1.85x, respectively, compared to OCFS2.


翻译:解耦存储系统通过将存储资源与计算资源在数据中心中分离,提升了资源利用率并支持存储与计算资源的独立扩展。NVMe over Fabrics (NVMeoF) 是支撑解耦存储系统功能与优势的关键技术。尽管NVMeoF本身具备强大的计算和内存能力,但这些资源在除简单I/O委派之外的任务中常被低效利用。本研究提出OffloadFS,一种用户级文件系统,主要将I/O密集型任务卸载至解耦存储节点以进行近数据处理,同时也可选择卸载至对等计算节点,且无需分布式锁管理。OffloadFS通过减少执行不同I/O操作的线程间的干扰,优化了缓存管理。基于OffloadFS,我们开发了OffloadDB,使RocksDB能够卸载MemTable刷新和压缩操作;以及OffloadPrep,将机器学习图像预处理任务卸载至解耦存储节点。评估结果表明,与OCFS2相比,OffloadFS分别将RocksDB和机器学习预处理任务的性能提升至多3.36倍和1.85倍。

0
下载
关闭预览

相关内容

国家标准《信息技术云计算参考架构》
专知会员服务
37+阅读 · 2024年5月24日
Transformer它就是个支持向量机
专知会员服务
38+阅读 · 2023年9月7日
《移动云中安全可信的任务卸载》论文
专知会员服务
18+阅读 · 2023年3月25日
离散制造业边缘计算 解决方案白皮书,46页pdf
专知会员服务
32+阅读 · 2022年3月23日
专知会员服务
37+阅读 · 2021年7月8日
【博士论文】解耦合的类脑计算系统栈设计
专知会员服务
32+阅读 · 2020年12月14日
《“边缘计算+”技术白皮书》,82页pdf
专知
11+阅读 · 2022年8月28日
【数据中台】什么是数据中台?
产业智能官
18+阅读 · 2019年7月30日
简述多种降维算法
算法与数学之美
11+阅读 · 2018年9月23日
【收藏】支持向量机原理详解+案例+代码!【点击阅读原文下载】
机器学习算法与Python学习
10+阅读 · 2018年9月13日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
2+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
3+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
3+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员