Memory tiering provides a cost-effective solution to increase memory capacity, utilization, and even bandwidth. Memory tiering relies on system software for memory profiling, detection of frequently accessed pages, and page migration. Such a system software often comes with system parameters. The configurations of those parameters impact application performance. We comprehensively classify system parameters, and characterize the sensitivity of application performance to them using representative memory tiering solutions. Furthermore, we introduce a lightweight and user-friendly framework PTMT, which automates tuning of parameters at runtime for various memory tiering solutions. We identify major challenges for online tuning of memory tiering. PTMT uses a hybrid "offline + online" tuning method: while the offline phase builds a performance database for online queries and reduces runtime overhead, the online phase uses reinforcement learning (customized to memory tiering) to tune. PTMT improves performance by 30%, 26%, 21%, and 14%, on four memory tiering solutions (TPP, UPM, Colloid, and AutoNUMA), compared to using the default configurations. PTMT outperforms the state-of-the-art by 32% on average.


翻译:内存分层技术通过系统软件实现内存性能分析、频繁访问页面检测及页面迁移等机制,以低成本提升内存容量、利用率乃至带宽。此类系统软件通常包含多个系统参数,其配置直接影响应用性能。本文对系统参数进行了系统分类,并基于代表性内存分层方案,特征化分析了应用性能对参数的敏感度。进一步地,我们提出轻量级且用户友好的框架PTMT,能够自动实现对多种内存分层方案的运行时参数调优。我们识别了内存分层在线调优的主要挑战。PTMT采用"离线+在线"混合调优方法:离线阶段用于构建性能数据库以支持在线查询,并降低运行时开销;在线阶段则使用定制化强化学习(针对内存分层场景)进行调优。实验表明,相较于默认配置,PTMT在四种内存分层方案(TPP、UPM、Colloid、AutoNUMA)上分别实现30%、26%、21%和14%的性能提升,且平均性能优于现有最优方案32%。

0
下载
关闭预览

相关内容

推荐系统融合排序的多目标寻优技术
专知会员服务
19+阅读 · 2024年8月17日
国家标准《信息技术云计算参考架构》
专知会员服务
37+阅读 · 2024年5月24日
推荐系统技术综述
专知会员服务
55+阅读 · 2023年5月13日
智能化分布式协同作战体系发展综述
专知会员服务
194+阅读 · 2022年6月10日
混合增强视觉认知架构及其关键技术进展
专知会员服务
46+阅读 · 2021年11月20日
个性化推荐系统技术进展
专知会员服务
66+阅读 · 2020年8月15日
分布式核心技术知识图谱,带走不谢
架构师之路
12+阅读 · 2019年9月23日
推荐系统原理、工程、大厂(Youtube、BAT、TMB)架构干活分享
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
深度学习在推荐系统上的应用
架构文摘
13+阅读 · 2018年2月22日
今日头条推荐系统架构演进之路
QCon
32+阅读 · 2017年6月21日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
7+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
8+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
6+阅读 · 6月17日
相关VIP内容
推荐系统融合排序的多目标寻优技术
专知会员服务
19+阅读 · 2024年8月17日
国家标准《信息技术云计算参考架构》
专知会员服务
37+阅读 · 2024年5月24日
推荐系统技术综述
专知会员服务
55+阅读 · 2023年5月13日
智能化分布式协同作战体系发展综述
专知会员服务
194+阅读 · 2022年6月10日
混合增强视觉认知架构及其关键技术进展
专知会员服务
46+阅读 · 2021年11月20日
个性化推荐系统技术进展
专知会员服务
66+阅读 · 2020年8月15日
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员