Modern microservice systems exhibit continuous structural evolution in their runtime call graphs due to workload fluctuations, fault responses, and deployment activities. Despite this complexity, our analysis of over 500,000 production traces from ByteDance reveals a latent regularity: execution paths concentrate around a small set of recurring invocation patterns. However, existing resource management approaches fail to exploit this structure. Industrial autoscalers like Kubernetes HPA ignore inter-service dependencies, while recent academic methods often assume static topologies, rendering them ineffective under dynamic execution contexts. In this work, we propose Morphis, a dependency-aware provisioning framework that unifies pattern-aware trace analysis with global optimization. It introduces structural fingerprinting that decomposes traces into a stable execution backbone and interpretable deviation subgraphs. Then, resource allocation is formulated as a constrained optimization problem over predicted pattern distributions, jointly minimizing aggregate CPU usage while satisfying end-to-end tail-latency SLOs. Our extensive evaluations on the TrainTicket benchmark demonstrate that Morphis reduces CPU consumption by 35-38% compared to state-of-the-art baselines while maintaining 98.8% SLO compliance.


翻译:现代微服务系统因其运行时的调用图随工作负载波动、故障响应及部署活动而持续发生结构演化。尽管存在这种复杂性,我们对字节跳动超过500,000条生产环境追踪记录的分析揭示了一种潜在的规律性:执行路径集中在少量重复出现的调用模式周围。然而,现有的资源管理方法未能利用这一结构特征。工业级自动扩缩器(如Kubernetes HPA)忽略了服务间的依赖关系,而近期的学术方法通常假设静态拓扑,导致其在动态执行环境下效果不佳。本研究提出Morphis,一种依赖感知的资源供给框架,它将模式感知的追踪分析与全局优化相统一。该框架引入了结构指纹技术,将追踪记录分解为稳定的执行主干与可解释的偏差子图。进而,资源分配被建模为基于预测模式分布的约束优化问题,在满足端到端尾部延迟服务等级目标(SLO)的同时,联合最小化总体CPU使用率。我们在TrainTicket基准测试上的广泛评估表明,与现有先进基线方法相比,Morphis在保持98.8% SLO合规率的同时,降低了35-38%的CPU消耗。

0
下载
关闭预览

相关内容

【2022新书】构建微服务:设计细粒度系统,615页pdf
专知会员服务
91+阅读 · 2022年9月4日
专知会员服务
31+阅读 · 2020年12月21日
用户画像基础
DataFunTalk
12+阅读 · 2020年8月1日
前端微服务在字节跳动的落地之路
前端之巅
41+阅读 · 2019年9月19日
深度学习应用在图像匹配的效果如何?
中国图象图形学报
10+阅读 · 2019年6月11日
【知识图谱】基于知识图谱的用户画像技术
产业智能官
103+阅读 · 2019年1月9日
【CPS】社会物理信息系统(CPSS)及其典型应用
产业智能官
16+阅读 · 2018年9月18日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
VIP会员
相关资讯
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员