Data agents, empowered by Large Language Models (LLMs), introduce a new paradigm in transaction processing. Unlike traditional applications with fixed patterns, data agents run online-generated workflows that repeatedly issue SQL statements, reason over intermediate results, and revise subsequent plans. To ensure data consistency, these SQL statements issued by an agent should be integrated into a transaction, referred to as agentic transactions. Agentic transactions exhibit unforeseen characteristics, including long execution times, irregular execution intervals, and non-deterministic access patterns, breaking the assumptions underlying concurrency control (CC) (e.g., short-lived, predefined). Traditional CC schemes, which rely on fixed policies, fail to capture such dynamic behavior, resulting in inadequate performance. This paper introduces ATCC, an adaptive Concurrency Control for Agentic Transactions. ATCC continuously monitors and interprets the runtime behavior of each agentic transaction, evaluates its interactive phases, and dynamically adapts optimistic or pessimistic execution for each transaction. To ensure precise timing for adaptive switches, ATCC employs a reinforcement learning-based policy to balance immediate blocking against future abort costs. Additionally, to mitigate contention-induced tail latency and wasted reasoning cost caused by abort, a cost-aware priority-based lock scheduling is integrated to prioritize expensive or latency-sensitive transactions. Experimental results under agentic-like YCSB and TPC-C workloads demonstrate that ATCC improves the throughput of agentic transactions by up to four orders of magnitude and reduces tail latency by up to 90% compared to state-of-the-art CC schemes.


翻译:由大型语言模型(LLM)驱动的数据智能体为事务处理引入了新的范式。与传统应用程序具有固定模式不同,数据智能体运行在线生成的工作流,这些工作流会反复发出SQL语句、对中间结果进行推理并修订后续计划。为确保数据一致性,智能体发出的这些SQL语句应被整合到一个事务中,称为智能体事务。智能体事务展现出不可预见的特性,包括长执行时间、不规则执行间隔和非确定性访问模式,这打破了并发控制(CC)所依赖的假设(例如短时、预定义)。依赖固定策略的传统CC方案无法捕捉此类动态行为,导致性能不足。本文提出ATCC,一种面向智能体事务的自适应并发控制方案。ATCC持续监控并解释每个智能体事务的运行时行为,评估其交互阶段,并动态地为每个事务自适应选择乐观或悲观执行。为确保自适应切换的精确时机,ATCC采用基于强化学习的策略来平衡即时阻塞与未来中止成本。此外,为缓解由竞争引起的尾延迟以及因中止造成的推理成本浪费,ATCC集成了基于成本感知的优先级锁调度机制,以优先处理高成本或对延迟敏感的事务。在类智能体的YCSB和TPC-C负载下的实验结果表明,与最先进的CC方案相比,ATCC将智能体事务的吞吐量提升了高达四个数量级,并将尾延迟降低了高达90%。

0
下载
关闭预览

相关内容

AgentOps综述:智能体系统运维框架
专知会员服务
24+阅读 · 6月4日
走向通用虚拟智能体
专知会员服务
76+阅读 · 2023年11月26日
概述自动机器学习(AutoML)
人工智能学家
19+阅读 · 2019年8月11日
【强化学习】强化学习+深度学习=人工智能
产业智能官
55+阅读 · 2017年8月11日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
Arxiv
0+阅读 · 3月21日
VIP会员
最新内容
深入Project Maven:为何人工智能在战场上依然失灵
专知会员服务
4+阅读 · 今天15:21
锻造未来士兵:外骨骼、基因工程与赛博格
专知会员服务
0+阅读 · 今天15:12
《无人机蜂群通信技术研究》50页
专知会员服务
4+阅读 · 今天14:55
战力倍增器:自主武器系统与乌克兰及加沙冲突
人工智能赋能战场情报:提速决策进程
专知会员服务
3+阅读 · 7月17日
《拥抱新兴技术:面向未来军官的教育革新》
专知会员服务
7+阅读 · 7月17日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员