Large language model agents are entering regulated financial systems, yet research on their attack surface remains predominantly laboratory-based, and practitioner guidance is neither peer-reviewed nor connected to a formal threat model. Using production evidence, we map six agentic threat categories, namely prompt injection, identity and authorization, action auditability, tool abuse, data residency, and boundary policy enforcement, to the specific control obligations imposed by US and EU financial regulation (ECOA and Regulation B, EU AI Act, GDPR Article 22, and FINRA's 2026 agent guidance), showing how legal accountability increases their operational significance. We distill these obligations into five runtime control invariants with reference algorithms that enforce them at auditable architectural boundaries. We develop a formal model expressing each invariant as a predicate over a case-bound event chain and prove the audit reconstruction gate is sound and complete with respect to these invariants: compliance is decidable from the case identifier alone. We show that two of the invariants constrain audit cost and throughput rather than constituting pure operational overhead. We document four architectural patterns from a production Know Your Customer (KYC) deployment for a consumer credit product that reduced multi-day manual processing to same-day automated resolution for approximately four in five cases. Finally, we report three negative results, two identified through internal audit or production observation rather than adversarial testing. We conclude that securing agents in regulated environments depends less on novel attack classes than on rendering auditability, least-privilege authorization, and boundary policy enforcement, with verifiable compliance and bounded audit cost at scale.


翻译:暂无翻译

0
下载
关闭预览

相关内容

AgentOps综述:智能体系统运维框架
专知会员服务
25+阅读 · 6月4日
Agent建模讲义:复杂系统与Agent模型
专知会员服务
83+阅读 · 2024年4月24日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
61+阅读 · 2019年10月17日
一文读懂自注意力机制:8大步骤图解+代码
新智元
153+阅读 · 2019年11月26日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Self-Attention GAN 中的 self-attention 机制
PaperWeekly
12+阅读 · 2019年3月6日
深度学习中Attention Mechanism详细介绍:原理、分类及应用
深度学习与NLP
10+阅读 · 2019年2月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
Relation Networks for Object Detection 论文笔记
统计学习与视觉计算组
16+阅读 · 2018年4月18日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Arxiv
0+阅读 · 10月17日
VIP会员
最新内容
《美空军2026条令文件:对海压制作战》
专知会员服务
25+阅读 · 11月9日
人工智能与战争的未来
专知会员服务
10+阅读 · 11月8日
《Agent Mosaic:识别智能体LLM系统中的机密泄露》
专知会员服务
12+阅读 · 11月8日
人工智能在军事教育中的应用:若干视角与经验
专知会员服务
12+阅读 · 11月6日
“星链”减速与不断适应的乌克兰
专知会员服务
10+阅读 · 11月6日
美国中期选举之后:帕兰提尔面临不确定性?
专知会员服务
7+阅读 · 11月6日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员