Persistent memory is a central capability for AI agents, yet the mathematical foundations of memory retrieval, lifecycle management, and consistency remain unexplored. Current systems employ cosine similarity for retrieval, heuristic decay for salience, and provide no formal contradiction detection. We establish information-geometric foundations through three contributions. First, a retrieval metric derived from the Fisher information structure of diagonal Gaussian families, satisfying Riemannian metric axioms, invariant under sufficient statistics, and computable in O(d) time. Second, memory lifecycle formulated as Riemannian Langevin dynamics with proven existence and uniqueness of the stationary distribution via the Fokker-Planck equation, replacing hand-tuned decay with principled convergence guarantees. Third, a cellular sheaf model where non-trivial first cohomology classes correspond precisely to irreconcilable contradictions across memory contexts. On the LoCoMo benchmark, the mathematical layers yield +12.7 percentage points over engineering baselines across six conversations, reaching +19.9 pp on the most challenging dialogues. A four-channel retrieval architecture achieves 75% accuracy without cloud dependency. Cloud-augmented results reach 87.7%. A zero-LLM configuration satisfies EU AI Act data sovereignty requirements by architectural design. To our knowledge, this is the first work establishing information-geometric, sheaf-theoretic, and stochastic-dynamical foundations for AI agent memory systems.


翻译:持久记忆是AI智能体的核心能力,然而记忆检索、生命周期管理和一致性的数学基础仍未得到探索。现有系统采用余弦相似度进行检索,使用启发式衰减处理显著性,且未提供形式化的矛盾检测方法。我们通过三项贡献建立了信息几何基础。首先,提出一种从对角高斯族的费希尔信息结构导出的检索度量,该度量满足黎曼度量公理,在充分统计量下具有不变性,并可在O(d)时间内计算。其次,将记忆生命周期建模为黎曼朗之万动力学,通过福克-普朗克方程证明了稳态分布的存在性与唯一性,从而用具有理论保证的收敛性取代了手动调整的衰减机制。第三,构建了一个胞腔层模型,其中非平凡的第一上同调类精确对应记忆上下文间不可调和的矛盾。在LoCoMo基准测试中,数学层在六轮对话中相比工程基线实现了+12.7个百分点的提升,在最富挑战性的对话中达到+19.9个百分点。四通道检索架构在不依赖云端的情况下实现了75%的准确率。云端增强结果达到87.7%。零LLM配置通过架构设计满足了欧盟《人工智能法案》的数据主权要求。据我们所知,这是首个为AI智能体记忆系统建立信息几何、层理论和随机动力学基础的研究工作。

0
下载
关闭预览

相关内容

信息几何[Ama16, AJLS17, Ama21]旨在解开概率分布族的几何结构,并研究它们在信息科学中的应用。信息学是将统计学、信息论、信号处理、机器学习和人工智能等重新组合起来的一个总称。信息几何是计量经济学家H. Hotelling(1930)和统计学家C. R. Rao(1945)出于数学上的好奇心而独立诞生的,他们考虑了概率分布的参数族,称为统计模型,是一种带有费雪度量张量的黎曼流形[Nie20]。信息几何通过使用微分几何的概念(如曲率)和张量微积分来解决问题。在他的开创性工作中,Rao考虑了流形上的黎曼测地距离和测地球来研究统计学中的分类和假设检验问题。
KARL:基于强化学习的知识智能体
专知会员服务
13+阅读 · 3月7日
MMA:多模态记忆智能体
专知会员服务
10+阅读 · 2月19日
下半场思考:基础智能体记忆机制
专知会员服务
21+阅读 · 2月9日
AI智能体时代中的记忆:形式、功能与动态综述
专知会员服务
36+阅读 · 2025年12月16日
大模型智能体:概念、前沿和产业实践
专知会员服务
79+阅读 · 2024年8月20日
基于信息理论的机器学习
专知
22+阅读 · 2017年11月23日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
新兴反无人机技术与不对称防御对策
专知会员服务
3+阅读 · 今天15:12
《美空军条令出版物 3-60,目标定位(2026版)》
专知会员服务
4+阅读 · 今天15:06
《无人机在冲突地区提供紧急医疗与外科支持》
专知会员服务
4+阅读 · 今天14:48
《定向能武器交战授权治理管道》
专知会员服务
4+阅读 · 今天14:41
《人工智能与海军作战》最新报告
专知会员服务
4+阅读 · 今天14:00
具身AI安全综述:风险、攻击与防御
专知会员服务
3+阅读 · 今天12:02
DeepSeek 版Claude Code,免费小白安装教程来了!
专知会员服务
13+阅读 · 5月5日
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员