The Personal AI landscape is currently dominated by "Black Box" Retrieval-Augmented Generation. While standard vector databases offer statistical matching, they suffer from a fundamental lack of accountability: when an AI hallucinates or retrieves sensitive data, the user cannot inspect the cause nor correct the error. Worse, "deleting" a concept from a vector space is mathematically imprecise, leaving behind probabilistic "ghosts" that violate true privacy. We propose Ruva, the first "Glass Box" architecture designed for Human-in-the-Loop Memory Curation. Ruva grounds Personal AI in a Personal Knowledge Graph, enabling users to inspect what the AI knows and to perform precise redaction of specific facts. By shifting the paradigm from Vector Matching to Graph Reasoning, Ruva ensures the "Right to be Forgotten." Users are the editors of their own lives; Ruva hands them the pen. The project and the demo video are available at http://sisinf00.poliba.it/ruva/.


翻译:当前个人人工智能领域主要由“黑盒”检索增强生成技术主导。虽然标准向量数据库提供统计匹配,但其存在根本性的问责缺失:当人工智能产生幻觉或检索敏感数据时,用户既无法检查原因也无法纠正错误。更严重的是,从向量空间中“删除”概念在数学上是不精确的,会留下违反真实隐私的概率性“幽灵”。我们提出Ruva,首个为“人在回路”记忆管理设计的“玻璃盒”架构。Ruva将个人人工智能建立在个人知识图谱之上,使用户能够检查人工智能所掌握的知识,并对特定事实执行精确修订。通过将范式从向量匹配转向图推理,Ruva确保了“被遗忘权”。用户是自己生活的编辑者;Ruva将笔交还给他们。项目及演示视频详见http://sisinf00.poliba.it/ruva/。

0
下载
关闭预览

相关内容

《提高决策支持系统透明度的可解释人工智能》最新100页
专知会员服务
51+阅读 · 2024年11月28日
「可解释知识图谱推理」最新方法综述
专知会员服务
89+阅读 · 2022年12月17日
专知会员服务
23+阅读 · 2021年8月22日
专知会员服务
30+阅读 · 2021年2月21日
搜索query意图识别的演进
DataFunTalk
13+阅读 · 2020年11月15日
深度学习时代的图模型,清华发文综述图网络
GAN生成式对抗网络
13+阅读 · 2018年12月23日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
A Picture of Agentic Search
Arxiv
0+阅读 · 2月19日
VIP会员
相关基金
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员