As intelligent systems are developed across diverse substrates - from machine learning models and neuromorphic hardware to in vitro neural cultures - understanding what gives a system agency has become increasingly important. Existing definitions, however, tend to rely on top-down descriptions that are difficult to quantify. We propose a bottom-up framework grounded in a system's information-processing order: the extent to which its transformation of input evolves over time. We identify three orders of information processing. Class I systems are reactive and memoryless, mapping inputs directly to outputs. Class II systems incorporate internal states that provide memory but follow fixed transformation rules. Class III systems are adaptive; their transformation rules themselves change as a function of prior activity. While not sufficient on their own, these dynamics represent necessary informational conditions for genuine agency. This hierarchy offers a measurable, substrate-independent way to identify the informational precursors of agency. We illustrate the framework with neurophysiological and computational examples, including thermostats and receptor-like memristors, and discuss its implications for the ethical and functional evaluation of systems that may exhibit agency.


翻译:随着智能系统在不同基底上的发展——从机器学习模型和神经形态硬件到体外神经培养——理解什么赋予系统能动性已变得日益重要。然而,现有定义往往依赖于难以量化的自上而下的描述。我们提出一种自下而上的框架,其基础是系统的信息处理阶数:即其输入转换随时间演化的程度。我们识别了三种信息处理阶数。I类系统是反应性的且无记忆的,直接将输入映射到输出。II类系统包含提供记忆的内部状态,但遵循固定的转换规则。III类系统是自适应的;其转换规则本身会作为先前活动的函数而改变。虽然这些动态特性本身并不充分,但它们代表了真正能动性的必要信息条件。这种层级结构提供了一种可测量的、与基底无关的方法来识别能动性的信息前兆。我们通过神经生理学和计算实例(包括恒温器和忆阻器类受体)阐释了该框架,并讨论了其对可能表现出能动性的系统的伦理和功能评估的意义。

0
下载
关闭预览

相关内容

迈向智能体系统规模化的科学
专知会员服务
20+阅读 · 2025年12月12日
【博士论文】通过学习可组合能量场景来学习可泛化系统
人工智能系统可信性度量评估研究综述
专知会员服务
95+阅读 · 2022年1月30日
专知会员服务
45+阅读 · 2021年4月13日
清华大学《高级机器学习》课程
专知
40+阅读 · 2020年7月21日
从信息瓶颈理论一瞥机器学习的“大一统理论”
干货|当深度学习遇见自动文本摘要,seq2seq+attention
机器学习算法与Python学习
10+阅读 · 2018年5月28日
基于信息理论的机器学习
专知
22+阅读 · 2017年11月23日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员