Generic AI auto-complete for message composition often fails to capture the nuance of personal identity, requiring editing. While harmless in low-stakes settings, for users of Augmentative and Alternative Communication (AAC) devices, who rely on such systems to communicate, this burden is severe. Intuitively, the need for edits would be lower if language models were personalized to the specific user's communication. While personalization is technically feasible, it raises questions about how such systems affect AAC users' agency, identity, and privacy. We conducted an autoethnographic study in three phases: (1) seven months of collecting all the lead author's AAC communication data, (2) fine-tuning a model on this dataset, and (3) three months of daily use of personalized AI suggestions. We observed that: logging everyday conversations reshaped the author's sense of agency, model training selectively amplified or muted aspects of his identity, and suggestions occasionally resurfaced private details outside their original context. We find that ultra-personalized AAC reshapes communication by continually renegotiating agency, identity, and privacy between user and model. We highlight design directions for building personalized AAC technology that supports expressive, authentic communication.


翻译:通用的AI消息撰写自动补全功能通常无法捕捉个人身份的细微差别,需要用户进行编辑。在低风险场景中这或许无害,但对于依赖此类系统进行沟通的增强与替代沟通(AAC)设备使用者而言,这种负担尤为沉重。直观而言,若语言模型能针对特定用户的沟通方式进行个性化定制,编辑需求将会降低。尽管个性化在技术上可行,但这引发了此类系统如何影响AAC用户自主性、身份认同与隐私的深层问题。我们通过三阶段自我民族志研究展开探索:(1)收集第一作者七个月的AAC全量沟通数据;(2)基于该数据集微调模型;(3)持续三个月每日使用个性化AI建议。研究发现:日常对话的记录重塑了作者的自主性认知;模型训练选择性地放大或抑制其身份特质;建议内容偶尔会在原始语境之外重现私人细节。研究表明,超个性化AAC通过持续重构用户与模型间的自主性、身份认同及隐私边界,从根本上重塑沟通模式。我们进一步提出支持表达性与真实性沟通的个性化AAC技术设计方向。

0
下载
关闭预览

相关内容

AAC(Advanced Audio Coding进阶音讯编码),出现于1997年,基于MPEG-2的音频编码技术。
AI Agent:基于大模型的自主智能体
专知会员服务
249+阅读 · 2023年9月9日
推荐!《人与AI协作中的可解释人工智能》320页论文
专知会员服务
137+阅读 · 2023年7月31日
谷歌 AI:语义文本相似度研究进展
AI研习社
22+阅读 · 2018年6月13日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
52+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
49+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2月10日
VIP会员
最新内容
最新“指挥控制”领域出版物合集(简介)
专知会员服务
1+阅读 · 今天15:19
面向军事作战需求开发的人工智能(RAIMOND)
专知会员服务
3+阅读 · 今天15:13
软件定义多域战术网络:基础与未来方向(综述)
水下战战术决策中的气象与海洋预报(50页报告)
远程空中优势:新一代超视距导弹的兴起
专知会员服务
1+阅读 · 今天14:45
大语言模型溯因推理的统一分类学与综述
专知会员服务
0+阅读 · 今天12:07
相关VIP内容
AI Agent:基于大模型的自主智能体
专知会员服务
249+阅读 · 2023年9月9日
推荐!《人与AI协作中的可解释人工智能》320页论文
专知会员服务
137+阅读 · 2023年7月31日
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
52+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
49+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员