Sexual and reproductive health (SRH) remains shaped by structural barriers that leave many without judgment-free information. AI chatbots offer anonymous alternatives, but access alone does not ensure equity when socioeconomic determinants shape whose capabilities these tools expand or constrain. Conventional methods for evaluating human-AI interaction were not designed to capture whether technologies holistically support reproductive autonomy. We introduce CARE, Capability Approach for Reproductive Equity, developing capabilities, functionings, and conversion factors into a Normative Design Lens and an Evaluation Lens for AI in SRH contexts. Evaluating SRH-specific non-LLM chatbots, general-use LLMs, and search engine features along credibility and reasoning, we identify two epistemic harms: source opacity and response rigidity. We conclude with design and evaluation recommendations, participatory auditing strategies, and policy implications for high-stakes domains where AI intersects with inequity.


翻译:性与生殖健康(SRH)仍然受到结构性障碍的影响,导致许多人无法获取无偏见的健康信息。人工智能聊天机器人提供了匿名替代方案,但当社会经济决定因素影响着这些工具究竟是扩展还是限制用户的能力时,仅凭可及性并不能确保公平。传统的人机交互评估方法并非旨在捕捉技术是否整体上支持生殖自主权。我们提出了CARE(Capability Approach for Reproductive Equity,生殖公平的能力方法),将能力、功能性活动和转化因素发展为面向SRH情境中AI的规范性设计透镜和评估透镜。通过评估特定于SRH的非大语言模型聊天机器人、通用大语言模型以及搜索引擎在可信度和推理能力方面的表现,我们识别出两种认知层面的伤害:来源不透明和回应僵化。最后,我们为AI与不平等交织的高风险领域提出了设计和评估建议、参与式审计策略以及政策启示。

0
下载
关闭预览

相关内容

可解释人工智能(XAI):从内在可解释性到大语言模型
专知会员服务
34+阅读 · 2025年1月20日
人工智能模型中公平性追求的综述
专知会员服务
25+阅读 · 2024年3月30日
揭秘ChatGPT情感对话能力
专知
16+阅读 · 2023年4月9日
最新人机对话系统简略综述
专知
26+阅读 · 2018年3月10日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
印度精确打击与指挥架构的断层
专知会员服务
0+阅读 · 今天14:41
美空军AI完成F-16战斗机自主空战历史性试飞
专知会员服务
2+阅读 · 今天14:13
深入Project Maven:为何人工智能在战场上依然失灵
锻造未来士兵:外骨骼、基因工程与赛博格
专知会员服务
7+阅读 · 7月19日
《无人机蜂群通信技术研究》50页
专知会员服务
8+阅读 · 7月19日
相关VIP内容
可解释人工智能(XAI):从内在可解释性到大语言模型
专知会员服务
34+阅读 · 2025年1月20日
人工智能模型中公平性追求的综述
专知会员服务
25+阅读 · 2024年3月30日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员