Fact verification is a critical yet underexplored component of non-litigation legal practice. While existing research has examined automation in legal workflow and human-AI collaboration in high-stakes domains, little is known about how GenAI can support fact verification, a task that demands prudent judgment and strict accountability. To address this, we conducted semi-structured interviews with 18 lawyers to understand their current verification practices, attitudes toward GenAI adoption, and expectations for future systems. We found that while lawyers use GenAI for low-risk tasks like drafting and language optimization, concerns over accuracy, confidentiality, and liability are currently limiting its adoption for fact verification. These concerns translate into core design requirements for AI systems that are trustworthy and accountable. Based on these, we contribute design insights for human-AI collaboration in legal fact verification, emphasizing the development of auditable systems that balance efficiency with professional judgment and uphold ethical and legal accountability in high-stakes practice.


翻译:事实核查是非诉讼法律实践中至关重要却尚未充分探索的组成部分。尽管现有研究已探讨法律工作流程自动化及高风险领域中的人机协作,但对于生成式人工智能如何支持需要审慎判断和严格问责的事实核查任务,目前知之甚少。为此,我们对18位律师进行了半结构化访谈,以了解他们当前的核查实践、对采用生成式人工智能的态度以及对未来系统的期望。研究发现,尽管律师已将生成式人工智能用于起草和语言优化等低风险任务,但对准确性、保密性和责任问题的担忧目前限制了其应用于事实核查。这些担忧转化为对可信赖且可问责的人工智能系统的核心设计要求。基于此,我们提出了法律事实核查中人机协作的设计见解,强调开发可审计的系统,在效率与专业判断之间取得平衡,并在高风险实践中维护伦理与法律问责。

0
下载
关闭预览

相关内容

法律是国家制定或认可的,由国家强制力保证实施的,以规定权利和义务为内容的具有普遍约束力的社会规范。
生成式人工智能赋能智慧司法及相关思考
专知会员服务
17+阅读 · 2025年4月7日
【AI与刑事】人工智能法案下刑事图像分析的合规挑战
专知会员服务
12+阅读 · 2022年6月29日
【人工智能与司法】司法智能化的理论与实践
专知会员服务
25+阅读 · 2022年4月2日
专知会员服务
15+阅读 · 2021年8月29日
专知会员服务
64+阅读 · 2021年4月16日
最新《可解释人工智能》概述,50页ppt
专知
12+阅读 · 2021年3月17日
【人机融合智能】人机融合智能的现状与展望
产业智能官
11+阅读 · 2020年3月18日
国家自然科学基金
23+阅读 · 2016年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
相关基金
国家自然科学基金
23+阅读 · 2016年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员