综述 | What We Know about Responsible AI Practices in Industry：产业界负责任人工智能实践的半个十年实证研究

导读

负责任人工智能已经从原则宣言进入产业现场。真正决定系统是否安全、公平、透明和可问责的，往往不是抽象口号，而是一线团队在需求评审、数据标注、模型训练、上线门禁、用户反馈和合规审查中的日常选择。 这篇综述系统梳理了过去六年关于产业界负责任人工智能实践的实证研究。作者汇总 161 篇论文，覆盖访谈、问卷、工作坊、民族志等方法，重点回答两个问题：产业从业者在真实组织里如何理解和执行负责任人工智能；研究者、企业和政策制定者又该如何更有效地支持这些实践。 论文给出的总体判断很克制：产业界确实在进步，从业者意识更强、专业角色和流程更成熟、工具和指南更常见、外部利益相关方开始被纳入。但这些“成功故事”背后仍有四类顽固缺口：知识和训练不足、组织激励错位、工具流程不贴合真实工作、外部协作缺少资源和制度基础。 图1：作者对 161 篇产业负责任人工智能实证研究的主发现总览。左侧是当前实践进展，中间是对应的持续挑战，右侧是文献中提出的支持机会。

论文信息

论文题目：What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research 作者：Wesley Hanwen Deng、Agathe Balayn、Andrew Selbst、Jason I. Hong、Motahhare Eslami、Kenneth Holstein、Hanna Wallach、Jennifer Wortman Vaughan、Solon Barocas 机构：Microsoft Research、University of California, Los Angeles、Carnegie Mellon University 论文链接：https://arxiv.org/abs/2608.10431 论文类型：综述论文；主题包括负责任人工智能、人工智能伦理、人工智能安全、产业实践、实证研究综述。

引言：为什么要看产业实践

负责任人工智能的关键问题不只是“应当遵循哪些原则”，而是这些原则如何在组织中被落实。公平性、透明性、可解释性、隐私、安全、问责和可访问性，最终都要进入产品路线图、数据治理、模型评估、发布审批和事故响应等具体环节。 过去几年，关于产业界负责任人工智能的实证研究快速增长。不同论文分别考察数据科学家、机器学习工程师、产品经理、设计师、合规人员、负责任人工智能专家等角色，也研究大型科技公司、初创企业、医疗、金融、推荐系统、内容平台等不同环境。这些研究积累了大量局部洞见，但分散在不同社区和议题中，缺少一张系统地图。 本文的目标正是把这些经验拼合起来。作者提出两个研究问题：第一，已有文献揭示了产业从业者在一线推进负责任人工智能时的当前实践与挑战；第二，基于这些文献，研究者、实践者和政策制定者可以怎样更好地支持产业实践。

相关研究：从原则综述走向一线经验

已有综述常常聚焦原则、治理框架、伦理指南或某个具体技术议题，例如公平机器学习、可解释人工智能、隐私保护和安全评估。它们对于界定概念和技术路线很重要，但并不总能说明产业从业者在组织中如何实际行动。 本文与这些工作不同之处在于，它只纳入直接研究产业从业者的实证论文。换句话说，作者关心的不是某个工具在离线基准上是否有效，也不是规范性文件是否完整，而是这些工具、流程和要求进入公司之后，如何被理解、协商、采用、误用或搁置。 这种视角把负责任人工智能从“原则清单”拉回“工作现场”。它让我们看到：同样是公平测试，在不同团队中可能是正式上线门禁，也可能是少数倡导者的额外劳动；同样是模型文档，在一种组织里是知识共享和责任追踪，在另一种组织里则可能退化为合规表格。

方法：如何构建一百六十一篇论文语料

作者回顾的是 2019 年至 2025 年 8 月之间关于产业负责任人工智能实践的实证研究。论文语料来自种子论文、关键词检索、人工筛选和滚雪球式引用追踪。检索覆盖 ACM、IEEE、DBLP、Web of Science、Sage、PubMed、Springer 等数据库，关键词包括 responsible AI、fairness、AI safety、ethics、interview、survey、biases、empirical 等。 纳入标准强调三点：研究主题必须与负责任人工智能相关；研究对象必须包含产业从业者；研究方法必须是实证性的，例如访谈、问卷、工作坊、民族志或其他人类参与者研究。只提出新算法、只评估工具性能、只研究公共部门或学术研究者的论文通常不被纳入，除非其中涉及产业从业者实践。 作者最终得到 161 篇论文，并对每篇论文标注出版信息、参与者角色、研究方法、主要发现和实践启示。值得注意的是，作者明确说明全部论文均由研究团队阅读和分析，没有使用生成式人工智能辅助分析。 图2：论文语料构建流程。作者从人工整理的种子集和关键词检索出发，经初始语料、人工筛选与前后向引用追踪，最终形成 161 篇论文的综述语料。

语料概览：谁在研究，研究了谁

这 161 篇论文在作者来源和参与者地域上存在明显偏向。约 87% 的论文包含学术机构研究者，约 20% 包含产业机构研究者。按作者机构地域看，美国占 45.3%，英国占 16.7%，德国、澳大利亚和荷兰等也有一定贡献。 参与者地域同样高度集中。约 80% 的论文包含美国参与者，约 38.5% 包含英国或欧洲参与者，只有 9 篇包含亚洲参与者。这说明当前关于产业负责任人工智能的实证知识，很大程度上仍由西方技术产业语境塑造。 方法上，访谈是最主要工具，共 106 篇，平均每篇约 27 名参与者；问卷研究有 28 篇，样本规模差异较大；工作坊研究有 26 篇，通常面向更小的跨职能群体。作者据此提醒，未来研究需要覆盖更多地区、更多行业、更多组织规模和更多非技术角色。

当前实践：产业界正在进步的四件事

第一，从业者对负责任人工智能的存在和重要性有了更高意识。早期研究常发现团队并不了解公平性、可解释性或责任归属等问题；近年研究则显示，即使不是专职负责相关工作的从业者，也更频繁地谈到这些议题。监管压力、公司内部政策、文化背景和个人经验都会影响这种意识。 但意识并不等于行动。不同群体对概念的优先级并不一致：一些从业者更重视隐私、可靠性和安全，一些公众和终端用户更关心透明性、问责和被影响群体的处境。论文强调，负责任人工智能意识需要转化为能力、流程和组织支持，否则容易停留在表态层面。 第二，负责任人工智能工作正在从临时倡导走向专业化。公平测试是典型案例。早期很多团队把公平问题放在开发后期，甚至只在外部报告或事故出现后才响应；近年越来越多研究显示，公平测试开始进入模型开发、产品评审和上线流程。解释性设计和模型透明度也不再只是研究者工具，而逐渐与用户体验、产品沟通和决策支持结合。 文档化实践也在成熟。数据集说明、模型卡、评估报告、事故记录和内部审查材料，正在帮助团队转移知识、追踪决策和形成责任链条。不过，文档化也存在风险：如果只服务合规检查，而不服务反思、沟通和问责，就会变成“填表式伦理”。 第三，政策、流程和工具的采用更加普遍。公司内部的负责任人工智能原则、审核清单、指南、评估流程、文档模板和计算工具包逐渐增多。公平性工具、解释性工具和审计支持工具降低了部分技术门槛，也让从业者更容易把抽象原则转化为可执行步骤。 第四，外部利益相关方开始进入产业实践。研究记录了三类常见外部协作：终端用户、领域专家和第三方数据标注者。终端用户可参与测试、审计和反馈；医疗、金融等高风险领域需要医生、法律专家和行业专家提供专业判断；数据标注者则直接影响训练数据质量、公平性和代表性。 这些进展共同说明，产业负责任人工智能已经不只是少数伦理倡导者的边缘工作，而是在许多组织中开始被制度化、专业化和工具化。

持续挑战：成功故事背后的四类缺口

第一类挑战是知识和训练不足。论文指出，在 161 篇语料中，超过 120 篇都提到，即使是被指派做负责任人工智能工作的从业者，也常常缺乏足够的技术和社会技术知识。公平测试中，团队可能不了解不同公平指标的含义；隐私测试中，从业者可能不知道攻击模型和数据风险之间的关系；生成式人工智能场景下，系统更不透明，非技术角色更难判断风险。 对应机会是把负责任人工智能教育前移并持续化。高校课程需要把伦理、社会影响和工程实践结合起来；企业内部需要提供面向不同角色的训练，而不是只给工程师讲工具；团队还需要通过导师制、同行社区、跨职能协作和在岗学习来积累能力。 第二类挑战是组织动力和激励错位。论文反复发现，从业者个人知道问题重要，并不意味着组织愿意投入时间、预算、决策权和人员。许多团队把负责任人工智能视为额外工作，面对上线压力、商业指标和资源约束时，相关流程容易被压缩。初创企业和小公司尤其缺少专门岗位、内部审查机制和长期治理资源。 文献提出的机会包括：把负责任人工智能与产品质量、长期声誉、客户信任、监管风险和商业可持续性联系起来；将相关要求嵌入项目管理、绩效指标、发布门禁和事故复盘；同时建立清晰的升级渠道，让从业者在内部机制失效时能够提出风险。 第三类挑战是干预措施不够贴合真实工作。许多工具、指南和流程过于高层，无法指导开发中的具体选择；有些工具只适用于模型输出评估，却不能覆盖数据采集、需求定义、部署监测和反馈闭环。不同领域和应用场景差异也很大：医疗需要结合临床风险和法规，金融需要处理合规和信用影响，推荐系统则涉及多方利益、动态反馈和长期行为塑造。 作者因此强调共同设计的重要性。更有效的负责任人工智能干预不应由研究者在实验室里单向发明，而应与产业从业者共同设计、评估和迭代。报告、模板、可视化、叙事材料和审查流程都可以成为跨角色沟通的“边界对象”，帮助工程、设计、产品、法律和管理团队形成共同理解。 第四类挑战是外部协作的资源和结构障碍。企业知道用户、领域专家和标注者重要，但真正把他们纳入决策并不容易。外部专家时间有限且成本高，用户研究常发生在开发后期，隐私和保密要求限制数据共享，标注者对上游决策缺乏可见性，第三方模型和供应链又进一步拉长责任链条。 文献建议，把外部参与从临时活动升级为制度化基础设施。企业需要稳定预算、合规数据共享流程、外部反馈路由机制、跨组织审查委员会和清晰问责结构。否则，外部参与很容易停留在象征性咨询，无法真正影响模型和产品决策。

讨论：研究者、实践者与政策制定者该做什么

对研究者而言，未来重点不应只是继续列举产业问题，而要设计、部署和评估端到端的社会技术干预。论文呼吁更多纵向研究、民族志研究和嵌入式研究，观察负责任人工智能实践如何随模型能力、组织结构、法规压力和市场环境变化而演化。 作者还提醒，研究对象需要扩展。当前文献更常研究机器学习工程师、数据科学家、负责任人工智能专家和用户体验研究者，但采购、销售、客户成功、法务、合规、管理层和供应链伙伴同样会影响人工智能系统的实际风险。理解责任如何在组织内部和组织之间分散，是后续研究的重要任务。 对产业实践者而言，负责任人工智能不能被视为一次性培训或上线前的附加审查。它应当成为“工作如何完成”的一部分，进入产品评审、实验跟踪、模型评估、文档记录、发布门禁、事故响应和外部反馈机制。只有这样，相关实践才不会被上线压力和商业指标轻易挤掉。 企业还需要承认角色差异。工程师需要理解指标和工具，设计师需要理解解释性和用户影响，产品经理需要把风险纳入路线图，合规人员需要把法规要求翻译成可执行流程，管理层则必须给出资源、决策权和问责机制。 对政策制定者而言，监管不能只追求形式化合规。论文提醒，如果政策要求过于抽象、过于理想化或难以操作，企业可能只会生成更多文档和检查表，却不改变实际决策。更有效的治理应强调可实施性和实质问责，推动企业建设训练项目、内部审查结构、升级路径和持续监测能力。 同时，监管本身具有信号作用。即使某些规则尚未完全落地，预期监管也会影响企业优先级、预算分配和能力建设。因此，政策不仅是在事后约束企业，也是在塑造组织对负责任人工智能的长期投入。

结论

这篇综述的核心贡献，是把过去六年分散在不同研究社区中的产业负责任人工智能实证知识系统整理出来。它显示，产业界已经从“是否需要负责任人工智能”逐步转向“如何在真实组织中持续做好它”。 但论文同样指出，当前瓶颈不是缺少原则，而是缺少能在日常工作中持续运行的能力、激励、工具和制度。负责任人工智能需要从单点工具、合规文件和个人倡导，转向贯穿组织流程、跨角色协作和外部参与的社会技术系统。 对研究者来说，这意味着更贴近现场、更长期、更共同设计的研究；对企业来说，这意味着把责任嵌入核心交付链路；对政策制定者来说，这意味着用可实施、可问责的治理框架推动实质改变，而不是制造更多象征性合规。