负责任的人工智能治理：核心原则详解

负责任的人工智能治理旨在建立组织以合乎伦理、透明和安全的方式部署人工智能所需的政策、框架和控制措施。本指南阐述了负责任的人工智能治理的内涵，探讨了其核心原则和领先框架，并概述了在企业范围内构建负责任的人工智能系统的最佳实践。

关键精华

负责任的人工智能治理除了标准的IT监管之外，还涵盖哪些内容？
负责任的人工智能治理专门针对人工智能特有的风险，例如算法偏见、缺乏可解释性、数据滥用以及人工智能整个生命周期中的自主决策后果。

为什么影子人工智能是人工智能治理框架中一个至关重要的问题？
员工采用未经授权的人工智能工具（例如浏览器扩展程序和第三方生成式人工智能服务）可能会将敏感数据暴露在受监管渠道之外，从而破坏精心设计的负责任的人工智能治理政策。

哪些负责任的人工智能治理原则最受认可？
核心原则包括透明度和可解释性、公平性和非歧视性、隐私和数据保护、在人工监督下进行问责制以及安全性和可靠性。

组织应该如何在 NIST AI RMF、欧盟 AI 法案和 ISO/IEC 42001 等负责任的 AI 治理框架中进行选择？
大多数组织都能从结合多个框架的要素中获益，选择时应考虑监管义务、地域范围、行业要求和组织成熟度，而不是孤立地采用某个框架。

浏览器在强制执行人工智能使用控制方面扮演什么角色？
浏览器是员工访问生成式 AI 工具的主要界面，因此浏览器级别的强制执行对于实时 AI DLP、AI 访问控制和 AI 滥用预防至关重要。

企业如何衡量其负责任的人工智能治理计划是否有效？
关键指标包括已清点和监控的 AI 系统百分比、监管合规率、与 AI 相关的事件数量和解决时间、影子 AI 采用趋势以及治理成熟度基准。

对于大型企业而言，哪种运营模式最适合扩展负责任的人工智能治理？
混合模式——由中央治理部门制定原则和强制性控制措施，而业务部门负责实施——往往能够以最有效的方式扩展规模，同时保持一致的问责制。

什么是负责任的人工智能治理？

负责任的人工智能治理是指一套结构化的政策、流程和监督机制，用于指导组织如何开发、部署和监控人工智能系统。它确保人工智能技术在伦理规范的范围内运行，遵守适用的法规，并与组织价值观保持一致。与一般的IT治理不同，负责任的人工智能治理专门针对人工智能带来的独特风险，包括算法偏差、缺乏可解释性、数据滥用以及自主决策带来的意外后果。

定义范围

负责任的人工智能治理涵盖人工智能的整个生命周期，从初始数据收集和模型训练到部署、监控，直至最终退役。它包括模型验证和偏差测试等技术控制措施，以及伦理审查委员会、风险评估程序和事件响应协议等组织控制措施。组织内部制定的全面负责任的人工智能治理法案会将这些要求编纂成可执行的内部政策。

关键组件

• 政策与标准 – 制定书面规则，明确定义可接受的人工智能用例、禁止的应用以及在任何人工智能系统投入生产之前所需的安全措施。
• 监督结构 – 指定委员会、职务或审查委员会，负责根据道德和合规标准评估人工智能项目。
• 技术控制 – 自动化和手动机制，用于偏差检测、模型可解释性、数据沿袭跟踪和输出验证。
• 问责机制 – 明确所有权分配，以便每个人工智能系统都有可识别的利益相关者对其行为和结果负责。
• 持续监控 – 对人工智能系统进行持续监控，以检测部署后的偏差、滥用或意外行为。

它与通用人工智能战略有何不同？

人工智能战略侧重于在何处以及如何应用人工智能来创造商业价值，而负责任的人工智能治理则侧重于防止损害的保障措施。战略关注的是“我们能构建什么？”，而治理关注的是“我们应该构建什么，以及在哪些约束条件下构建？”。如果组织在缺乏相应治理结构的情况下贸然采用人工智能，则可能面临监管处罚、声誉损害和安全漏洞，尤其是在员工通过非授权渠道使用人工智能工具的情况下，这种现象通常被称为“影子人工智能”。

为什么负责任的人工智能治理至关重要

随着人工智能系统被广泛应用于招聘、贷款、医疗保健、安全和客户服务等高风险决策领域，负责任的人工智能治理变得愈发紧迫。缺乏结构化的治理机制，组织将面临一系列叠加的风险，这些风险涵盖法律、财务、伦理和运营等多个领域。

监管和法律压力

世界各国政府正在制定直接针对人工智能问责制的法律。欧盟《人工智能法案》根据风险等级对人工智能系统进行分类，并对高风险应用施加严格要求。在美国，各州层面的人工智能法规正在不断涌现，联邦机构也在发布算法问责制方面的指导意见。缺乏负责任的人工智能治理框架的组织将面临违规处罚、诉讼以及在受监管司法管辖区失去市场准入的风险。

声誉和信任风险

当人工智能系统产生带有偏见的结果、做出不透明的决策或不当处理个人数据时，公众对人工智能的信任会迅速下降。一起涉及歧视性人工智能输出的高调事件就可能对品牌造成持久损害。负责任的人工智能治理提供文档、审计跟踪和审查流程，以证明组织致力于合乎道德地使用人工智能，这在客户和合作伙伴的评估中正日益成为一个重要因素。

安全和数据保护问题

人工智能系统会处理海量敏感数据，其输出结果可能会无意中泄露机密信息。当员工使用未经授权的人工智能工具（包括基于浏览器的人工智能助手和第三方生成式人工智能服务）时，敏感的企业数据可能会在缺乏适当控制的情况下流向外部系统。这给数据防泄漏 (DLP) 带来了严峻挑战。负责任的人工智能治理通过建立人工智能访问控制策略、人工智能使用控制和人工智能响应验证机制来应对这些风险，从而防止未经授权的数据泄露。

运营弹性

• 模型漂移 – 随着底层数据分布的变化，人工智能模型会随着时间的推移而退化，如果不加以监控，将导致输出不可靠。
• 影子人工智能的扩散 – 如果没有有效的监管，各部门可以自行采用人工智能工具，绕过安全审查，从而在组织的风险状况中造成盲点。
• 供应商锁定 – 不受监管的人工智能采购可能导致工具分散，并依赖于那些做法可能与组织标准不符的供应商。
• 事件响应差距 – 没有专门针对人工智能的事件响应计划的组织很难控制和补救与人工智能相关的故障。

负责任的人工智能治理的核心原则

负责任的人工智能治理原则构成了所有治理活动赖以开展的伦理和运营基础。尽管具体实施方式因组织和行业而异，但主要标准机构、监管框架和行业领导者已形成一套一致的原则。

透明度和可解释性

人工智能系统应生成相关利益攸关方能够理解、解释和质疑的输出结果。这意味着需要维护模型架构、训练数据源和决策逻辑的文档。对于高风险应用，组织应实施可解释性技术，使受影响的个人能够理解决策的制定过程。透明度还要求在与客户或公众互动时，必须清晰地披露人工智能的使用情况。

公平和非歧视

人工智能系统的设计和测试必须避免产生对受保护群体造成不成比例不利影响的结果。这包括在开发过程中进行偏见审计、使用具有代表性的训练数据集，以及在部署后持续监测是否存在差异性影响。公平性测试应集成到持续集成/持续交付 (CI/CD) 流程中，以便在每次发布前对模型进行评估。

隐私和数据保护

负责任的人工智能治理要求用于人工智能训练和推理的数据必须符合适用的隐私法规，包括 GDPR、CCPA 和特定行业要求。组织必须实施数据最小化措施，确保适当的同意机制，并建立控制措施，防止人工智能系统在未经授权的情况下保留或泄露个人数据。人工智能数据防泄漏 (DLP) 功能对于防止敏感信息被意外共享给外部人工智能服务至关重要。

问责制和人为监督

每个人工智能系统都应明确指定负责人，并对其行为、性能和合规性负责。对于会严重影响个人的决策，必须建立人工监督机制，确保自动化输出结果可以进行审查、推翻或上报。这一原则同样适用于第三方人工智能工具和代理，它们必须遵守与内部开发系统相同的问责标准。

安全性、保障性和可靠性

• 对抗鲁棒性 – 应该使用旨在操纵人工智能模型输出的对抗性输入来测试人工智能模型。
• 访问控制 – 人工智能系统及其底层数据必须通过基于角色的访问控制和身份验证机制进行保护。
• 输出验证 – AI 响应验证流程应在生成的输出到达最终用户之前，验证其是否符合准确性、安全性和合规性阈值。
• 事件检测 – 监控系统应检测异常的 AI 行为，包括内部用户的滥用行为，并触发相应的响应工作流程。

负责任的人工智能治理顶级框架

一些成熟的框架为实施负责任的人工智能治理提供了结构化的方法。组织通常会采用其中一个或多个框架，并根据其特定的监管环境、行业要求和风险承受能力进行定制。以下是对几个主要负责任的人工智能治理框架的比较。

NIST 人工智能风险管理框架

NIST AI RMF 将治理活动组织为四个核心职能：治理、映射、衡量和管理。治理职能负责建立组织政策和问责结构。映射职能负责识别 AI 风险并将其置于特定情境中。衡量职能采用定量和定性方法评估这些风险。管理职能负责实施控制措施并监控其有效性。该框架尤其具有价值，因为它能够与现有的企业风险管理流程相集成，并通过配套资源提供详细的实施指导。

欧盟人工智能法案

欧盟人工智能法案采取监管方式，将人工智能系统分为不可接受风险、高风险、有限风险和最低风险四个等级。高风险系统，例如用于就业、信用评分和执法等领域的系统，必须满足严格的要求，包括符合性评估、技术文档、人工监督条款和上市后监测。受该法案约束的组织必须实施与这些监管要求直接对应的负责任的人工智能治理模式。

ISO / IEC 42001

作为首个人工智能管理体系国际标准，ISO/IEC 42001 提供了一个可认证的框架，涵盖人工智能的政策、规划、支持、运行、绩效评估和改进。它沿用了其他 ISO 管理体系标准中常用的计划-执行-检查-改进 (PDCA) 结构，因此已通过 ISO 27001 或类似框架认证的组织也能轻松应用。该标准在采购要求和监管指南中被广泛引用。

选择合适的框架

大多数组织从结合多个框架的要素中获益，而不是孤立地采用单一框架。框架的选择应取决于监管义务、地域范围、行业要求和组织成熟度。负责任的人工智能治理框架应被视为动态文件，随着技术、监管环境和组织人工智能能力的演变而不断发展。

组织机构负责任的人工智能治理最佳实践

将原则和框架转化为可操作的现实需要具体可行的实践。以下负责任的人工智能治理最佳实践反映了已成功大规模实施治理项目的组织所汲取的经验教训。

建立跨职能人工智能治理委员会

有效的AI治理不能由单一部门负责。应成立一个委员会，成员包括来自法律、合规、信息安全、数据科学、工程、人力资源和业务运营等部门的代表。该委员会应有权批准或拒绝AI应用案例、制定政策并分配治理活动所需的资源。会议应定期召开，并根据需要召开临时会议进行高优先级审查。

创建并维护人工智能库存

组织无法管理他们看不到的东西。维护一份全面的AI系统清单至关重要，这份清单应涵盖所有AI系统，包括第三方工具、具备AI功能的浏览器扩展程序以及员工使用的生成式AI服务。该清单应记录每个系统的用途、数据输入、风险等级、所有者和审核状态。影子AI和代理发现功能对于识别员工通过网络浏览器和SaaS应用程序使用的未经授权的AI工具至关重要。

实施基于风险的评估流程

1. 分类 根据人工智能系统的使用场景、数据敏感性以及对个人的潜在影响，将其风险等级划分。
2. 评估 使用标准化的评估标准识别风险，包括偏见可能性、数据隐私影响、安全漏洞和监管适用性。
3. 减轻 通过技术控制（偏见测试、访问限制、输出过滤）和组织控制（审查流程、培训、文档）来降低风险。
4. 显示器 风险等级会持续变化，当模型、其数据源或其部署环境发生重大变化时，会触发重新评估。
5. 报告 定期向领导层汇报治理指标，包括合规状况、事件数量和风险趋势。

在接入点强制执行人工智能使用策略

政策只有在得到有效执行时才能发挥作用。组织应实施技术控制措施，规范员工与人工智能工具（尤其是基于浏览器和SaaS交付的人工智能服务）的交互方式。这包括人工智能访问控制机制（限制可使用的人工智能工具）、人工智能使用控制（限制可提交给人工智能服务的数据）以及人工智能滥用预防功能（实时检测并阻止违反政策的行为）。浏览器层面的强制执行尤为重要，因为浏览器是员工访问生成式人工智能工具的主要界面。

培训和教育劳动力

员工理解人工智能政策背后的逻辑以及自身在维护这些政策中的角色，治理项目才能取得成功。培训内容应涵盖可接受的使用准则、人工智能交互的数据处理要求、人工智能相关问题的报告程序以及违反政策的后果。培训应针对不同角色：数据科学家需要的指导与市场分析师或客户服务代表所需的指导有所不同。

实施负责任的人工智能治理面临的常见挑战

即使是出发点良好的治理方案也会遇到障碍。提前了解这些挑战，有助于组织设计出更具韧性和适应性的治理结构。

影子人工智能和不受监管的工具采用

最棘手的挑战之一是“影子人工智能”的泛滥，即员工在未经IT和安全团队知情或批准的情况下使用人工智能工具。基于浏览器的AI助手、AI浏览器扩展程序以及嵌入AI功能的第三方SaaS应用程序都可能在受监管渠道之外处理敏感数据。企业需要全面了解整个企业范围内的AI工具使用情况，包括发现和分类通过Web浏览器进行的AI交互。缺乏这种可视性，治理策略将停留在理论层面，而无法真正落实。

平衡创新与控制

过于严格的管理会阻碍人工智能的普及应用，并迫使员工寻求未经授权的变通方法。反之，管理不善则会使组织面临不可接受的风险。成功的项目会通过以下方式取得平衡：提供符合员工需求的已获批准的人工智能工具；简化新人工智能应用案例的审批流程；以及根据风险等级而非一刀切的限制实施相应的控制措施。

跟上监管变化的步伐

人工智能监管环境在各个司法管辖区都在快速变化。各组织必须密切关注立法动态，解读其适用性，并据此更新治理政策。这需要配备具备人工智能领域专业知识的专门法律和合规资源，以及足够模块化的治理框架，以便在无需彻底重新设计的情况下适应新的要求。

衡量治理有效性

• 覆盖率指标 – 已对多少百分比的人工智能系统进行清点、风险评估和主动监控？
• 合规性指标 有多少人工智能系统符合所有适用的监管和政策要求？
• 事件指标 – 发生了多少起与人工智能相关的事件（偏见事件、数据泄露、政策违规）？平均解决时间是多少？
• 采用指标 员工是否在使用经批准的人工智能工具，还是说影子人工智能的使用正在增加？
• 成熟度指标 – 该组织的治理成熟度与既定框架和行业基准相比如何？

组织阻力

治理举措有时会遭到部分团队的抵制，他们将监督视为官僚主义的阻碍。克服这种抵制需要高管的支持，需要清晰地沟通治理的业务逻辑（包括降低风险和遵守法规），并证明治理能够促进而非阻碍负责任的人工智能创新。将治理检查点嵌入现有工作流程，而不是创建平行流程，可以减少摩擦并提高采纳率。

负责任的人工智能治理工具和模型

大规模实施负责任的AI治理需要能够自动执行策略、提供AI使用情况可见性并支持持续监控的工具。负责任的AI治理模型和工具的最佳组合取决于组织的规模、AI成熟度和风险状况。

治理工具的类别

基于浏览器的AI治理

由于浏览器已成为大多数员工的主要工作空间，它也成为访问人工智能工具的主要渠道。基于浏览器的治理解决方案为负责任的人工智能治理提供了独特的优势，包括实时了解人工智能交互、在数据录入点强制执行数据防泄漏 (DLP) 策略以及控制人工智能驱动的浏览器扩展程序。LayerX Security 专注于此领域，提供企业级浏览器安全功能，包括影子人工智能和代理发现、人工智能数据防泄漏 (DLP)、人工智能访问控制和人工智能滥用预防。这些控制措施直接在浏览器中运行，使组织能够在不中断员工工作流程或无需通过网络代理路由流量的情况下强制执行治理策略。

治理运营模式

组织通常会根据自身的结构和成熟度，采用三种负责任的人工智能治理模型之一。

1. 集中式模型 ——所有人工智能政策均由单一治理机构制定和执行。这种模式能够提供高度的一致性和控制力，但对于拥有多样化人工智能应用场景的大型组织而言，可能会造成瓶颈。
2. 联邦模型 各业务部门在中央机构制定的指导方针框架内，自行维护其人工智能治理职能。这种模式兼顾了本地灵活性和组织一致性，尤其适用于拥有多种人工智能应用的大型企业。
3. 混合模型 中央治理机构负责制定原则、风险阈值和强制性控制措施，而业务部门则负责实施和日常监督。大多数成熟的组织都倾向于采用这种模式，因为它既能高效扩展，又能保持问责制。

将治理融入现有安全基础设施

负责任的AI治理工具只有在与现有安全和合规基础设施集成时才能发挥最大价值。这包括将AI使用数据输入SIEM平台，使AI访问策略与身份和访问管理（IAM）系统保持一致，以及将AI风险评估纳入企业GRC平台。组织还应确保其Web和SaaS数据防泄漏（DLP）功能能够覆盖AI交互，并且内部威胁检测程序能够识别与AI相关的数据泄露途径。SaaS身份保护和安全浏览控制能够确保通过浏览器访问的AI工具在授权范围内运行，从而进一步加强治理态势。

构建可持续治理方案

工具和模型固然必要，但还不够。一个可持续的、负责任的人工智能治理方案需要对人员、流程和技术进行持续投入。各组织应为治理活动拨出专项预算，建立清晰的人工智能相关事件升级路径，定期进行治理成熟度评估，并随着人工智能能力和监管要求的演变调整其方案。将人工智能治理视为一项持续性工作而非一次性项目的组织，将更有利于在有效管理其风险的同时，充分发挥人工智能的优势。