技术文档:Art. 11 与 Annex IV 合规
EU AI Act 第 11 条要求高风险 AI 系统的提供者在系统投放市场或投入使用之前编制技术文档,并在系统的整个生命周期内使其保持最新。Annex IV 规定了该文档的详细内容要求。Venvera 中的技术文档模块提供了一个结构化的登记册,用于创建、管理所有必需的文档,进行版本管理并跟踪其完成情况。本文将全面详细地介绍列表视图、创建表单、详情页面、编辑以及完成度跟踪。
列表视图
第 1 步:打开技术文档列表
在侧边栏中进入 EU AI Act → 技术文档。列表视图会显示您组织内所有 AI 系统的全部技术文档,并按最后更新日期排序。每一行显示文档标题、关联的 AI 系统名称、文档类型、状态徽章、完成百分比进度条和版本号。
第 2 步:搜索文档
使用搜索栏按标题或内容关键字筛选文档。搜索会在文档标题和关联的 AI 系统名称中执行不区分大小写的部分匹配。例如,搜索“风险”既会匹配标题为“风险管理流程”的文档,也会匹配关联到“信用风险评分模型”的文档。
第 3 步:按状态筛选
使用状态筛选下拉菜单缩小结果范围。可用的状态包括:
- 草稿:文档正在编写中或尚未完成。草稿文档会显示在列表中,但不被视为已可用于审计或符合性评估。
- 审核中:文档已提交内部审核。在批准之前,指定的审核人应验证内容是否准确、完整。
- 已批准:文档已经过审核并获得正式批准。已批准的文档被视为可直接用于审计,并可应监管机构的要求提交给对方。
- 已归档:文档已不再是现行版本,但会保留下来以供历史参考。已归档文档通常是已被较新版本取代的旧版本。
第 4 步:按文档类型筛选
使用类型筛选器,仅显示特定类型的文档。当您需要核实文档是否齐全时,这一功能非常有用,例如按“风险管理”筛选,查看是否每个高风险 AI 系统都有对应的风险管理文档。
文档类型
该模块支持九种文档类型,与 EU AI Act Annex IV 规定的内容类别保持一致:
| 类型 | Annex IV 章节 | 说明 |
|---|---|---|
| 系统描述 | §1 | AI 系统的一般描述,包括其预期用途、提供者的名称和联系方式、AI 系统如何与不属于该 AI 系统本身的硬件或软件交互、相关软件或固件的版本,以及 AI 系统投放市场或投入使用的形式说明(例如软件包、API、SaaS)。这通常是为任何 AI 系统创建的第一份文档。 |
| 设计规范 | §2 | 对 AI 系统各组成要素及其开发过程的详细描述,包括开发所采用的方法和步骤(包括对预训练系统或工具的使用)、系统的设计规范(总体逻辑、算法、关键设计选择、假设、分类选择)、所使用的计算资源以及系统架构。 |
| 开发流程 | §3 | 记录开发方法的文档,包括训练技术和方法、数据要求、训练数据的相关信息(来源、范围、特征)、数据准备过程(标注、标记、清洗、扩充),以及参数和优化技术的选择。该文档应证明开发过程严谨,且遵循了有书面记录的流程。 |
| 监控与测试 | §4 | 记录开发之前、期间和之后所使用的监控、测试和验证程序的文档。包括测试指标、测试结果、所使用的验证数据集、测试方法(单元测试、集成测试、系统测试、验收测试),以及已识别的任何性能局限或边界条件。测试文档对于证明符合 Art. 15 关于准确性和稳健性的要求至关重要。 |
| 风险管理 | §5 | 按照 Art. 9 的要求记录风险管理体系的文档。包括风险识别、风险分析、风险评价、风险处置措施、剩余风险评估以及风险管理流程的生命周期。该文档应引用针对该 AI 系统识别出的具体风险以及已实施的缓解措施。 |
| 数据治理 | §6 | 按照 Art. 10 的要求记录数据治理和数据管理实践的文档。包括数据收集流程、数据来源、数据准备方法、数据质量措施、偏差检测与缓解程序、个人数据处理以及 GDPR 合规措施。该文档应交叉引用在数据治理模块中登记的数据集。 |
| 人工监督 | §7 | 按照 Art. 14 的要求记录人工监督措施的文档。包括监督机制的描述(人在回路中 human-in-the-loop、人在回路上 human-on-the-loop、人类主导 human-in-command)、对监督人员的能力要求、覆盖和干预能力,以及上报程序。该文档应交叉引用在人工监督模块中登记的监督措施。 |
| 准确性与稳健性 | §8 | 按照 Art. 15 的要求记录准确性、稳健性和网络安全措施的文档。包括声明的准确性水平、稳健性测试结果、抵御对抗性攻击的韧性措施、网络安全措施以及故障安全机制。该文档提供技术证据,证明系统满足该法规在性能和安全方面的要求。 |
| 通用 | 不适用 | 一个兜底类别,用于存放无法明确归入其他类别的补充技术文档。示例包括部署指南、集成文档、面向部署者的用户手册、变更管理记录,或任何有助于构成完整文档包的其他支持材料。 |
创建新文档
点击+ 新建文档打开创建表单。填写所有必填字段:
| 字段 | 类型 | 是否必填 | 说明 |
|---|---|---|---|
| 标题 | 文本输入框 | 必填 | 文档的描述性标题(例如“欺诈检测模型:系统描述 v2.1”)。最多 300 个字符。标题应足够具体,让人一眼就能识别出对应的 AI 系统和文档类型。同一 AI 系统内的标题必须唯一:同一系统不能关联两份标题完全相同的文档。 |
| AI 系统 | 下拉列表 | 必填 | 从下拉列表中选择该文档所属的 AI 系统。下拉列表会显示您清单中的所有 AI 系统及其状态。如果您是从某个 AI 系统的详情页面进入创建表单的,此字段会自动预填。每份文档必须且只能关联一个 AI 系统。 |
| 类型 | 下拉列表 | 可选 | 从上述九个类别中选择文档类型。选择正确的类型可确保分类准确,并有助于完整性跟踪:系统可以报告每个 AI 系统已覆盖哪些 Annex IV 章节。 |
| 版本 | 文本输入框 | 可选 | 该文档的版本标识(例如“1.0”“2.3-draft”“2024-Q4-final”)。版本跟踪对于证明文档已按照 Art. 11 的要求保持最新至关重要。创建新版本时,建议将上一版本归档,而不是直接覆盖。 |
| 内容 | 富文本编辑器 | 可选 | 文档正文。富文本编辑器支持标题、粗体/斜体格式、项目符号列表和编号列表、表格、代码块以及链接。您可以直接在编辑器中起草内容,也可以粘贴来自外部来源的内容。内容没有字符数限制,但非常大的文档(>500KB)可能加载较慢。对于已存在于外部系统中的文档,您可以提供摘要,并附上指向外部来源的链接。 |
Annex IV 完整性跟踪:系统会根据您创建的文档类型,自动跟踪每个 AI 系统已覆盖哪些 Annex IV 章节。在每个 AI 系统的详情页面上,完整性指示器会显示八个 Annex IV 章节中哪些章节至少有一份已批准的文档。这样,您可以在符合性评估之前轻松发现文档缺口。
文档详情页面
在列表视图中点击某份文档,即可打开其详情页面,该页面包括:
- 页眉区域:显示文档标题、关联的 AI 系统(可点击的链接)、类型徽章、状态徽章、版本和时间戳(创建时间、最后更新时间)。
- 完成度:一个显示文档完成百分比(0-100%)的进度条。这是一个手动设置的值,您可以在编写文档的过程中随时更新。进度条按颜色区分:≥80% 为绿色,≥50% 为琥珀色,<50% 为红色。完成百分比会在 AI 系统层面汇总,从而得出整体的文档就绪度评分。
- 批准状态:显示文档的批准人(如适用)、批准时间以及当前的审核状态。处于“审核中”状态的文档会显示审核人的姓名和提交审核的日期。
- 内容查看器:以简洁、易读的格式呈现文档内容。查看器支持富文本编辑器中的所有格式,并提供便于打印的版式。通过“复制到剪贴板”按钮,您可以轻松提取内容供外部使用。
编辑文档
在详情页面上,点击编辑即可修改任意字段。编辑表单会预先填入当前值。主要的可编辑字段包括:
- 状态:随着文档在审核工作流中推进,依次从草稿更改为审核中、已批准,再到已归档。状态变更会记录在审计追踪中。
- 完成度:随着文档各部分陆续完成,更新完成百分比。这是一个取值范围为 0 到 100 的滑块或数字输入框。
- 版本:进行重大更改时更新版本。对于主要版本变更,建议创建新的文档记录,而不是覆盖现有记录。
- 内容:使用富文本编辑器编辑文档正文。所有内容变更都会记录在审计日志中。
提示(文档模板):在创建第一套技术文档时,建议为每种文档类型建立模板。为每个 Annex IV 章节创建一份包含必需标题和占位文本的“模板”文档,然后为每个 AI 系统复制该文档并进行定制。这可以确保各文档之间保持一致,也便于审核人和审计师找到所需信息。
警告(保持文档最新):Art. 11 要求技术文档保持最新。如果 AI 系统发生重大变更(新版本、预期用途变更、训练数据更新、算法修改),必须相应更新其技术文档。请设置提醒,以便在关联 AI 系统的版本字段每次发生变化时审查文档。文档过时是常见的审计发现。