AI Act 事件报告:Art. 62 合规
EU AI Act 第 62 条针对涉及高风险 AI 系统的严重事件规定了强制性报告义务。提供者和部署者必须向事件发生地所在成员国的市场监管机构报告严重事件。Venvera 中的 AI Act 事件报告模块提供了一套专为 AI 相关事件设计的全面事件管理系统,涵盖检测、调查、控制、主管机构通知跟踪以及解决。对于需要在 AI 事件与更广泛的 ICT 事件之间进行交叉引用的组织,该模块还与 Venvera 现有的 ICT 事件管理功能相集成。本文将详细介绍每一项功能。
什么是严重事件
根据 EU AI Act 的 Art. 3(49),“严重事件”是指高风险 AI 系统发生的、直接或间接导致以下任一后果的任何事件或故障:
- (a)人员死亡或对人员健康造成严重损害;
- (b)关键基础设施的管理或运行发生严重且不可逆的中断;
- (c)违反欧盟法律中旨在保护基本权利的义务;
- (d)对财产或环境造成严重损害。
理解这一定义至关重要,因为严重事件会触发须在严格时限内完成的强制性报告。并非所有与 AI 相关的问题都属于严重事件:该模块支持跟踪所有类型的事件,从轻微的性能下降到危急的严重事件,并为每种类型提供相应的工作流。
列表视图
在侧边栏中进入 EU AI Act → 事件报告。列表视图以分页表格的形式显示所有与 AI 相关的事件,并按检测日期排序(最新的排在最前)。每一行显示事件标题、关联的 AI 系统、类型徽章、严重程度徽章、状态徽章和检测日期。严重事件会以红色左边框突出显示,以便一眼识别。
使用搜索栏按标题、描述关键字或关联的 AI 系统名称筛选事件。搜索支持不区分大小写的部分匹配;与其他筛选条件结合使用时,可用于查找与特定系统、类型或时间范围相关的事件。
使用状态下拉菜单,按事件的工作流状态筛选:
- 已检测:已识别并记录,尚未开始调查。对于严重事件,72 小时计时从此开始。
- 调查中:正在积极调查,包括根本原因分析、影响范围界定和证据收集。
- 已控制:控制措施已到位(系统已暂停、已回滚,或处于强化监督之下)。
- 已报告:已根据 Art. 62 正式报告给市场监管机构。
- 已解决:根本原因已处理,纠正措施已验证,系统已恢复或已停用。
- 已关闭:已完全解决,经验教训已记录,记录已最终定稿。
使用严重程度下拉菜单,按事件的严重程度级别筛选:
- 低:影响可忽略的轻微问题。未对人员或基本权利造成损害。示例:轻微的输出异常、在容差范围内的短暂性能下滑。
- 中:影响有限的中等问题。存在明显的性能下降,但未造成严重损害。示例:误报率升高、非关键功能中出现暂时性偏差。
- 高:影响重大的显著问题。如不及时处理,可能造成损害。示例:影响某一受保护群体的系统性偏差、准确性大幅下降、数据泄露。
- 严重:符合或可能符合“严重事件”的定义(Art. 3(49))。会触发 Art. 62 规定的 72 小时强制通知。需要立即采取控制措施并上报高级管理层。
创建新事件
点击+ 报告事件打开创建表单。填写所有必填字段:
| 字段 | 类型 | 是否必填 | 说明 |
|---|---|---|---|
| 标题 | 文本输入框 | 必填 | 简洁且具有描述性的标题(例如“信用评分:对 18-25 岁人群存在偏差”“欺诈检测:未能标记已知模式”)。最多 300 个字符。请使用一致的命名规则,以便进行趋势分析。 |
| 描述 | 多行文本框 | 可选 | 对事件的详细描述,包括:观察到的情况、检测时间、检测人、直接影响、受影响的用户/决策,以及初步的根本原因分析。最多 10,000 个字符。随着调查的推进,请补充调查结果、控制措施和解决详情。 |
| AI 系统 | 下拉列表 | 可选 | 选择该事件涉及的 AI 系统。下拉列表会列出您清单中的所有 AI 系统。将事件关联到 AI 系统后,即可在该系统的详情页面上进行交叉引用,并支持趋势分析(例如识别反复发生事件的系统)。如果事件涉及多个 AI 系统,请为主要系统创建事件记录,并在描述字段中引用其他系统。 |
| 关联到 ICT 事件 | 下拉列表 | 可选 | 如果该 AI 事件与更广泛的 ICT 事件(基础设施故障、网络安全入侵等)相关,可交叉引用 Venvera DORA 模块中的现有 ICT 事件。这会创建一个双向链接,以便在 EU AI Act 和 DORA 框架之间进行一体化的事件管理。 |
| 类型 | 下拉列表 | 可选 | 按类型对事件进行分类:
|
| 严重程度 | 下拉列表 | 可选 | 选择严重程度级别:低、中、高或严重。请参阅上方筛选部分中的严重程度定义。在调查过程中获得更多信息时,可以而且应该更新严重程度:随着事件的真实范围和影响逐渐明确,最初的严重程度评估经常会被上调或下调。严重程度的变更会记录在审计日志中。 |
| 检测时间 | 日期/时间选择器 | 可选 | 首次检测到或观察到事件的日期和时间。对于严重事件,这个时间戳至关重要,因为 Art. 62 规定的 72 小时通知截止期限是从提供者知悉该事件之时起计算的。如果不清楚确切的检测时间,请使用最佳估计值,并在描述字段中注明这一不确定性。系统会根据此时间戳进行计算,并在严重事件的详情页面上显示倒计时器。 |
严重事件:72 小时通知截止期限
当事件被标记为严重事件时(无论是选择“严重事件”类型,还是勾选严重事件复选框),系统都会启用全面的主管机构通知跟踪:
主管机构通知跟踪
| 要素 | 说明 |
|---|---|
| 倒计时器 | 按颜色区分的可视化计时器:绿色(>24 小时)、琥珀色(12-24 小时)、红色(<12 小时或已逾期)。显示在详情页面和列表视图中。 |
| 通知状态 | 生命周期跟踪:未提交、已提交(初步报告)、已提交(完整报告)、已确认。每次变更都会连同时间戳一起记录。 |
| 主管机构详情 | 主管机构名称、联系方式、通知日期/时间、参考编号以及后续沟通记录。 |
| 通知证据 | 所提供的证据:事件描述、AI 系统 ID、影响评估、受影响人数、控制措施、计划采取的纠正措施。 |
事件详情页面
主要部分包括:页眉(标题、徽章、AI 系统链接、时间戳)、时间线(按时间顺序记录所有状态变更和操作的审计日志)、主管机构通知(倒计时器、状态、详情;仅限严重事件)、ICT 交叉引用(关联的 DORA 事件卡片)以及解决详情(根本原因分析、纠正/预防措施、经验教训)。
事件工作流最佳实践
请遵循以下工作流来有效管理事件:(1)立即检测并记录:不要等到调查之后才创建记录;(2)对严重程度进行分级,并评估事件是否属于严重事件:如有疑问,应从谨慎角度出发;(3)控制问题(暂停系统、回滚版本、启用人工后备方案);(4)利用日志、监控数据和近期变更调查根本原因;(5)通过纠正措施、验证和经验总结完成解决并关闭。