Venvera 事件管理,含 DORA ITS 报告时限
带监管报告时钟的事件管理(示例数据)

AI Act 事件报告:Art. 62 合规

EU AI Act 第 62 条针对涉及高风险 AI 系统的严重事件规定了强制性报告义务。提供者和部署者必须向事件发生地所在成员国的市场监管机构报告严重事件。Venvera 中的 AI Act 事件报告模块提供了一套专为 AI 相关事件设计的全面事件管理系统,涵盖检测、调查、控制、主管机构通知跟踪以及解决。对于需要在 AI 事件与更广泛的 ICT 事件之间进行交叉引用的组织,该模块还与 Venvera 现有的 ICT 事件管理功能相集成。本文将详细介绍每一项功能。

什么是严重事件

根据 EU AI Act 的 Art. 3(49),“严重事件”是指高风险 AI 系统发生的、直接或间接导致以下任一后果的任何事件或故障:

  • (a)人员死亡或对人员健康造成严重损害;
  • (b)关键基础设施的管理或运行发生严重且不可逆的中断;
  • (c)违反欧盟法律中旨在保护基本权利的义务;
  • (d)对财产或环境造成严重损害。

理解这一定义至关重要,因为严重事件会触发须在严格时限内完成的强制性报告。并非所有与 AI 相关的问题都属于严重事件:该模块支持跟踪所有类型的事件,从轻微的性能下降到危急的严重事件,并为每种类型提供相应的工作流。

列表视图

第 1 步:打开事件列表

在侧边栏中进入 EU AI Act → 事件报告。列表视图以分页表格的形式显示所有与 AI 相关的事件,并按检测日期排序(最新的排在最前)。每一行显示事件标题、关联的 AI 系统、类型徽章、严重程度徽章、状态徽章和检测日期。严重事件会以红色左边框突出显示,以便一眼识别。

第 2 步:搜索事件

使用搜索栏按标题、描述关键字或关联的 AI 系统名称筛选事件。搜索支持不区分大小写的部分匹配;与其他筛选条件结合使用时,可用于查找与特定系统、类型或时间范围相关的事件。

第 3 步:按状态筛选

使用状态下拉菜单,按事件的工作流状态筛选:

  • 已检测:已识别并记录,尚未开始调查。对于严重事件,72 小时计时从此开始。
  • 调查中:正在积极调查,包括根本原因分析、影响范围界定和证据收集。
  • 已控制:控制措施已到位(系统已暂停、已回滚,或处于强化监督之下)。
  • 已报告:已根据 Art. 62 正式报告给市场监管机构。
  • 已解决:根本原因已处理,纠正措施已验证,系统已恢复或已停用。
  • 已关闭:已完全解决,经验教训已记录,记录已最终定稿。
第 4 步:按严重程度筛选

使用严重程度下拉菜单,按事件的严重程度级别筛选:

  • 低:影响可忽略的轻微问题。未对人员或基本权利造成损害。示例:轻微的输出异常、在容差范围内的短暂性能下滑。
  • 中:影响有限的中等问题。存在明显的性能下降,但未造成严重损害。示例:误报率升高、非关键功能中出现暂时性偏差。
  • 高:影响重大的显著问题。如不及时处理,可能造成损害。示例:影响某一受保护群体的系统性偏差、准确性大幅下降、数据泄露。
  • 严重:符合或可能符合“严重事件”的定义(Art. 3(49))。会触发 Art. 62 规定的 72 小时强制通知。需要立即采取控制措施并上报高级管理层。

创建新事件

点击+ 报告事件打开创建表单。填写所有必填字段:

字段类型是否必填说明
标题文本输入框必填简洁且具有描述性的标题(例如“信用评分:对 18-25 岁人群存在偏差”“欺诈检测:未能标记已知模式”)。最多 300 个字符。请使用一致的命名规则,以便进行趋势分析。
描述多行文本框可选对事件的详细描述,包括:观察到的情况、检测时间、检测人、直接影响、受影响的用户/决策,以及初步的根本原因分析。最多 10,000 个字符。随着调查的推进,请补充调查结果、控制措施和解决详情。
AI 系统下拉列表可选选择该事件涉及的 AI 系统。下拉列表会列出您清单中的所有 AI 系统。将事件关联到 AI 系统后,即可在该系统的详情页面上进行交叉引用,并支持趋势分析(例如识别反复发生事件的系统)。如果事件涉及多个 AI 系统,请为主要系统创建事件记录,并在描述字段中引用其他系统。
关联到 ICT 事件下拉列表可选如果该 AI 事件与更广泛的 ICT 事件(基础设施故障、网络安全入侵等)相关,可交叉引用 Venvera DORA 模块中的现有 ICT 事件。这会创建一个双向链接,以便在 EU AI Act 和 DORA 框架之间进行一体化的事件管理。
类型下拉列表可选按类型对事件进行分类:
  • 严重事件:符合 Art. 3(49) 的定义。会自动触发带倒计时器的 72 小时通知跟踪。
  • 险些事件:本可能导致严重事件,但已被避免。对改进风险管理很有价值。
  • 性能下降:准确性、可靠性或延迟未达到可接受的阈值(数据漂移、模型衰退等)。
  • 检测到偏差:输出中存在影响受保护群体的系统性偏差。会触发数据治理和监督审查。
  • 安全泄露:对抗性攻击、数据投毒、模型窃取或未经授权的访问。可能还需要按照 NIS2/GDPR 进行报告。
  • 其他:不属于上述类别的任何 AI 相关事件。
严重程度下拉列表可选选择严重程度级别:低、中、高或严重。请参阅上方筛选部分中的严重程度定义。在调查过程中获得更多信息时,可以而且应该更新严重程度:随着事件的真实范围和影响逐渐明确,最初的严重程度评估经常会被上调或下调。严重程度的变更会记录在审计日志中。
检测时间日期/时间选择器可选首次检测到或观察到事件的日期和时间。对于严重事件,这个时间戳至关重要,因为 Art. 62 规定的 72 小时通知截止期限是从提供者知悉该事件之时起计算的。如果不清楚确切的检测时间,请使用最佳估计值,并在描述字段中注明这一不确定性。系统会根据此时间戳进行计算,并在严重事件的详情页面上显示倒计时器。

严重事件:72 小时通知截止期限

当事件被标记为严重事件时(无论是选择“严重事件”类型,还是勾选严重事件复选框),系统都会启用全面的主管机构通知跟踪:

72 小时截止期限:Art. 62(1) 要求高风险 AI 系统的提供者向事件发生地所在成员国的市场监管机构报告任何严重事件。提供者在知悉事件并确定 AI 系统与该事件之间存在因果关系(或存在因果关系的合理可能性)后,必须在 72 小时内提交初步报告,并在 15 天内提交完整报告。系统会根据“检测时间”时间戳自动计算 72 小时截止期限,并在事件详情页面上显示醒目的倒计时器。错过这一截止期限可能会招致执法行动。

主管机构通知跟踪

要素说明
倒计时器按颜色区分的可视化计时器:绿色(>24 小时)、琥珀色(12-24 小时)、红色(<12 小时或已逾期)。显示在详情页面和列表视图中。
通知状态生命周期跟踪:未提交、已提交(初步报告)、已提交(完整报告)、已确认。每次变更都会连同时间戳一起记录。
主管机构详情主管机构名称、联系方式、通知日期/时间、参考编号以及后续沟通记录。
通知证据所提供的证据:事件描述、AI 系统 ID、影响评估、受影响人数、控制措施、计划采取的纠正措施。
提示(做好事件响应准备):不要等到发生严重事件时才建立通知流程。请提前制定事件响应计划,记录以下内容:(a)负责向主管机构发送通知的人员或团队;(b)您的 AI 系统运营所在的每个成员国对应的具体市场监管机构;(c)通知格式和必需内容;(d)向高级管理层和法律顾问上报的程序;(e)初步报告和完整报告的沟通模板。请将此计划存放在技术文档模块中,并关联到每个高风险 AI 系统,确保在需要时可随时取用。

事件详情页面

主要部分包括:页眉(标题、徽章、AI 系统链接、时间戳)、时间线(按时间顺序记录所有状态变更和操作的审计日志)、主管机构通知(倒计时器、状态、详情;仅限严重事件)、ICT 交叉引用(关联的 DORA 事件卡片)以及解决详情(根本原因分析、纠正/预防措施、经验教训)。

跨模块集成:AI Act 事件与 Venvera 的其他多个模块相集成。为某个 AI 系统创建事件后,该事件会显示在该 AI 系统详情页面的“事件”选项卡下,并附带计数徽章。如果事件是通过上市后监测发现的,请引用相应的监控计划。如果事件暴露出缺口,请记下这些缺口,以便在下一次差距评估中处理。如果纠正措施需要更改技术文档、人工监督措施或数据治理实践,请更新相关记录并交叉引用该事件。这种一体化的方法可确保事件推动您整个 AI 合规计划的持续改进。

事件工作流最佳实践

请遵循以下工作流来有效管理事件:(1)立即检测并记录:不要等到调查之后才创建记录;(2)对严重程度进行分级,并评估事件是否属于严重事件:如有疑问,应从谨慎角度出发;(3)控制问题(暂停系统、回滚版本、启用人工后备方案);(4)利用日志、监控数据和近期变更调查根本原因;(5)通过纠正措施、验证和经验总结完成解决并关闭。