EU AI Act（法规（欧盟）2024/1689）将人工智能系统划分为四个风险等级：禁止、高风险、有限风险和极低风险。高风险类别——由第6条以及附件一和附件三中的清单加以界定——是大多数企业人工智能义务的所在。

附件三包含八类高风险使用场景：生物识别、关键基础设施、教育、就业、基本服务、执法、移民以及司法/民主。如果您的人工智能落入其中任何一类，您将面临完整的合格评定、技术文件、人工监督、上市后监测体系——以及高达1500万欧元或全球营业额3%的处罚。

高风险义务自2026年8月2日起适用。第6条第(3)款规定了一项狭窄的豁免，适用于人工智能仅执行"狭窄的程序性任务"、改进先前已完成的人类活动、在不取代决策模式的情况下检测其偏差，或执行准备性任务的情形。

EU AI Act 是全球首部全面的人工智能横向法规。它适用于将人工智能系统投放欧盟市场的提供者以及在欧盟使用人工智能系统的部署者——包括其输出在欧盟使用的非欧盟公司（第2条）。

与GDPR一样，AI Act 具有域外效力。与GDPR一样，违反它将招致按营业额百分比计算的处罚。与GDPR不同的是，它有明确的禁止使用场景类别，以及针对高风险系统的大量上市前要求。

• 禁止（第5条）。无论采取何种合规措施，均在欧盟被禁止。处罚：高达3500万欧元或全球营业额的7%。
• 高风险（第6条 + 附件一 + 附件三）。允许但受严格监管——合格评定、FRIA、注册、持续监测。处罚：高达1500万欧元或全球营业额的3%。
• 有限风险（第50条）。仅有透明度义务——告知用户、标注合成内容。
• 极低风险。无特定的AI Act义务。鼓励自愿性行为准则。

大多数企业人工智能落入高风险（因人力资源、信贷或生物识别使用场景）或有限风险（因聊天机器人部署）两类之一。

第6条在满足以下任一条件时将人工智能系统归类为高风险：

1. 第6条第(1)款 + 附件一。该系统是某产品的安全组件，或其本身即为产品，且受特定欧盟统一立法（机械、玩具、电梯、医疗器械、体外诊断、民用航空、农用车辆、船用设备、无线电设备等）规制，并且该产品须根据该立法接受第三方合格评定。
2. 第6条第(2)款 + 附件三。该系统属于附件三八类使用场景类别之一。

许多系统同时满足两项测试；附件三路径是大多数产品团队需要理解的。

第6条第(3)款规定了一项狭窄的豁免。附件三所列的人工智能系统，若不对自然人的健康、安全或基本权利构成重大损害风险，包括不实质性影响决策结果，则不属于高风险。第6条第(3)款的条件如下：

1. 该系统执行狭窄的程序性任务；
2. 其旨在改进先前已完成的人类活动的结果；
3. 其旨在检测决策模式或对先前决策模式的偏离，且无意在缺乏适当人工审查的情况下取代或影响先前已完成的人工评估；或
4. 其旨在执行与附件三所列使用场景目的相关之评估的准备性任务。

若人工智能系统对自然人进行画像，则该豁免不适用。在提供者认定附件三系统不属于高风险的情况下，提供者必须记录该评估（第6条第(4)款）并将该系统在欧盟数据库中注册（第49条）。

高风险义务范围广泛。提供者必须：

• 风险管理系统（第9条）——贯穿整个生命周期的持续、迭代过程。
• 数据与数据治理（第10条）——训练、验证、测试数据须符合质量标准并经偏见审查。
• 技术文件（第11条）——须在投放市场前编制，并保持更新。
• 记录保存与日志记录（第12条）——贯穿整个生命周期的自动日志。
• 对部署者的透明度与信息提供（第13条）——使用说明、预期用途、局限性。
• 人工监督（第14条）——在系统使用期间，设计以实现自然人的有效监督。
• 准确性、稳健性与网络安全（第15条）——在使用说明中声明适当的水平。
• 质量管理系统（第17条）——书面政策、程序和说明。
• 合格评定（第43条）——对大多数附件三系统采用内部程序；对生物识别和某些受监管产品采用第三方评定。
• 欧盟符合性声明与CE标志（第47–48条）。
• 在欧盟数据库中注册（第49条）。
• 上市后监测（第72条）和严重事件报告（第73条）——向市场监督机构报告。

部署者——在其权限下使用人工智能系统的自然人或法人——承担较轻但实在的义务：

• 按照所提供的说明使用系统。
• 将人工监督指派给具备必要能力、培训和权限的人员。
• 监测严重事件或故障，并依据第73条进行报告。
• 公共部门部署者和某些私营部门部署者必须依据第27条进行基本权利影响评估（FRIA）——记录使用场景、受影响人员、损害风险及缓解措施。
• 使用人工智能对自然人作出决定的部署者必须告知这些人员（第26条第(11)款）。

• 2025年2月2日——第5条禁止性做法生效；人工智能素养义务（第4条）。
• 2025年8月2日——通用人工智能（GPAI）规则生效；治理机构投入运作；处罚开始适用。
• 2026年8月2日——附件三项下的高风险系统义务适用。
• 2027年8月2日——第6条第(1)款项下的高风险义务（受附件一立法规制产品的安全组件）适用。

• 第5条禁止性做法——高达3500万欧元或全球年营业额的7%（第99条第(3)款）。
• 不遵守AI Act的其他义务——高达1500万欧元或全球年营业额的3%（第99条第(4)款）。
• 向主管机关提供不正确、不完整或误导性信息——高达750万欧元或全球年营业额的1%（第99条第(5)款）。
• 中小企业和初创企业——罚款应考虑其经济可行性而适用；可能适用较低的百分比上限。