Test or certification item 测试或认证名称: 欧盟人工智能法案 2024/1689
Test or certification info 测试和认证相关内容:
《欧盟人工智能法案》(EU) 2024/1689 是欧洲首部针对人工智能（AI）的条例，针对所有在欧盟上市、投入使用的AI系统，含AI功能的医疗器械和IVD。2026年8月2日正式生效，2025年2月2日起部分禁止高风险 AI系统的条款已生效；高风险AI系统的合规评估、CE标识等要求从2027年8月2日起适用。
风险等级：
《AI法案》按风险分为四级（不可接受风险、高风险、低风险、最小风险），对应不同管控措施：
|
风险级别 |
情形 |
监管要求 |
|
不可接受的风险 |
危害基本权利和联盟价值的人工智能系统 |
禁止向欧盟市场提供 |
|
高风险 |
对健康、安全和基本权利构成高风险的 AI 系统，包括用于生物识别、关键基础设施管理、教培、就业、公共与私人服务、执法、移民与边境管控、司法与民主领域的人工智能系统。 |
投放前和使用过程中相关主体需遵守广泛的合规义务，包括确保投放市场前的合规性，履行符合性评估，进行活动记录确保可追溯，确保透明度等 |
|
有限风险 |
与自然人直接互动的人工智能系统、生成式人工智能系统、深度伪造等。 |
保障透明度，告知用户其为AI系统等 |
|
最小风险 |
AI支持的游戏和垃圾邮件过滤器等低风险的AI系统 |
不做干预 |
强制性产品范围：8 类高风险 AI 系统
1. 生物识别类AI系统：远程生物识别系统，基于敏感属性的生物特征分类系统，情绪识别系统等；
2. 关键基础设施类AI系统：用于交通管控、供水/燃气/电力供应的AI安全组件；
3. 教育与职业培训类AI系统：决定入学资格、评估学习成果、考试作弊监测的AI；
4. 就业管理AI系统：招聘筛选、职场绩效评估、岗位分配的 AI；
5. 公共服务与私人服务类AI系统：公共福利资格审核、个人信贷评分、健康/人寿保险风险评估、紧急呼叫分类与急救调度AI；
6. 执法类AI系统：犯罪风险评估、证据可靠性判断的AI；
7. 移民与边境管控类AI系统：签证审核、边境风险评估的AI；
8. 司法与民主类AI系统：辅助司法判决、影响选举结果的AI。
测试要求：
1.数据测试：数据集需满足 “相关、具充分代表性、低误差、完整”，需评估并消除性别、种族、年龄等数据偏见；涉及个人数据，需符合欧盟《通用数据保护条例》（GDPR）。
2.性能测试：验证AI系统准确性、稳健性与网络安全，需具备应对算法故障的 “故障安全机制”，防范数据投毒、对抗性攻击；需依据 “公认技术水平” 测试，结果详细记录至技术文档。
3.AI监管沙盒测试：AI监管沙盒（AI Regulatory Sandbox）需获市场监管机构批准，除执法场景外需取得受试者 “知情同意”；
测试周期最长6个月（特殊情况可延长)。
CE 标志粘贴：在 AI 系统（包装、随附文档）贴 “CE 标志”，纯数字 AI 可用 “数字 CE 标志”，需确保可便捷查询验证。