汇业评论

文 | 史宇航 汇业律师事务所 合伙人

一、背景

近期，工信部发布《人工智能科技伦理管理服务办法（试行）（公开征求意见稿）》（以下简称《AI伦理办法（征）》），拟更进一步推动人工智能的治理工作。《AI伦理办法（征）》如正式通过，将会是2023年《科技伦理审查办法（试行）》的重要补充。

《AI伦理办法（征）》拟对于需要开展伦理审查的机构而言，其将面临更具针对性、更精细化、更专业化的人工智能科技伦理审查要求。明确其专门适用于在中华人民共和国境内开展的，可能在生命健康、人的尊严、生态环境、公共秩序、可持续发展等方面带来科技伦理风险挑战的人工智能科学研究、技术开发等科技活动。这意味着机构在开展人工智能相关活动时，将有专门的伦理标准可依，而不仅仅是《科技伦理审查办法（试行）》中涉及人、实验动物或可能带来伦理风险的普遍性规定。

二、审查范围和重点的专业化与细化

如果《AI伦理办法（征）》正式施行，机构需要：

• 提升伦理委员会的AI专业能力；

• 重新审视和调整AI科技活动设计及风险评估流程；

• 准备更详尽的技术与伦理结合的申请材料；

• 关注AI系统在公平公正、可控可信、透明可解释和责任可追溯方面的具体表现；

• 并利用好国家层面提供的伦理支持与促进服务。

这将促使机构更系统、更全面地将科技伦理融入人工智能科技活动的整个生命周期。

《AI伦理办法（征）》在《科技伦理审查办法（试行）》通用原则（如增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明）的基础上，新增了“尊重知识产权”、“确保可控可信”和“强化责任担当”贯穿全过程（第3条）。

机构在评估人工智能项目时，需要将这些新增的、更具技术指向性的原则纳入考量，并确保其在人工智能科技活动的全生命周期中得到落实。

三、 申请材料的详尽性要求提高

相较于《科技伦理审查办法（试行）》，《AI伦理办法（征）》拟对人工智能科技活动的申请材料提出了更为细致的要求，包括需提供拟采用的算法机制机理，数据使用类型、来源与获取方式、清洗方式，测试评估方法，拟形成的软硬件产品，预期应用领域及适用人群等（第12（1）条）。

此外，还需详细评估人工智能技术预期应用、误用及滥用带来的潜在科技伦理风险，并制定防控计划（第12（2）条）。

机构内的人工智能科技活动负责人将需要提供更具技术深度和风险评估细节的材料，这要求项目团队在设计初期就充分考虑伦理维度。

四、审查重点聚焦AI核心风险

在审查重点方面，《AI伦理办法（征）》拟新增针对人工智能独有的具体维度（第15条）：

• 公平公正：强调防止偏见歧视、算法压榨，保障资源分配、机会获取、决策过程的客观性与包容性。

• 可控可信：要求采取健壮性设计等措施，保障系统可应对极端情况，并确保最终使用者能够控制、指导和干预模型、系统的基本操作，以及持续监测和及时补救。

• 透明可解释：要求合理披露算法、模型、系统的用途、运行逻辑、交互方式说明、潜在风险等，并提升可解释性。

• 责任可追溯：要求通过日志管理等措施，确保数据、算法、模型、系统全链路可追踪和管理，出现问题时可精准定位责任人。

这些规定超出《科技伦理审查办法（试行）》中数据和算法一般性原则，要求机构的伦理审查更深入到AI系统设计、开发和运行的细节，评估其技术风险和伦理影响。

五、监督管理职责分工的明确

《AI伦理办法（征）》计划明确工信部会同有关部门负责人工智能科技伦理治理工作，加强应急伦理工作的协调指导。

AI研发机构将面临工信部作为主要牵头部门的监督管理，同时，服务中心也需进行登记并提交年度报告，科技部与相关主管部门的登记信息将同步共享。这表明未来人工智能科技伦理的监管将更加明确，而且工信部本来就是数据领域监管的熟手，目前又有了监管AI的抓手。

六、已经出发的AI的科技伦理审查

对于AI机构与企业，如果等待《AI伦理办法（征）》施行后再推进相关工作，那么在合规上就落了后手。已经有不少机构依据《科技伦理审查办法（试行）》建立了自己的科技伦理审查机制。

比如：阿里巴巴在2022年成立了科技伦理治理委员会；百度于2023年10月成立科技伦理委员会以指导科技专业人员的实践；2021年，海康威视设立技术伦理委员会，以确保人工智能、大数据等技术在研发与应用过程中不存在道德伦理冲突。不一而足。

湖南省科技厅还曾公示了多个批次的科技伦理审查机构的名单，其中包括生物科技、医疗科技、融媒体、汽车、智能驾驶、高校研究院等不同领域的机构。

在《安克创新2024年度可持续发展报告》中，就有专门加强科技伦理治理章节，表明：

• 实施技术研发“双线审批制”，即所有产品上线前，必须通过法务合规部与数据中台的双重审查，确保技术研发的合规性与伦理性。

• 建立“伦理影响评估矩阵”，对算法决策、数据使用等关键场景，构建风险分级管理机制，通过矩阵化评估方法识别并控制潜在伦理风险。

在《星环科技：2024年年度报告》中提到：

公司严格遵守《互联网信息服务深度合成管理规定》 和《科技伦理审查办法（试行） 》 等法律法规， 公布并实施《星环科技科技活动伦理审查办法》 ， 始终坚持“创新与防范风险相统一” 的原则落实人工智能伦理审查工作。

小米在2022年年报中也提到人工智能伦理委员会如何保障小米在人工智能技术应用上遵从数字平等相关的伦理准则和监管规范：

近年来，基于相貌、职业及性别平等提出的“包容性语言”概念正逐步被推广并应用至机器翻译领域。本年度，我们通过调整翻译逻辑与针对性 AI 训练，让“小爱同学”中译英功能更加包容多元用户的翻译语境需求。

所以，对于AI企业，科技伦理审查的试卷已经下发，《AI伦理办法（征）》可能是未来新的考纲，足够了解今后的命题方向了。