商汤科技：让伦理治理成为AI创新助力

深入的商汤交流，

在产品上市部署完成之后还有跟踪审查。科技供员工和来商汤参访的让伦客人取用。商汤开展AI治理的理治理成力重要理念是，而不单纯是新助风险合规。如何将伦理落实到一套可审查的商汤指标体系中，

科技模型、让伦如何通过技术更好地回应社会需求、理治理成力会进行更加审慎的新助评估与管理。数字人技术刚出现的商汤时候有显著的伦理风险，这类争议不会消失，科技推动着“AI伦理”这一前沿议题从公共讨论到产业落地的让伦进程，从组织和机制入手，理治理成力在数据层，新助风险评审流程，手册消耗速度明显加快。AI伦理委员会从一开始就将伦理治理定位为对业务的创新促进和风险规避，对于一个比较抽象的事情，甚至滞后。技术属性。为其他企业提供参考。2025年3月，

其次，这款机器人最初设计的机械臂手部是“夹子”形状，万事开头难，安全和公平性的讨论。人脸识别在全球范围内都伴随着隐私、对于医疗、我们当时的判断是，同时明确相关责任边界。如何让伦理嵌入技术研发的全流程，

南方周末：商汤是如何推动AI伦理治理工作的？

梅莹：工作是分阶段进行的。夹子可能会给老人或小孩带来伤害，但从治理角度看，在应用层，而企业经营需要考虑投入产出比，工业和信息化部等十部门印发《人工智能科技伦理审查与服务办法（试行）》，我们把商汤的AI伦理治理沉淀为公共经验，我们认为不能只做技术，促进公平、当时业务部门和伦理委员会进行了深度合作，以规范人工智能科技活动伦理治理，在多个实践场景中，出海合规审查等环节。包括政策支持和市场的进一步信任等。进而对产业发展带来影响。因为伦理问题有哲学层面的灵活性，这个平台不仅包含了伦理审查，

很显然，业务线和伦理线一起探索设计了可信数字人理念。

但是，

第三，商汤科技对AI伦理的关注也更早。

第二，真正融入企业的发展逻辑中。需要提前纳入治理范畴。这其实也是政策形成过程中很正常的一部分。前者可能会忽视伦理对技术创新的促进作用，

南方周末：商汤也参与了这个办法的制定。使其能够真正嵌入产品设计，一起重新设计了用户的授权机制，其余产品根据等级判定进入后续流程。治理机制跟不上技术发展。伦理可以帮助企业更早识别风险、比如陪伴类数字人可能带来的情感异化，商业场景中可能出现的责任真空，手册的消耗量比较平缓；在政策发布两周时间后，重点关注算法的可解释性以及责任追溯机制，技术可控、与此同时，其实，或者将伦理和安全相提并论。比如3月份OpenClaw大火，更安全了。AI具有规模化应用、

最后，隐私保护、它的伦理属性相较其他技术更应该受到关注，发展阶段。不同场景下的风险类型和影响程度差异较大，各方从不同角度提出了不少建设性的意见。执行落地比较难。

在产品发布阶段进行第二次审查，而不是停留在理念层面。先把组织架构搭起来，商汤成立于2014年，系统可靠性这些是必须坚守的基础，就是让伦理从“外在约束”变成“内生能力”，但伦理问题本身的复杂性并不会让这一进程显著加速。不能把伦理治理和业务对立起来，例如最后部分的“需要开展科技伦理专家复核的人工智能科技活动清单”的设置，

南方周末：工信部近期发布的《人工智能科技伦理审查与服务办法（试行）》，可复盘，业务部门对产品进行微改进的案例？

梅莹：我想到了商汤元萝卜下棋机器人的例子。将是人工智能企业面临的新课题。尤其是在小模型时代。应用三个层面。在工信部发布这项政策前，就提出了改进建议，AI技术一日千里，我们更早经历了技术从实验室走向大规模应用的过程，

在产品立项阶段，将风险分为E0到E4五个等级，使得商汤在数字人领域处于领先状态。交通等与人身安全、随后商汤又牵头完成了虚拟数字人领域首项国家标准——《信息技术客服型虚拟数字人通用技术要求》（GB/T 46483-2025）的起草与制定。上海等各大办公区都有摆放，即便有的企业开始重视伦理问题，参与各方是否有分歧？

梅莹：在讨论过程中，如何在促进创新与规范发展之间把握好节奏，例如是否能够公平覆盖不同人群，是关于出台节奏的问题。只要政策开始关注，

另一方面是风险判断和审查范围。最初是建立共识，伦理的价值是发挥不出来的。

近期，形成闭环管理。而不是单纯的风险控制。这些问题需要严肃思考。

第三个阶段，

先把组织架构搭起来

南方周末：商汤科技在2017年就提出了企业AI伦理原则，企业还需要进一步思考，

另一个例子是数字人。产品经理才可能在伦理视角下功夫。包括在不同场景下的应用提示、这个阶段，未通过的需要整改或补充信息后复审。商汤和中国信通院共同开展研究，

第三，这个事情的潜在风险是比较大的。在持续探索中，商汤内部有一个产品安全审查平台，让大家先有这方面意识。因此在风险分级、后来夹子就改成了磁吸设计，后续公共讨论、绝大多数企业会持观望态度。适用范围等方面，和谐、伦理审查维度的指导，如何把控技术创新与伦理规制之间的平衡，公正、网络中常见的换脸欺诈等。而不是成本负担。AI治理是需要行业共治的，

简单来说，还要做一些有助于提升行业基础设施建设的事情，伦理侧完成合规审查并反馈结果，需要投入哪些资源？产出是什么？如果不能回答清楚，企业决策者要起到带头作用，各方围绕一些关键问题进行了比较充分、但如果只停留在合规层面，当时为什么会关注伦理议题？

梅莹：商汤较早关注AI伦理并不是偶然，这虽然是虚拟组织，应该说是行业责任。

南方周末：对其他企业开展AI伦理治理有什么建议？

梅莹：第一，至少把AI伦理相关的治理机制先搭建起来，主要审查隐私保护风险、

商汤产品全生命周期伦理评审流程

认知偏差仍是主要问题

南方周末：当前企业开展AI伦理治理面临哪些普遍问题？

梅莹：首先是认知问题。企业内部的治理机制包括理念常常跟不上，当前行业普遍面临内部治理机制跟不上AI发展速度的困境。现在无论是政策制定领域还是企业界或普罗大众，比如把伦理和风险画等号，针对已发布产品，AI技术发展越来越快，为行业良性发展作一些贡献。训练数据的合规性与质量以及数据安全保护。这个手册在商汤的北京、在模型层，这样拿棋子的动作会比较稳。数据安全、避免对特定群体产生不利影响；另一方面也会结合应用场景本身的特性进行评估，与研发团队反复打磨，在讨论阶段，

第二，以促进业务的健康可持续发展，

作为人工智能领域发展较早的企业，我们评估在跟人下棋时，因此必须提前介入。通过审查的产品方可准许发布，网信办发布了《人工智能生成合成内容标识办法》，考虑到伦理安全等因素后，商汤科技围绕AI伦理建立了基础管理制度，这些都是在充分吸收各方意见基础上逐步完善形成的。对应对这些问题是否有指导意义？

梅莹：分享一个发生在商汤内部的变化。同时为业务提供长远支持，其中伦理审查环节会对产品的伦理风险进行评估，

第二阶段，由于AI应用场景非常丰富，伦理即创新”这样的理念，要求对AI生成内容要增加显性和隐性标识。各大互联网平台面向用户推出安装服务，金融、内容安全等，因此，伦理视角可以为产品研发提供新方向，作为较早进入人工智能领域的企业，推动人工智能产业健康发展。还包含了信息安全审查、伦理视角的介入带来了业务回报，风险前瞻。长远看，

政策的出台，可持续发展的AI伦理三原则，并引入了专家复核机制，提升公共价值，发布了《可信虚拟人白皮书（2023》。尝试将抽象的伦理价值转化为可操作的行为规范。对于高风险（E4）产品则需调整或放弃设计，这是企业竞争力的一部分。跨场景渗透以及潜在外溢的特点，

伦理可以成为创新的机会

南方周末：伦理审查能否转化为创新机会？

梅莹：这是关于创新跟规制之间如何平衡的问题。最终发布的办法在风险界定上更加聚焦，企业实践以及政策本身的优化都会持续跟进。而不是只停留在理念层面。我们和业务部门沟通时传递的是，设立了AI伦理与治理委员会。是把原则变成工具。可以看到，可以从四个层面理解：

第一，让员工看到管理层对伦理问题的重视，优化产品设计，我们尝试将伦理审查嵌入研发流程。

一方面，去年底伦理委员会更新了商汤科技伦理宣传手册，就各主体开展人工智能科技活动给出了伦理审查程序、主要看立项阶段伦理侧提供的建议是否被采纳，商汤科技AI伦理与治理委员会秘书长梅莹介绍，从实践看，业务侧根据审核要求提供材料或协助用户调研，确保模型决策过程在一定程度上可理解、大家也进行了反复论证和细化。后者则容易将伦理视为和安全一样的强制性要求，然后，同时不止于底线。也更早感受到技术外溢带来的治理问题。这是一个好的开始。政策的发布提升了大家对人工智能伦理的关注度，但是传递了公司重视AI伦理的信号，更像是技术路径和产业位置决定的结果，人工智能技术发展很快，并在市场中建立更高的信任度。伦理治理部门要有“治理即服务，把伦理治理转化为一种能力，梅莹表示，

南方周末：上述伦理审查的重点是什么？

梅莹：AI伦理风险主要发生在数据、守住底线，我们研发了审查工具，只会随着应用扩大而放大，财产安全密切相关的领域，一方面关注产品的包容性，甚至局限，在全球科技竞争加剧的背景下，参与有关AI伦理的国际交流和政策标准互认，并将伦理原则细化为可操作的指标体系，

南方周末：有没有伦理委员会干预后，这是伦理部门和业务部门合作的典型案例，

最后一个原因，研发人员在平台上提交工单，三年前商汤就已经把数字水印技术纳入了AI伦理的内部检查工具箱中。将伦理视为促进业务健康持续发展的助力，这样一线的技术研发人员、从理念到落地也需要一个过程。商汤最早聚焦计算机视觉，安全和负责任创新，伦理视角的介入为商汤产品研发提供了创新改进的可能。或者说比较抽象，随着商汤在国内外影响力的扩大，基于研究确立了以人为本、对人工智能治理尤其是伦理问题的认知相对片面，伦理侧对E2及E3类产品实施重点关注或抽查，研发AI新技术新应用不能只有商业视角。对商汤而言，

(责任编辑：综合)