2023年8月4日，由杭州市萧山区人民检察院提起的利用“AI换脸”技术侵犯公民个人信息民事公益诉讼案获判。杭州互联网法院支持了检察机关提出的全部诉讼请求，判令被告：立即停止侵权，删除其在社交软件群组中留存的所有涉案个人信息；在《法治日报》向社会公众刊发赔礼道歉声明，以消除影响、进行警示；支付侵害社会公共利益的损害赔偿款60000元。

2020年左右，虞某通过互联网学习并掌握了“AI换脸”软件的使用方法。2021年开始，虞某为牟取非法利益，在未取得被编辑人同意的情况下，利用“AI换脸”软件将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸视频，在网络社交软件上进行传播。与此同时，虞某还为他人提供换脸视频定制服务，即根据客户提供的视频或照片制作换脸视频，并在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。

2023年4月，萧山区检察院在办理虞某制作、传播淫秽物品牟利罪的刑事案件中发现公益诉讼线索，立即开展调查取证。

经审查，检察机关认为，人脸信息作为敏感个人信息，对于保障公民人身财产安全具有重要意义，应当依法受到严格保护。虞某未经他人同意，非法处理他人人脸信息、提供换脸视频定制服务、销售换脸软件及教程的行为损害了社会公共利益。具体表现在，虞某自互联网公共空间非法获取众多人脸信息，利用深度合成技术非法处理后，在超过2000人的网络社交软件群组传播，同时提供换脸视频定制服务，使不特定群体成为潜在的被侵害对象，违反了法律法规和社会公德，侵害了承载在不特定多数社会主体个人信息之上的公共信息安全，破坏社会公共秩序，构成对公共信息安全领域的社会公共利益侵害；在他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下，仍向他人销售“AI换脸”软件、提供换脸素材并传授使用教程，传播侵犯公民个人信息的方法和手段，使得更多不特定主体个人信息被侵害的社会危险性进一步扩大，故应当承担相应的民事责任。

6月9日，萧山区检察院经履行诉前公告程序，依法提起民事公益诉讼。

7月28日，杭州互联网法院公开开庭审理本案。庭审中，检察机关结合案件事实、危害后果、法律责任等对被告进行了深刻的法庭教育。被告虞某表示，对公益诉讼起诉人起诉状中所述事实和理由没有异议，对其行为深感后悔，愿意诚恳地向社会公众道歉，并会积极履行判决义务，以弥补对社会公益造成的损害。

经审理，杭州互联网法院认定虞某对于人脸深度合成技术的滥用行为，损害了社会公共利益，依法判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。判决生效后，虞某已履行道歉及赔偿义务，支付的赔偿款将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

“技术中立并不等于技术的开发者、应用者不应受到来自法律的规制和道德伦理的约束。我们希望通过此案的办理，在保护敏感个人信息的同时，为‘AI换脸’这类的深度合成技术的使用设定应有的合法边界，培养公众在数字时代、人工智能时代的道德意识和社会责任感，让技术在合法的轨道中迭代发展。”承办该案的检察官萧山区检察院检委会专职委员章蕾这样说道。