女明星和邻家小妹秒变“主角”！80后男子建“女神合成群”定制换脸视频︱杭州发起“AI换脸案”公益诉讼

“请把我暗恋的女生换上”……女明星和邻家小妹的美脸，居然和不可描述视频主角高度一致！

80后的男子虞某某，深谙此道和个中机密。

近段时期，“AI诈骗”、“AI换脸”等话题频频登上热搜，引发公众对于人工智能技术的热议和关注。橙柿互动也关注报道过。

6月9日，杭州市萧山区人民检察院对一起利用“AI换脸”技术侵犯公民个人信息的案件，依法向杭州互联网法院提起民事公益诉讼。

橙柿互动了解到，虞某某有一个“女神合成群”，成员多达2000多人。

群里很热闹，常有人来请教群主虞某某，“只能换明星的脸？”、“把我暗恋的女生换上。”

虞某某称，只要能看到的脸，都可以换到不可描述视频里，并根据时长明码标价：5分钟300元、一小时600元。

在三年前，虞某某从互联网上接触到“AI诈骗”软件及技术，并通过学习掌握了该软件的使用方法。

从2021年左右开始，虞某某以牟利为目的，在未取得被编辑人同意情况下，利用上述“AI诈骗”软件，从网络社交平台上收集一些女明星和普通女孩的人脸信息，与部分淫秽视频中的人脸信息进行替换合成。

然后制作生成虚假的换脸淫秽视频，在网络社交软件上进行传播并获利。

橙柿互动了解到，截至案发，警方在虞某某所组建的公开群内查获淫秽视频1200余部、图片1600余张。

2022年11月，杭州警方以涉嫌传播淫秽物品牟利罪，将虞某某移送萧山区检察院审查起诉。

萧山检察机关深挖该案发现：虞某某不仅涉嫌刑事犯罪（目前已对虞某某以制作、传播淫秽物品牟利罪提起公诉），同时还存在损害社会公共利益的行为。

虞某某在使用“AI诈骗”技术制作淫秽视频的同时，还为他人提供换脸视频定制服务，即根据客户提供的视频或照片，制作换脸视频。

此外，虞某某还在网络社交软件上销售“AI诈骗”软件、提供换脸素材并传授使用教程。

检察机关认为：人脸信息作为敏感个人信息，对于保障公民人身财产安全具有重要意义，应当依法受到严格保护。

本案中，虞某某从互联网公共空间非法获取众多人脸信息，利用“AI诈骗”等深度合成技术非法处理、制作淫秽视频后，在超过2000人的网络社交软件群组传播。

同时提供换脸视频定制服务，使不特定群体成为潜在的被侵害对象。

这违反了法律法规和社会公德、混淆社会公众认知、污染社会风气、侵害了承载在不特定多数社会主体个人信息之上的公共信息安全。

同时破坏社会公共秩序，构成对公共信息安全领域的社会公共利益侵害。

除此之外，虞某某在明知他人可能将“AI诈骗”软件用于侵犯个人信息等不正当目的的情况下，仍向他人销售“AI诈骗”软件、提供换脸素材并传授使用教程，使得更多不特定主体个人信息被侵害的社会危险性进一步扩大。

虞某某的行为违反了《中华人民共和国民法典》《个人信息保护法》等相关法律规定，应当承担相应的民事责任。

在依法履行诉前公告程序、无适格主体提起诉讼请求后，萧山区检察院于6月9日向杭州互联网法院提起民事公益诉讼，请求判令被告停止侵权，删除持有的所有涉案个人信息，不得再违法使用深度合成技术侵害社会公益。

并支付公益损害赔偿金人民币60000元（专门用于个人信息保护、人脸深度合成技术应用的治理等公益事项）；在国家级媒体上向社会公众公开赔礼道歉。

“人脸信息与个人的隐私权、名誉权、财产权等多种权益关系紧密，属于敏感个人信息。

办案的检察官认为，“从司法实践来看，人脸信息的不正当使用将对社会公众的人身和财产安全带来重大风险，一旦造成侵害往往是长久的、持续的、难以弥补的。”

检察官指出，近年来，利用“AI诈骗”技术制作换脸视频，绕过人脸识别系统监管从而实施诈骗、盗窃等犯罪的情形时有发生。

可以说，“AI诈骗”技术在灰色领域甚至违法犯罪领域的滥用，给社会公众带来了极大危害。

希望通过该案的办理，能够进一步震慑犯罪分子。

同时提醒大家：在使用新兴技术时，不能忘记法律的规制、道德伦理的约束，这是所有技术发展应有的边界。