近日，浙江萧山公布了一起案例，男子用“AI换脸技术”合成淫秽视频，甚至根据顾客的需要，使用不同的女明星的形象，进行“私人定制”。检察院以以制作、传播淫秽物品牟利罪对其提起公诉。

说起“AI换脸”，最早了解到该技术可能是从一些新闻报道或者影视作品中，只需要一张照片，经过深度合成、算法处理，任何人都可以成为视频中的主人公，这项常被网友们用来剪辑“恶搞”视频的技术，却让80后安徽小伙虞某嗅到了一丝商机。

虞某称，早在2020年“AI换脸”刚刚开始兴起的时候，他就对该项技术产生了兴趣，甚至还专门在网上购买了换脸软件的教程并通过自学掌握了这门技术。“换脸”剪辑开始有热度后，他想到了在网上推广该项技术及相关的软件并从中获利，于是虞某在国外的社交平台上注册账号并建公开群，通过在其他公开群打广告、发链接等方式，吸引更多对“AI换脸”技术感兴趣的人到他本人所建的群里来。

但一段时间过去了，虞某的公开群却始终没有什么关注度。偶然的一次机会，虞某在该国外平台上看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。

虞某先是将原本“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入，当观看者达到一定人数后，虞某会发布群消息称，进入“内部群”可以收看完整版。虞某称，他会在“内部群”里放一些清晰度更高、时长更长的淫秽视频，而观看者想要进入“内部群”则要缴纳198元-498元不等的“会费”。

除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。也有不少人因为看了这些视频后对换脸技术产生了兴趣，向其咨询如何购买换脸软件。

一面通过“吸粉引流”，收取会费；一面又通过出售“换脸软件”，频频获利。虞某原本毫无起色的“生意”一下子打开了局面，短短几个月的时间里就收获了数万元。

截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。

2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。

案件目前正在法院审理中。

近年来，“AI换脸技术”频频被一些犯罪分子盯上，随之而来的犯罪手段也是花样百出、层出不穷。检察官表示，除了女明星外，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。对此，检察官提醒，“AI换脸技术”即便只是用来搞笑或者制作恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。希望大家依法使用该项技术，一旦遇到类似本案中利用“AI换脸技术”实施犯罪行为的，应第一时间固定证据，并及时向司法机关报案。

来源：潇湘晨报