被AI换脸后,她们经历了中国版“N号房”

点击收听本新闻
听新闻

被AI换脸后,她们经历了中国版“N号房”

丨王思思

编辑丨杜雯雯

被AI换脸后,她们经历了中国版“N号房”

试想一下,一位女性被AI肆意换脸生成色情图像,进而被陌生人围观、羞辱。而作恶之人在一次次发图,又转为私聊的加密对话中,完成隐秘狂欢甚至牟利。他们隐身在匿名账号背后,极少受到惩戒,只需点击删除,一切痕迹都消失了。

在今年8月韩国曝出“N号房2.0”事件至今的3个月里,中国版“N号房”受害者的故事也陆续浮出水面。欧阳潇潇是公开发声的中国受害者里,罕见获胜的案例:加害者最终被行政拘留10天。

潇潇推动胜利的过程艰难漫长,也因此,她的故事和经历尤为珍贵——冰山之下的诸多受害者,将其视作鼓励自己维权的范例。

从这些女性愤怒、痛苦但勇敢的回述里,你也能看到,AI热潮时代,深度伪造(Deepfake)技术是如何被用作恶行,让侵害变得更隐秘、便捷,而人类世界的道德、法律以及某些落后的规则,尚未能追赶上这种变化。

被AI换脸后,她们经历了中国版“N号房”

匿名世界的恶

潇潇的平静生活,是被一则私信打破的。

“冒昧地问一下,你有男朋友吗?”手机弹出信息的7月9日,她还在公司上班。一位叫小雅的女孩告诉她,有人自称潇潇男朋友,盗用她的照片在Telegram的群组传播。

为了确认这不是恶作剧,潇潇向小雅要来截图:一张九宫格照片,是她以前发过的写真,照片底下全跟着侮辱性话语。截图中,Telegram讨论人数最多的一个群组叫“分享我身边人朋友圈”,显示成员3445人,实时在线50人。

Telegram(中文名:电报、纸飞机)是跨平台的即时通信软件,用户可以相互交换加密与自毁消息,发送照片、影片等所有类型文件,在全球拥有超过9.5亿人次的活跃用户。

潇潇21岁,今年夏天她刚从大学毕业,在河北从事医疗相关工作,闲暇时做模特兼职,也是小红书的写真博主。她已经两年没谈恋爱,没有所谓的“男友”。

谁对自己有这么大的恶意?潇潇一时想不出来。为了揪出作恶的人,她拜托男性朋友杨楷,帮打掩护一起查证。

杨楷在X(原Twitter推特)上,先是找到了一个假借潇潇名字的“仿号”。这个虚假账号从7月8日陆续更新了三四张潇潇的照片,以及一条合成视频。视频中,先是真实的潇潇穿着古装在跳舞,后面则嫁接了一段AI伪造后的不露脸淫秽视频。

在杨楷看来,这些照片和视频具有很强的迷惑性,“我知道潇潇不是那样的人,但不了解她的人,可能就会相信那是她。”

潇潇的背影照片 受访者供图

潇潇的背影照片 受访者供图

杨楷继续搜索,很快发现对方在Telegram上的账号。拿到最基础的信息后,潇潇先是咨询了律师,9日晚上八九点钟,她到离家最近的派出所报案。

报案过程经历了几轮波折的沟通,警察最终带潇潇做了笔录,但还需要她本人梳理出详细的事件经过,以及提交手里现有的证据。

回家的当天夜里,小雅传来消息,通过套话Telegram的“仿号”主人,她得知对方除了知道潇潇的真名、毕业学校、所学专业、家庭住址外,还知道她“有一个表弟在读高中”。

“亲属关系,算是一个比较私密的信息。”凭这一点,潇潇初步怀疑是身边熟人所为,她的脑海里迅速闪过一个人的脸。

为了锁定对方身份,杨楷私信对方。失败后,他又重新注册了一个Telegram账号,继续尝试套话。对方上钩了。“仿号”主人编造与潇潇读高中时相识并在宿舍发生关系的谎言,言语间充斥着脏话、意淫和炫耀。

转折点,是对方发来的一张图。通过识图功能,对应上了欧阳潇潇之前的怀疑对象,李勇平,此前追求过她。在潇潇的印象中,她和李勇平之间从未产生过实际矛盾,最可能的解释是,对方“因爱生恨”。

她找不到明确答案。

被AI换脸后,她们经历了中国版“N号房”

被伤害的

8月16日的一个早晨,潇潇像往常一样,骑电瓶车离开家。她曾无数次穿过这座北方城市的大街。暗处的监视,她并未察觉。

在一辆白色的私家车上,李勇平隔着车窗,目睹了潇潇进入视野又迅速驶离的过程。最近的时候,两人相距不到一米。很快,女孩的手机上弹出一条微信:我看见你了。

四天之后,李勇平被行政拘留。

一双大眼睛,鼻梁微挺,浅浅一笑,左脸颊就现出一个酒窝,这是潇潇给人的第一印象。大学期间她一直在舞蹈社团和礼仪队工作。凭借良好的外形条件,潇潇成为校园里的人像模特,也在社交平台更新自己的写真。

潇潇在海边 受访者供图

潇潇在海边 受访者供图

李勇平就是顺着那些照片找过来的。

2022年8月,潇潇暑假回家时,第一次收到同城李勇平的私信。“他的自我介绍,第一句就是北电毕业,学导演的。我当时还纳闷儿,你约我拍摄,跟我说这些干吗?”潇潇那时还不知道,李勇平一上来就向她撒了谎。后来的接触中,她得知李勇平毕业于天津一所院校,北电的文凭,是他花钱上了一年的进修班得来的。

25岁的李勇平,圆脸,戴眼镜,身高不到1米7,在河北当地做着一份导演的工作。在这之前,他和朋友开了一家自拍馆,后来又跟人合伙开过KTV。

最初的那次约拍,两人只有工作上的交流。半年后,潇潇放寒假,李勇平再次邀她合作。随着接触增多,李勇平开始追求潇潇。

他表现得很贴心,知道潇潇喜欢喝酸奶,每次见面总会带上一瓶;也没有过越界的举止,很有分寸地和她保持着距离;去年潇潇生日时,李勇平买了礼物,当天开车几个小时赶到她所在的学校,为她庆生。

但潇潇一直没答应。2023年6月,潇潇明确提出,没有必要再继续接触下去。李勇平要求郑重见上一面。最后的那次面谈中,潇潇分析两人的“不合适”,希望他能尊重自己的决定。她记得,李勇平当时情绪很稳定,也表现得体面。之后近一年,他们再无联络。

两人最近一次产生交集,是2024年的4月26日,潇潇接到李勇平的一个醉酒电话。电话里,男人表现得情绪低落,说自己正在参加朋友的婚礼。也是这次通话里,他提到,有时会在潇潇家楼下吃早餐,也知道她每天上下班的时间。

这番话,潇潇更多感受到的是害怕。

7月10日,也就是报警的第二天,潇潇基本确定暗中盗取和伪造她照片的人,就是李勇平。她的生活秩序被彻底打乱了:一方面急于找出李勇平作恶的证据,另一方面还要和其他的骚扰者拉扯,潇潇吃不好也睡不安稳,生出满嘴的口腔溃疡。

与此同时,她的个人信息正在不断被扩散,一些小号带着侮辱性词汇以及个人信息,涌向她的私信里。潇潇能做的,就是将这些陌生人全部拉黑。

她急于找到结束这一切的办法。

被AI换脸后,她们经历了中国版“N号房”

偶然的胜利

等待警方调查结果的那一个月,是潇潇最为焦虑的时候,她隔三差五打去电话询问进展。但同时期,李勇平并不知道潇潇已经报警,因此骚扰并未停止。直到8月20日,潇潇再次接到警方通知,李勇平被行政拘留10天。

行政处罚决定书上显示:今年7月份,违法行为人李勇平将多张由欧阳潇潇脸部合成的淫秽图片并配文发布于其外网账号上。以上事实有被侵害人陈述、违法人的陈述和申辩、书证等证据证实。

行政拘留,已经是行政处罚中较重的一种形式,但对嫌疑人的行为仍然排除在刑法定义的“犯罪”之外。这意味着,李勇平所做的一切,甚至不会留下刑事案底。

即便如此,潇潇还是觉得自己足够幸运,遇到了主动提醒且愿意帮助自己的陌生人小雅,“这个小妹妹太重要了,没有她,我根本不知道有这件事,也拿不到让警方抓人的证据。”

“她有80%的功劳。”潇潇说。

事后来看,潇潇的成功维权,在某种程度上有难以被复制的偶然性。除了她自己追查到底的决心,朋友们持续的支持和帮助尤为重要——他们熟悉海外不同社交平台的功能属性,多次变换策略,只为找出加害者。

先是7月11日,报警后的第三天,欧阳潇潇收到李勇平发来的消息。没有实质性内容,仅是闲聊。之后的一个月,李勇平骚扰的频率更高,几乎每周发起三次对话。

“怎么能一边曝光我的照片和信息,一边主动跟我聊微信呢?”潇潇试着分析对方的心理,“有一种在玩弄人的感觉。”为了取证,潇潇陪他“演戏”。

她唯一的诉求是希望能把对方“送进去”,以惩戒的方式给李勇平一个教训。

想到李勇平近期频繁给自己一年前的写真点赞,那些被点赞的照片,后来逐一出现在色情群组里。在朋友的提议下,她决定发一条仅李勇平可见的朋友圈。

光是挑选可发布的照片,就费了番心思。杨楷嘱咐潇潇,在照片不起眼的地方,做一个仅自己知道的标记。为了让证据更有说服力,潇潇用视频记录下标记过程。

7月12日中午,照片发布。之后的几日,较为平静。李勇平如常跟潇潇搭话,还邀请她一起去外地出差。7月16日凌晨近1点,小雅看到李勇平又在色情群组里活跃,抱着试一试的心态,她私信道:“Hello”“看看你的女友啊。”对面秒回。

证据坐实。潇潇激动的同时,也觉得终于松了口气,“这是实锤了!”天一亮,潇潇迅速向警方提交了手头证据。

7月21日,欧阳潇潇收到通知,警方已正式以“传播淫秽物品”立案。传播淫秽物品,其行为根据性质和情节轻重,可能构成治安违法,也可能构成刑事犯罪。潇潇最终拿到的,是治安案件的行政处罚决定书。

对李勇平的行政处罚决定书

对李勇平的行政处罚决定书

广东广强律师事务所涉黄犯罪辩护与研究中心主任马泽恩,从业7年以来代理过不少在外网进行刑事犯罪的案件。

在她的实务经验中,Deepfake事件已经是很普遍的现象,她每年都会收到几十个加害者或受害者的咨询,但真正走到刑事诉讼阶段,且加害者被定罪的,“每年大概只有一两个而已”。

如果进入刑事诉讼阶段,利用Deepfake作恶的行为主要涉及:侮辱诽谤罪和传播淫秽物品罪。马泽恩代理的案件中,加害者大多涉嫌传播淫秽物品罪,最高只判两年,“除非他以传播淫秽物品来获利,那就构成另外一个罪名,叫传播淫秽物品牟利罪,最高可以判无期。”

但卡点就在于,这类发生在海外的案件取证难度大,大多依赖受害者自己取证,想通过警方取证并不容易。

马泽恩的理解是,在国内注册账号发布信息者,警方可以通过相关社交平台的公司系统定位到个人,但涉及到外网的账号,服务器的搭建者和管理者全部在境外,警方没有执法权,办案中存在一定的难度,“比如X(原Twitter推特),得去美国那边查,那为了这一个案件,值不值得国家发起国际间的合作呢?”

被AI换脸后,她们经历了中国版“N号房”

暗角狂欢

伤害究竟是以什么具体的场景在发生,加害者又是一群怎样的人?随着采访的深入,更多信息涌现了出来。

10月初,距离事发3个月后,潇潇此前受害的群组内,又多出了130多人。那是一个以传播、造谣、意淫熟人照片及生成色情图像为主的聚集地,群组头像为两名并肩站立的长发女性,全身赤裸。

同一个账号用户,同时在多个群组活跃。每一天,加害者肆意在群组发布着女孩的照片和视频,几乎每隔两三分钟,就有人互动。每组照片被发出时,往往搭配着带有侮辱性的文字,他们自称女孩是自己的同学、同事、朋友、前女友、老婆等,诱导其他群成员一起辱骂和意淫。紧接着,立马就会有几个账号回复,“私”。

群组里信息发布后,多人转为私聊

群组里信息发布后,多人转为私聊

一个名字中带有“yuwang”(指欲望)的群组,有6500多位成员。不同于其他群组,这里出现了陌生女性在街头被偷拍的照片。

有人自曝是南京某大学的学生,想要寻找同校人,一起意淫共同认识的同学。也有名为“某某摄影”的账号,简介中提到“常年招模特,接写真,私房,孕妇照(有舞蹈室也招学生老师)”。

那些照片被恶意传播的受害者,大多二十来岁。有化着精致的妆,站在某个风景区前留影的女孩;也有穿着朴素,背后是双层单人床的大学生自拍照;还有明显是偷拍视角的办公场所,职场女性正在电脑前埋头工作。

群组成员品评照片中女孩的长相和身体,鉴定哪些人符合自己的性需求,将女性视作物品随意拣选。

律师马泽恩在过去的代理案件中,接触过形形色色的加害者,大多是20至30岁的年轻人,以大学生为主,其中不乏名校学生。也有加害者是没有任何目的的偶发性作恶。而熟人间的作恶大多不以牟利为目的,而是泄愤或追求刺激。

“他们在现实生活中大多光鲜,甚至被认为优秀,由于不太敢追求女生,或追求不到自己喜欢的女生,出于一种‘得不到就毁掉’的阴暗心理,来实施对追求者或前任女友的报复。”马泽恩的感受是,这些加害者在外网上好像蒙上了羞耻心,以为那是一个隐秘的角落,可以肆意展露自己的阴暗面,“但他们事实上是不懂法律的。”

11月7日晚,一个名为Kris的用户,发文引导“一起无下限造谣意淫”。在被问及“为什么这么做”后,他回,“这种yy才有意思”“越是熟人yy起来能找到的爽点越多”。

11月9日上午9点24分,一个昵称为“熟女杀手”的人,在群组里询问是否有“贡献自己身边熟女老师、亲戚、上司、表姐、妈妈”等人的生活照。两分钟后,有人发出了一组身穿白色蕾丝裙女孩的照片。

这些躲在暗处的人有极高的警惕性,彼此之间沟通可能存在“行业黑话”,一旦辨识出不是同类,就会进行删除处理。

Telegram的特性是,但凡一方删除消息或对话框,另一方那里也将消失不见。若不是提前存有截图,有些对话将无迹可循。哪怕不是一对一私聊,在群组中,也有用户不时会将自己所发信息删除处理。那些内容消失的一瞬,犹如仙侠影视剧中的某种特效,整段文字幻化成一团白雾,迅速消隐。

Telegram诞生于2013年,创始人帕维尔·杜罗夫被称作“俄罗斯的扎克伯格”。今年8月底,帕维尔·杜罗夫在法国被捕并被法国当局起诉,初步指控罪名是其允许应用程序上的犯罪活动。

除了加害者,群组中还混杂着牟利者,由此形成一条成熟的产业链:只需支付50元人民币,就可帮忙“开盒”某个女性的手机号、家庭住址等信息,再叠加一定金额,可以多开出一个或几个社交账号。

也有可私人订制的“一键脱衣”服务,2分钟视频收费50元,78元便可入内部群。一个红色卡通头像的账户,“客户订单”众多,甚至需要排队,付款后得等10个工作日,微信、支付宝均可网页付费。其主页链接内的“换脸”频道,月活跃用户有2.9万人。

这群不知姓名、不知面貌,甚至不知身居何处的中文用户,在外网暗角,以泄露、传播和共同意淫身边的女性为乐。他们利用深度伪造技术制造女孩们的色情图像,完成精神上的一次又一次高潮。

女生照片按特征被汇集在文件夹中

女生照片按特征被汇集在文件夹中

国内究竟有多少像欧阳潇潇这样“冰山一角”的受害者,暂无准确统计数据。在Deepfake这个词汇出现之前,国内类似的受害者,经历的还是技术尚不成熟的“换脸”。

90后阿闯在2008年就有过这样的遭遇,那时她18岁,在QQ空间更新相册和发表“说说”,是当时年轻人最流行的事。某一天,男友和几个姐妹同时收到一个陌生QQ号发来的照片,大约十多张,都是阿闯被P图后的裸照。

“头是我,但身体不是我。”当时的阿闯有些微胖,看着身材不一致的照片,没有人相信陌生账号发来的消息。

由于当时法律意识不强,且不知晓对方身份,也并没给自己造成太大影响,阿闯说,最后她只能置之不理。“那个时候是因为P图技术没有那么好,才逃过一劫,如果换成现在,真不敢想象。”

被AI换脸后,她们经历了中国版“N号房”

冰山之下

在未知数量的受害者之中,潇潇的成功维权像是洞穿了一扇窗口。但不是每个人都能精准找出加害者。

8月底,韩国“N号房2.0”话题在国内社交平台登上热搜榜后,潇潇在网上公开讲述自己的维权过程。让她意外的是,国内一大批类似遭遇的受害者,涌入她的私信求助。这些女孩在报警之后,没有等来一个处理结果,甚至有人都没有走到报警这一步。

有女孩向潇潇分享自己的经历

有女孩向潇潇分享自己的经历

潇潇还刷到其他受害者,年纪最小的只有15岁,刚读高中,女孩最终是在妈妈的帮助下,成功立案;也有人被盗取照片后,生成擦边影像,被用作牟利。

今年10月,《凤凰周刊》记者先后采访到几位类似经历的受害者,她们大多为学生或刚毕业的职场新人,都是年轻女性。向她们实施恶行的,无一例外都是熟人,他们是女孩们曾经的追求者、前任、同学或同事。

重庆的研究生张蕾在今年9月,频繁被陌生人添加微信、支付宝,受到严重骚扰。同样经由一位好心网友提醒,张蕾才得知自己的生活照、证件照、未打码的身份证照片和被AI换脸的裸照,在多个Telegram群组中流传。人数最多的一个群组,有6万多名成员。她尝试报警,但证据不足。她借了2.5万元,委托律师协助自己立案,也同样几无进展。

张蕾的照片和信息,被发布在6万多人的群组

张蕾的照片和信息,被发布在6万多人的群组

25岁的代羽,在半年前遭遇了一波IP为同城人的骚扰,当时没太在意。直到前段时间,她再次被一名陌生男性私信,才得知自己的照片被发在Telegram色情群组。代羽想获知更多信息,对方却保持沉默。

“我各种求他,希望他能给我哪怕只是一个群名也行,或者群规模也行。”“我说,求求你帮帮我,你有啥条件可以提,而且我保证不会对你有任何影响。”

对方唯一的回应,是删除了她,线索中断。代羽试着联系半年前骚扰自己的那些人,消息发出去,也全都石沉大海。代羽去了三趟派出所,拿着手机给工作人员看潇潇的帖子,“您看,河北有个女孩就遇到了这个事,现在(嫌疑)人已经被拘留了。”

她也试图模仿潇潇的经验自行查找加害者,但她有1200多位微信好友,其中500多位备注真实名字的人都可以看到她的朋友圈——全都是现实生活中打过交道的同学、同事、朋友、亲戚。代羽尝试每天针对10个人进行分组,发布仅他们可见的朋友圈,但这是一个漫长的过程。

有朋友帮她出主意,实在不行就列一个白名单,分享的内容仅自己信任的人可见。代羽花时间去分组,最后发现,白名单里的男生“没有几个了”。

“凭什么觉得只能是朋友,同事不行吗?领导不行吗?再说难听点,亲戚不行吗?”究竟谁最可疑,她丝毫没有头绪。

代羽和朋友的聊天上 受访者供图

代羽和朋友的聊天上 受访者供图

代羽最终在派出所立案,等待警方的调查结果。现在,她把自己在网上“藏起来”:删掉所有社交平台内容,注销非必要账号,微信头像换成卡通图。但这并不是她想要这样的生活,她感觉自己的人生被压缩到一个逼仄的空间,“折叠起来的一条线,没有任何意思”。

11月上旬,欧阳潇潇被诊断为焦虑抑郁状态。之前,她在电话里聊起“伤害”,带着难以平复的怒气,“如果泄露隐私不算伤害的话,一定要冲到家里,把刀横在脖子上才叫实际伤害吗?”

她想不明白的是,加害者动动手指完成了伤害,代价却要受害者自己来承担。而还走在维权路上的女孩们 ,更要长久地与恐惧、无望作战。

回忆过去的几个月,潇潇的感受从愤怒,转向莫大的恐惧。担心被李勇平报复,她买来一根黑色防狼手电,收起时大约手掌三分之二的长度。每天出门上班时,潇潇把它随身携带在手提包内,这是唯一能给她带来安全感的做法。

8月30日,李勇平10天的行政拘留结束后,潇潇也有关注他的动向——10月和11月,李勇平对她肆无忌惮的作恶仍在继续,没有任何改变。

只不过,他更换了昵称和头像,删掉了账号上潇潇的合成视频,也不在群组里发布照片,只用文字引导其他群成员私聊。

11月9日,潇潇二次报警,但又绕回到了第一次的相同困境——由于不确定账号主人的身份,还需要她提供证明对方身份的证据。这一次,她请了律师,正准备发起民事诉讼。

令潇潇最难过的是,她完成了所有流程上该做的事,却依然没有阻止坏人作恶。伤害从未停止,转而以一种更隐蔽的方式暗地里进行。

(应受访者要求,文中均为化名。北京千千律师事务所执行主任吕孝权对本文亦有贡献。)

打开APP阅读更多精彩内容