最近,27岁的新加坡女孩Rose(化名)发现,她的社交账号粉丝量莫名暴涨。如果不是有人联系告知,Rose可能永远不会知道,一年前她在社交账号上发布的生活照片,被人改成了裸体照片,如今正在色情网站流传。

一套人工智能算法,数十张正常的生活照,二者结合,就能凭空生成一个女性的裸体照片,甚至把她的脸移花接木到淫秽视频女优身上。类似的事情正在中国发生,多位知名女明星也中招,成为不法卖家的牟利工具。

被下架的“脱衣”软件流入中国

今年6月下旬,一款名为“DeepNude”的AI软件现身网络。它以人工智能算法为基础,可以识别并“删去”照片中人物的衣服,从而把正常照片转为“裸照”。据外媒测试,原始照片的清晰度越高、女性裸露的肌肤越多,转换出的“裸照”就越逼真。

由于伪造女性裸照极具道德争议,DeepNude火了不到一个星期便被开发者下架。6月27日,开发者在推特发布声明称,“从未想到该软件会得到病毒式传播”。他承认,尽管软件生成裸照后会打上“伪造”等遮挡水印,人们滥用软件的可能性还是很大。“这个世界还没有做好接受DeepNude的准备。”开发者说。

开发者还表示,肯定会有DeepNude的部分副本在网上流传,如果有人从其他地方下载、分享这些副本,将违反DeepNude官网的使用条款——如今,这一判断成为了现实。对于盗版者而言,“违反使用条款”的警告丝毫没有震慑力。

DeepNude官网关闭后,各种版本的软件先是在开源社区GitHub上流传。7月10日,GitHub全面封禁了类似项目的代码库。但DeepNude依然流入中国,并在各种社区和云盘内悄然扩散,甚至有电商平台商家打出“DeepNude破解版”“无水印”的名号售卖该软件牟利。

7月18日,南都记者检索发现,在某电商平台,“DeepNude破解版”“无水印版”的售价在3.99元到10元不等。但根据该电商平台社区规则,用户不得发布色情低俗信息,也不得发布侵犯他人商标权、著作权、专利权的信息。按这些规则判断,DeepNude无疑属于违规交易物品。

值得注意的是,部分卖家明显在用话术规避平台监管。一位卖家在商品介绍中提示,“直接拍,拍完私聊秒发货”。另一位卖家则声称“被禁言了”,在商品介绍中留下了微信号,要求买家加其微信号完成购买。还有的卖家将头像设置为二维码,提示买家通过“扫一扫”跳转进入其他平台的链接购买。

北京京都律师事务所律师金杰指出,使用软件把他人照片转为裸照进行传播,属于违法侵权行为。“利用软件将他人照片转为裸照扩散,既严重侵害他人肖像权,也严重侵害他人的名誉权,让公众误认为是他人‘春光泄露’,或者有其他不良行为、不良癖好,严重损害了他人的人格,也降低了他人的社会评价,是法律所严格禁止的。”金杰说。

出售软件是否构成违法?金杰认为,要具体情况具体分析。如果是仅限个人使用并不扩散,不会对他人造成损害,则不构成侵权。如果是出于恶意或者专门出售给某些个人或组织,用于非法目的,则应认定为违法或违规。

“视频换脸”已成产业,不少女星受害

南都记者调查发现,与DeepNude相比,另一种使用了类似算法的人工智能技术,Deepfakes,在黑灰产中更受欢迎。不同于前者只能生成裸照,Deepfakes主打“视频换脸”。此前火爆网络的“朱茵变杨幂”视频,便应用了相关技术。

自2017年开始,就有基于Deepfakes的换脸视频在美国网站流传。渐渐地,包括“神奇女侠”扮演者盖尔·加朵、在《复仇者联盟》饰演“寡姐”的斯嘉丽·约翰逊、《冰与火之歌》中的“Arya”麦茜·威廉姆斯在内,诸多高人气女演员接连惨遭“毒手”,被合成到了色情淫秽视频中。尽管有网站宣布“封杀”,但此类视频仍在网上层出不穷。

如今,这一风气也传到国内。7月18日,南都记者在电商平台发现,一些商家以“动作”“敏捷换脸”“成品”等隐晦关键词叫卖Deepfakes技术制作的淫秽视频,但视频中的女主角却变成了中国知名女星。

这些视频合集的售价从18.8元到199元不等。有卖家在商品介绍中写道,视频使用了深度学习技术,误差在0.01甚至0.005,共有280个“精品资源”,总大小在40G左右。该卖家同时贴出的截图显示,有买家评论“做得没破绽”。南都记者注意到,为绕过平台监管,部分卖家会在发布一段时间后删除商品,并通过头像留下购买提示。

除了电商平台,Deepfakes也在外国的色情网站上大行其道。某知名色情网站2018年便宣布禁止发布Deepfakes制作的视频,但至今仍有用户上传涉及中国女明星的换脸视频,并在标题中公然打出“人工智能换脸”“AI合成”等关键词。这些换脸淫秽视频均有数十万浏览量,有的甚至超过百万。

恶意人工智能应用已进入监管视野

7月19日,南都记者再次搜索发现,部分卖家已删除商品链接及Deepfakes关键词,但仍有卖家通过头像提示称“没下载的请等两天后私我”。

北京莫少平律师事务所律师莫少平说,商家在网上兜售换脸淫秽视频,肯定属于违法行为。根据情节不同,轻则违反《治安管理处罚条例》,重则触犯《刑法》,构成犯罪。

按照《治安管理处罚条例》,制作、复制、出售、出租或者传播淫书、淫画、淫秽录像或者其他淫秽物品的,处十五日以下拘留。《刑法》中则规定,“制作、复制、出版、贩卖、传播淫秽物品牟利罪”与“传播淫秽物品罪”,对构成犯罪的追究刑事责任。

而从民事层面看,未经当事人同意,以营利为目的使用公民的肖像,则有侵犯肖像权之嫌。虚假的淫秽视频,也可能构成名誉侵权。

种种新政表明,监管层已注意到以Deepfakes为代表的恶意的人工智能应用。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定,任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。

5月底,国家网信办会同有关部门发布《数据安全管理办法(征求意见稿)》,其中要求,“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明‘合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息”。

不过,这些尚未正式出台的法律法规,还无法有效阻止DeepNude、Deepfakes及伪造裸照、淫秽视频的广泛传播。

有技术人员正寻求办法识别伪造视频

有技术人员告诉南都记者,从实践来看,制作逼真度较高的换脸视频,至少需要千余张照片。但目前已出现一些新的技术方法,即便只有一张照片,也可以制作出换脸视频。

这意味着,不仅是女明星,任何曾在社交媒体上公开过生活照片的女性,都可能成为恶意应用的受害者。

正如新加坡女孩Rose,她的伪造裸照在色情网站流传,其本人却毫不知情。据新加坡媒体the　Star　Online报道,过去几周内,有数个像Rose一样的受害者出现。有人盗取了她们的社交媒体照片,通过DeepNude篡改后发上色情网站。并且,这些照片还在被不停地重新编辑,变得越来越多。

美国民间组织Revenge　Porn的创始人兼首席执行官Katelyn　Bowden曾作出鲜明的反对表态,认为DeepNude这样的技术不应该向公众开放。“现在任何人,甚至在根本没有拍过裸照的情况下,都可能发现自己成了色情的受害者。”她对媒体表示。

“是的,这不是你真正的私处,但别人会以为他们看到了你的裸体。一个Deepfakes的受害者曾告诉我,她觉得有上千人看到了她的裸体,她的身体好像不再是自己的了。”马里兰大学法学院教授Danielle　Citron在接受外媒采访时说。

在全球执法者设法应对的同时,技术人员也在寻求破解之道。今年6月初,有企业在DEF　CON　CHINA　1.0大会上展示了“打假”成果,研究人员用深度神经网络来训练识别算法,识别伪造视频的准确率超过了90%。6月底,加州大学伯克利分校和南加州大学的研究者也发布了一项进展,据称“打假”正确率达到了92%。

用技术作恶的人似乎总是比伦理和法律跑得快。在法律和技术尚无有效应对之道的当下,女性不得不更加保守和谨慎地对待社交网络。

Rose告诉媒体,她打算将社交账户设为“私密”。

采写:南都记者　冯群星