文 | 李厚辰
特朗普与哈里斯的美国大选辩论结束，辩论会后，流行天后Taylor Swift在Instagram公开表态支持哈里斯。在她的文章中，她专门提及了一起AI事件：
“最近我得知，有人在特朗普的网站上发布了由AI模拟的‘我’支持他竞选总统的内容。这件事唤起了我对AI的恐惧，尤其是它在散布虚假信息方面的危险性。这使我意识到，我需要对自己作为选民在这次选举中的实际计划保持透明。对抗虚假信息的最简单方式就是用真相来回应。”
Taylor Swift在自己社交平台上的分享
这件事成为最近AI犯罪领域又一个引发全球关注的事件。在AI技术大踏步改变我们生活后，AI的暗面也逐渐呈现。技术对现实生活的冲击恐怕只是开始。
01.
骇人听闻的韩国Deepfake事件
在AI生产图片领域，最近最严重的事件绝不是Taylor Swift，而是韩国的Deepfake事件，也被称为N号房2.0事件。
上次的N号房事件，是加密女性偷拍群组，而这一次是购买者上传女性照片，有人通过AI技术进行脸部与身体的拼贴，制作成Deepfake色情照片或视频。
此事件可以追溯到2021年之久，到今年被大规模曝出。受害者从小学生、中学生、大学生一直到工作人士，牵涉200多所学校，以及多起军队事件。
根据韩国人权团体统计，仅今年，就有781名Deepfake受害者求助，其中36.9%未成年。这些聊天室规模之大骇人听闻，其中一个人数高达22万人。
不仅受害者很多涉及未成年，最引人瞩目的是加害者竟然有更高比例为未成年人。根据韩国当局数据，在2024年，被指控犯罪的178人中，131人的年龄为10到19岁，青少年嫌疑人的比率高达73.5％。
《女巫》
除了未成年引发关注外，另一个典型的特征为熟人犯罪。与偷拍属于陌生人侵犯不同，Deepfake的换脸对象集中在同学、同事、军队同侪、师长、甚至家人中。这种犯罪不仅侵犯隐私与身体权力，还会大幅度摧毁人与人的信任关系，打破一个人日常生活的安全感。让身边的所有人都具有潜在侵犯的潜能。
这种犯罪对学生团体、军人团体等男性团体具有集体侵蚀的作用。首尔市青少年文化中心负责人Lee Myung-hwa就向《BBC》指出，Deepfake在青少年间早已“像是一种娱乐文化般蔓延”，“他们倾向于将其视为同侪之间的恶作剧或玩乐。”甚至加入与否成为同侪间获得互相认可和被圈子接纳的一种信号。
这当然不仅是韩国的问题，此前被BBC纪录片起底覆盖中日韩的偷拍性侵犯网络，由中国人“猫咪”管理，其团队大部分成员都在国内进行偷拍，而其网站的超过1万名付费会员中，大部分都是中国男性。
除了这些极端的偷拍与深伪外，男性群体以分享色情内容作为社交的恶习，早已经是各个游戏群、运动群的常态。这种分享到Deepfake与偷拍网络，不过是一步之遥。
技术首先构成了分发网络，形成在线群组，现在AI进一步与进入生产环节，让性侵犯变得更加肆无忌惮。
02.
你手中的暗网
在以上这些事件中，有一款软件一直处于风暴的核心——Telegram，而它的创始人兼CEO Pavel Durov也在8月24日被法国警方逮捕。
这款长期以隐私和自由为核心卖点的聊天软件，也成为各种非法活动的温床，并被戏称为“你手中的暗网”。不管是N号房事件，最近的Deepfake事件，或是台湾的“创意私房”事件，甚至上述“猫咪”经营的偷拍网络，都以Telegram作为主要的平台。这已经是一个在全球拥有10亿注册用户的巨型app，其加密特征确实让各式各样的活动在缺乏监管的情况下运营。
非英语的使用也让监管更加困难，Telegram的官方政策明确禁止这些违法活动的进行，但显然缺乏足够的人手和算法来监管非英语内容。因此韩语和中文的犯罪活动，在其上甚至可以更加安全地运营。
正是出于这些原因，Durov在法国被逮捕，当时法国正在调查与该应用程序有关的儿童色情、贩毒和欺诈交易等罪行。此次逮捕行动源于法国警方对Telegram平台缺乏监管的调查。
《东城梦魇》
Durov被逮捕后Telegram开始作出部分改变，Durov表示，Telegram已经删除“附近的人”功能，这项功能让使用者可以查看附近的其他使用者，不过他表示，“只有不到0.1%的Telegram使用者使用这项功能，却存在机器人和诈骗的问题”。
Telegram将推出”附近企业”作为代替，可以展示“合法、经过验证的商家”。Telegram还更改了其用户规则，在私人聊天与群组聊天中，用户首次可以“举报非法内容”以供平台审查。同一页面已被移除的旧版本中写道，“所有Telegram聊天和群聊都是参与者之间的私密聊天。我们不处理与它们相关的任何请求。”
但不安的迹象同时出现，在刚刚过去的8月，Telegram的月活跃用户为347万人，与前一个月相比增加了 31万人。这一增幅是自2021年3月开始统计安卓和苹果应用程序市场以来的最大规模。增长的用户大多来自十几岁的青少年，月活跃用户从7月的41万名增加到了8月的51万名，增加了10万名。占总增幅的 32.1%，占最大比重。
可以想象这10万名青少年是被什么吸引到这个平台的，韩国性犯罪1级公认专门检察官出身的朴贤珠律师指出：“与因N号房事件而广为人知的非法拍摄物相关犯罪相比，存在犯罪的重大性和严重性并不严重的错误认识”，“最近使用者剧增，也担心会发生模仿犯罪。”
作为一个聊天软件，大量用户在Telegram上进行广泛的互联网行为。它不应该作为犯罪温床而存在。
03.
解决技术，还是解决人的恶意
引入Telegram的讨论是因为现在这个平台似乎成为了监管和解决问题的中枢。这是一个很自然的策略，在网络犯罪中，犯罪者、小型技术提供商、分销网络都非常分散。其唯一集中的核心就是Telegram这样的软件，所以从Telegram开始，似乎可以最有“效率”地解决问题。
但这里遭遇两个严重的困境，首先是监管与自由的张力。平台监管的强度与用户可以享受的自由之间，确实存在明显的张力，这方面自不必多言。
另外一点是，犯罪者从Telegram转移到另一个更小众的加密信息频道，并不是一件多麻烦的事。堵住了Telegram，未必真的可以解决问题。一旦他们进入更小众的平台，只会让这些犯罪变得更加隐蔽。
这是监管和透明之辩，有时候监管太强力，反而让轻中度犯罪变得隐蔽，社会表层秩序看上去井井有条，实际暗流涌动。较少的监管，反而容易让问题变得相对透明。
如果无法从平台入手，解决方案似乎就是严惩。根据韩国法律，制作非法Deepfake色情影片可处五年以下有期徒刑、韩币5000万元罚金（约人民币26万元）。现在研拟加重刑罚，如比照“非法拍摄”的标准，将最高刑期提高至七年。另外，考虑到未成年犯罪者大增，预计也将调整“未成年人”（10～14岁不受刑事处罚）的标准。
但需要对重罚保持警惕和疑虑，如果一味重罚就可解决问题，恐怕很多社会困境就好解决了，重罚确实“解气”，但很多时候适得其反。轻罪重罚可能激化犯罪行为，或加剧犯罪行为的隐匿，惩罚过度会加剧社会不公的感觉。
在很多国家，性别冲突，性侵犯犯罪同时也与社会公平失衡有很大关系（并非为其辩护，社会公平失衡也可能导致对失衡错误的感受和理解，迁怒社会失衡到女性身上），轻罪重罚可能会加重此种不公的感受，进而产生抗拒。
《日本之耻》
说到这里，问题从AI，从Telegram再次回到了人。也许确实更应该从这个角度看待问题，在有Telegram和AI之前，这个社会的性别犯罪并不罕见。从直接的性侵犯，到公共场合的偷拍与痴汉行为，到Deepfake犯罪，事情没有变得更轻微，但变得更间接和隐匿。走到这一步，可能有些问题难以逃避。
首先是教育，我们现在的教育中有足够的性教育、两性关系教育、性别平等意识的教育吗？如果这三个问题的答案都是否定（韩国这方面优于我们但与其他国家比还有很大差距），出现青少年性别侵犯犯罪就不可能是偶然；
第二方面，当下人们对社会的塑造不仅仅来源于学校，更来源于互联网，对于互联网极右翼浪潮和Incel文化，尤其是男性群体，落后的良心观念在游戏与体育等男性社群非常泛滥，并嫁接陈腐的“兄弟文化”在人群中加剧，广大男性对于这些文化是采取拥抱的态度、事不关己，还是明确拒绝呢？
如果在学校及互联网，我们都无法对社会阐释和观念塑造投入足够精力和时间，甚至在互联网还强化这种错误的性别意识，仅仅依靠对平台的监管和严惩，这个问题就变成了一种新的刻舟求剑。
我明白很多人会认为这两者并不矛盾，我们可以既监管平台，又对犯罪者严惩，还加强学校教育，还努力在互联网塑造文化。四管其下，这个问题才可以解决。
尾声.
三个现成与一个责任
但上述方案之间，并不是平行的关系。有三个都不需要我们做任何事情，平台监管、犯罪者严惩、学校加强教育，我们都只用“提要求”，监管、司法、教育部门就应该自动完成这些工作。提出这样的要求和期待当然是一种权力，也并不是问题。
唯有最后一个，需要每一个人的努力。这或许是一个有互联网时代的困境，大量问题变得间接、隐匿、跨国、因为技术自动化，且在背后由分散而数量庞大的人共同推动，这让传统的点对点的行政和司法变得困难。这一切与高度原子化的社会结合，变成一个庞大的结构性问题。也让传统行政和司法手段难以快速应对。
最后这不得不成为一个拷问社会，也拷问我们每个人的问题，你是否期待问题在“呼吁”下由他人帮你快速解决？如果这个预期落空，你能做什么？
面对性别犯罪，这个问题尤其要问男性，毕竟男性与所有这些互联网社群和文化更接近，也许你就在这样传播色情GIF的游戏群组，在论坛面对厌女言论，目睹Incel理论传播，是守着“反正我一直挺尊重女性，这事儿和我无关”的态度，还是站出来制止这种文化的传播？
《日本之耻》
这可能是一个过高的要求，所以我们寄望于监管、司法、教育部门可以快速响应、解决问题，还是期待少数媒体或个人以英雄主义揭露问题？韩国在N号房事件后，在Kpop明星出现性丑闻被打击后，竟然还可以有如此大规模的Deepfake风潮，也在提示我们性冲动与厌女文化带来此种需求的旺盛和强烈，这不是一个治安问题，而是严重的社会问题。
以治安的思路，我们恐怕会在这个泥潭中越陷越深。我们每个人与其是什么关系？这是个严肃问题，在缺乏公民参与与公民责任的社会，这些问题可能将永远无法解决。或只剩一个最终的解决方案——因为悲观而堕入犬儒，变成自己讨厌的样子，无望、风凉话、怨气与仇恨。