最近，国内某Cosplay（角色扮演）博主发现自己发布在网络上的正常照片被人用AI修改成了裸照，这样的情况还不止她一个。在网络上，不少人以5元一张的价格叫卖这些AI裸照，并且表示60元就能打包买到60多名博主的“裸照”。

随着“AI”来到普通人生活里的，有越来越真假难辨的色情内容，有不断被侵犯的个人隐私，以及默默生长的黑色产业。

这样的黑色产业链，正在越来越猖獗。但是，令人畏惧的事情，还不止于此。

01

AI黑产由来已久。

最开始，是一名叫"Deepfakes"的用户在Reddit上发帖，称其完成了一个机器学习模型，借助这个模型，开发者可以任意更换视频中的人脸。

模型公布后，立刻引起了巨大的轰动。尽管这一技术可以用在许多其他方面，但是色情内容无疑是第一驱动力。

网络上随即开始出现大量使用Deepfakes合成的色情视频，其中不少视频女主角的人脸被替换为斯嘉丽·约翰逊、盖尔·加朵等大牌女星。

这样的发展迅速引起了相当大的争议，帖子很快被删除，但是这项技术产生的影响并未消失。

2019年，又有一名开发者在GitHub上公布了一项类似Deepfakes的技术——DeepNude，利用这项技术，开发者可以一键移除照片中女性身上的衣服。

很明显，这项技术恶意应用了机器学习技术，违反了GitHub平台的相关规定，很快就被GitHub下令封禁。

这项技术的开发者也表示这项技术所带来的影响始料未及，停止DeepNude的发版更新，并给付费会员退款。

不管是Deepfakes还是DeepNude，这两项技术的应用范围还比较有限，对于非技术人员的门槛较高，并没有引起太大面积的滥用。

不过随后，一系列AI换脸软件在国内风生水起，ZAO、去演、颜技和AI换脸，其中最为热闹的就是ZAO。

号称“仅需一张照片，出演天下好戏”，ZAO利用一张正面照，就能为生成十分真实且灵动的最长可达一分钟的视频。很快，大量用户涌入app，AI换脸也一时吸引了相当多的关注。

但很快，ZAO的霸王条款和隐私泄露等问题遭到人们质疑，其发行公司陌陌也随机遭到工信部约谈。这一短暂的热潮，很快熄灭。

对于AI换脸，人们既兴奋又忧虑。但是，AI能做到的不止这些。

同样在2019年，3月，有诈骗犯利用AI仿造了某能源公司母公司CEO声音，成功诱骗公司高管向其转账24.3万美元（约175万人民币）。

这家英国能源公司的首席执行官接到诈骗犯电话时，以为自己正在与德国总公司CEO进行通话，因为对面的AI合成音甚至有一些德国口音。

在受骗人转账后，黑客甚至和他进行了第三次电话会议，催促他付款，他这才感到怀疑，进而发现被骗。

虽然AI换脸、AI脱衣以及AI语音和视频这些技术早已有之，但是相关事件一直处于偶发状态。

三四年后，随着ChatGPT的火热，这些技术再次回到大家的视野，甚至变得更加逼真，更加低门槛。

相比之前的“无心之失”，现在，AI已然形成了一条黑色产业链。

上游不法分子通过AI技术生成图片，再将图片打包成合集，成套售卖。除了现成的图片，不少人还提供AI脱衣的服务，只需要两块钱，这些人就能把收到的照片导入AI软件，进而一键制造虚假的“裸照”。

除了AI脱衣，AI诈骗也在越来越普遍。

今年5月，山东警方破获一起诈骗案。受骗人在收到冒充他的亲戚的信息后，还收到了他打来的视频，尽管在7秒的视频中连线有些许卡顿，但是声音和样貌都让受骗人确认了对方的身份，进而向对方账户转账。

近一段时间以来，这种案例屡见不鲜。福州某科技公司法人代表郭先生，也因为AI伪造的微信视频，在短短十分钟内，就被骗了430万。

越来越强大的AI带来的奇妙体验和巨大危机，使得AI的发展，好像也变成了双刃剑。

02

一直以来，“AI威胁论”都不缺少拥趸。

最近刚刚进军AI领域的马斯克早在2020年就曾说过，AI对于人类将是巨大威胁。在ChatGPT获得巨大关注后，马斯克还是秉持这一观点，认为ChatGPT展示了AI的先进，但AI对人类也是更大安全隐患。

马斯克认为，AI安全需要立法保护，无论是飞机、汽车还是医疗，任何先进技术都可能威胁人类安全，而AI对于人类来说，则是一个更大的安全隐患。

事实也确实如此。

过于强大的AI正在取代人类的岗位。

今年4月，知名公关及广告服务商蓝色光标流出邮件，称管理层决定无期限全面停止创意设计、方案撰写、文案撰写、短期雇员四类相关外包支出。蓝色光标也很快回应表示邮件内容属实。

不过，根据邮件内容来看，虽然部分原因是为了给全面拥抱AIGC打下基础，但蓝色光标这一举动实际也是为了降本增效。

相比文案工作被GPT取代的担忧，其实更早陷入被AI取代忧虑的行业反而是原画师。

早在ChatGPT出现之前，AI绘画已经出现，并一出现就在画手圈掀起了轩然大波。

AI绘画实际上是靠大量学习画师发布在网络上的作品来进行深度学习，进而产出相对应画风的产品，熟悉的人，甚至能看得出AI绘画参考的是哪一个画师。因此，最开始伴随AI绘画的争议其实是版权问题。

然而随着AI绘画日益发展，日渐精美且高效，关于AI取代人工的讨论开始兴起。

老累、禾野、乌合麒麟、花椰菜等画圈比较有名的画师都曾因为关于AI绘画的讨论登上微博热搜。

有人认为，低端画法终究会被AI取代，并且他乐于看到这种改变，也有人对此表示担忧。但是不管怎么说，AI带来的改变，确实已经开始了。

走在科技前沿的深圳地铁，前段时间已经被网友发现宣传画疑似AI制作，网友甚至表示能够猜出提示词。

图源：小红书

前不久，知名游戏公司游族也传出，要“一刀切”裁掉所有应届生，不管是收到offer还是已经签约，甚至是已经在实习的应届生，都面临毁约。

尽管大面积毁约可能来自于游族的组织架构调整，但更大的可能，是在降本增效的要求下，AI的进展迅速。因为使用AI，游族4月2D美术外包成本降低约25%，到年底还可能实现更大程度的成本下降。

游族并不“孤单”，在游戏行业，已经有不少游戏公司开始停止外包分镜插画，换用midjourney等AI工具作为替代方案。

尽管目前AI并不能自主创作有自己的风格的产品，导致行业内对此接受度还比较低。但是毫无疑问，随着AI对于人类画作进行深度学习，越来越多有着“自己”风格的AI绘画产品也并不遥远。

投资银行高盛（GoldmanSachs）曾发布报告，随着AI技术的突破，预计全球将有3亿个工作岗位被生成式AI取代，其中律师和行政人员所受影响最大。受影响最小的，反而是对体力要求较高的职业或户外职业，例如建筑和维修工作。

人类曾经以为，AI可以取代人类完成枯燥单调的工作，那么人们就可以用这些时间来吟诗作对写诗绘画，然而现实是，AI取代了人类吟诗作对写诗绘画，人类还是只能做无聊单调的工作。

甚至，AI的发展就建立在人类的血汗工厂上。

为了去除AI中的有害信息，各大公司都需要聘用标记员来标记有害信息。

OpenAI就在2021年底与第三方公司SAMA签署合同，雇佣肯尼亚的廉价劳动力为性侵犯、仇恨言论和暴力的文本描述打上标记。

合同中称，OpenAI向SAMA支付12.5美元的时薪，但是底层的标记员时薪不超过2美元，最低档只有1.32美元，折合人民币也只有9元，还需要每天工作9小时，阅读并标记150-250段文字。

图源：OpenAI

然而长时间面对大量负面内容，给这些员工带来了极大的心理压力，甚至患上了严重的PTSD。相比传统的媒体平台或者视频平台的审核员，这些标记员要面临更多和更快的负面信息席卷。

低廉的人力被雇来为AI铺路，最后，被训练好的AI逐渐取代了人类。

03

结语

就在最近，爆火的生成式AI产业正式迎来首个监管文件。网信办等七部门近日发布了《生成式人工智能服务管理暂行办法》，并将从2023年8月15日起施行。

不少从业者都表示，这个监管文件来得正是时候。

在监管下，部分AI黑产可能会遭到打击，利用AI来进行非法行为的人，也将会受到应有的惩罚。

但是AI带来的更深的危机还没有解决，也不可能被彻底解决。

DeepNude被下架后，人工智能与机器学习权威专家吴恩达曾发推，很高兴看到DeepNude消失，人们应当把能力用在更有价值的地方，去推动世界的发展。

AI确实推动世界发展了，却并没有完全朝着人们希望的方向发展。

正如不少人反对当初画师老累对于画师高端和低端的划分一样，不管人的能力如何，都不该被简单地划分为阶层，然后任由低端的人才被AI取代。

更加重要的是，一个不可控的技术，最终必定会造成灾难。

而AI的发展，现在还在人类控制之中吗？