本文转自【法治网】;
近日,“半藏森林的克隆人”相关话题冲上热搜,引发网友对于AI克隆人的高度关注。
据悉,这是微软小冰公司启动的“GPT克隆人计划”。该计划最短只要三分钟,通过采集数据即可为明星红人、专家学者或普通人创造源于本人性格、技能、声音、外貌的AI克隆人。同时将提供平台,便于本人把认证的克隆人,有偿或无偿提供给自己的受众。
6元包月,付费解锁更多模式
据北京商报报道,用户可以在“X Eva-克隆人的平行世界”这一App中实现与名人网红等克隆人交流互动的体验。以半藏森林的克隆人为例,记者在互动时,对方可通过语音、文字形式回复。但若要体验更多互动模式,需要付费解锁。
其中,情感模式是24小时陪伴,用户需支付6元/月或72元/年,即可实现与克隆人语音消息回应、同步克隆人朋友圈等功能。支付30元/月或360元/年,可解锁超级模式,克隆人会成为用户的办公伙伴,提供撰写文案等服务,用户还能与克隆人视频通话。
从半藏森林的收费标准来看,如果有1万个情感模式付费用户,相当于半藏森林克隆人一年收入72万元,如果有1万个超级模式付费用户,一年收入360万元。小冰公司相关人士透露,其本人可决定将克隆人有偿或无偿提供给受众,分成模式是本人拿大头。
打造平行世界,开启第二人生
据了解,这一APP底层使用的技术,是小冰的XLLM语言模型、声音及神经网络渲染技术等,共计约1000余个有机组合的模型。在这些技术的加持下,克隆人既有完成工作的能力,还拥有自己的性格。
目前,后台报名克隆人的网红明星全网粉丝总数已超过5亿,但出于安全考虑,小冰公司表示,首批克隆人限制在300人。经过测试验证,预计年底前逐步放开到更大规模。小冰公司计划每周四解锁新的克隆人。
值得注意的是,除明星网红外,App中还有一些耳熟能详的虚拟形象甚至古人,用户均可与其交流沟通。用户还可以创造自己的克隆人,或发现并获取其他克隆人,可与自己拥有的克隆人形成封闭安全的网络,与克隆人进行文本语音对话、音视频通话、朋友圈交互或使用其他技能。当用户拥有一个与本人的对话性格、声音、外貌高度接近的克隆人,就达到了其所说的“在平行世界开启第二人生”。
网友吵翻,用户评价褒贬不一
对于“半藏森林AI克隆人”的上线,网友展开激烈讨论。众多网友表示,尽管AI网红克隆人可以帮助社交媒体平台更好地吸引和留住用户,但采用半藏森林这类具有一定负面消息的网红进行克隆宣传,不利于正能量的引导和传播,将会扰乱社会风气。而对于克隆人的收益模式,网友称这钱赚的过于轻松。
在“X Eva-克隆人的平行世界”APP的评论区,用户的体验评价也是各不相同,两极分化较为明显。部分评论称,在克隆人社交模式中体验到了情感宣泄和心情的放松,达到了一定程度的社交真实性。也有用户担心,AI网红克隆人的出现,可能会带来一系列的伦理和安全问题,该软件具有很大的信息泄露风险,存在窥屏、信息收集、监听的可能性,用户安全难以保障。
此前,AI克隆人技术就曾引发网络热议。一位B站的Up主“吴伍六”上传过一条视频,内容是其利用AI技术“复活”其已故的奶奶,在视频中,利用AI技术制作的“奶奶”说着方言,语气与声音都很自然,聊起家常对答如流。
在国外,一个基于网红Caryn Marjorie性格、声音等训练而成的AI聊天机器人则创造了一个成功创收的案例。Caryn Marjorie通过出售AI版本的自己,和粉丝谈恋爱,按分钟收费,内测收费每分钟一美元。目前已经有1000多个粉丝为此买单。Caryn预计,AI版本的自己,能让她的收入翻60倍,年入6000万美元。
暗藏法律风险和伦理问题
为避免克隆人被不当使用而产生隐患,小冰公司称,一直在进行数据采集、训练与合规安全性的大量检验工作,以确保小冰今天能面向广大个人,推出足够安全的“克隆人计划”,且不开放技术接口,限制克隆人仅可在特定的APP中与用户交流。
对此,《法治日报》律师专家库成员、北京德和衡律师事务所高级合伙人马丽红律师表示,尽管如此,AI克隆人的应用可能触发对个人隐私、人格尊严、名誉权的侵犯问题,用户与AI克隆人之间的交互内容,还有可能会违反法律规定和公序良俗,例如AI克隆人被别有用心之人利用从事网络欺诈或者商业营销行为。这些问题均需进行监管与限制。
马丽红律师提醒,科技的进步和创新,会让人感到好奇欣喜,其中蕴含的新鲜体验和无限商机,也会给市场带来活力。但兴奋之余,背后的种种风险不可忽视,虽然目前法律、政策、规范具有一定的滞后性,但也在密切关注科技发展带来的社会问题,并及时在制度层面上做出回应。未来,更为明晰的规范、更为主动的监管将会为科技发展保驾护航,也为社会的和谐稳定发展提供制度保障。
文|范洁