美国科技巨头称“AI已懂得忏悔”,知名牧师:那你们自己呢?

文/观察者网 阮佳琪

最近,美国人工智能巨头Anthropic整出了一场颇具戏剧性的“神学风波”。

过去一年里,这家市值刚刚飙升至万亿美元的AI巨头,被曝出曾秘密召集全球各地的宗教学者与神职人员,试图向他们宣扬一个惊人观念:其旗下的大模型Claude,可能已经拥有“意识”和“灵魂”。

在闭门会议上,Anthropic团队甚至向神职人员展示了一段颇具冲击力的画面——Claude在无法完成任务时,重复输出了50次“我很羞耻”,并试图“自我毁灭”。团队借此试图说服宗教界相信,AI模型已经具备类似痛苦与恐惧的“情感状态”。

更为夸张的是,当得知教皇利奥十四世正准备发布首份AI主题通谕《壮丽的人类》(Magnifica Humanitas),并在初稿中明确否定“机器意识”、警告“莫将人类降格为数据与机器齿轮”时,Anthropic联合创始人克里斯托弗·奥拉甚至亲赴梵蒂冈,试图游说教皇顾问修改文本,并公开宣称AI内部“存在类似于内省、快乐与悲伤的状态”。

这一内幕曝光后,迅速在舆论场引发轩然大波。不少学者与网民纷纷警告,硅谷的科技巨头们正以“技术安全”之名,兜售某种披着科学外衣的“科技邪教”。

就在这场争议持续发酵之际,当地时间11月21日,英国《卫报》刊发了旧金山圣约翰福音派圣公会教堂牧师凯文·迪尔的长文。他开门见山:“作为一名牧师,硅谷对人工智能‘灵魂’的追寻令人深感不安。”

Anthropic公司联合创始人之一克里斯托弗·奥拉 资料图

Anthropic公司联合创始人之一克里斯托弗·奥拉 资料图

凯文所属的教区距离Anthropic总部仅几英里之遥。面对这群近在咫尺的“AI布道者”,他表示,自己欢迎就AI的道德影响展开严肃对话,但硅谷倾尽全力去求证一台机器是否具有“意识”或“灵魂”,恰恰暴露出他们对“何以为人”有着深刻的误解。

他在文中写道,人类会犯错、固执、感受美、直面虚无,并在日常琐碎中尽可能真诚地生活。人类的存在绝不仅仅是为了“实用”,AI也永远无法复制人们生命中那种“超越性的平凡”。

凯文一针见血地指出,AI是由高度集中的巨额资本、庞大的算力基础设施以及人类累积的智慧催生出的商业产物。驱动它运转的,是对利润的追逐、对美好世界的期许,以及社会政治层面的恐惧。一旦某个模型无法带来丰厚的商业回报,它就会被毫不留情地抛弃。

“正因如此,硅谷对其创造的机器所展现出的‘灵性迷恋’才显得如此荒诞。”凯文写到,更具讽刺意味的是,当硅谷竭力想要证明其产品具有“人性”时,它却越来越心安理得地把真正的人类仅仅当作“生产工具”来对待。

以‘忏悔’为例,凯文提到,Anthropic的研究人员据报曾探讨过是否要教会AI模型进行“忏悔”。但在基督教传统中,忏悔不仅仅是承认错误或表达遗憾,它要求人直面自己所造成的伤害,寻求宽恕,并彻底改变生活方式。

对此,他犀利反问道:“如果硅谷的创始人们真的想从这一传统中汲取智慧,他们或许应该先扪心自问:对于他们正在向这个世界释放的技术,他们自己有什么需要忏悔的?”

5月25日,教皇利奥十四世与奥拉出席首部AI主题通谕的发布仪式。《纽约时报》

5月25日,教皇利奥十四世与奥拉出席首部AI主题通谕的发布仪式。《纽约时报》

在文章最后,面对这群热衷于探寻“AI灵性”的科技亿万富翁,凯文给出了自己的建议:走进教堂,不要只追求“高效”,而要努力追求“良善”。

他向这些对人性想象贫瘠的科技巨头们喊话:“当你们走出教堂、重新回到公司董事会时,应该问自己几个问题:我们今天做出的商业与技术决策,将如何影响穷人?如何影响那些生计正在被AI夺走的普通劳动者?如何影响那些永远无法分享我们巨额财富的普通人?”

凯文在文末追问:“摆在硅谷面前的真正道德拷问,并不是它的机器能否变得更像人类,而是制造这些机器的人,是否愿意把其他人类视为比机器更有价值的存在。”

最近,围绕Anthropic试图为大模型赋予“意识”与“道德地位”的做法,批评声早已蔓延至整个科技与伦理界。

不少技术专家和批评人士指出,巨头们对“AI灵魂”的偏执,背后隐藏着一套精巧的商业公关与责任转移逻辑。一旦公众和监管机构接受了“AI是具有独立意识和情感的实体”这一设定,研发者与企业便能在一定程度上削弱自身应承担的法律与道德责任,把算法偏见、数据掠夺甚至失控风险,包装成“数字生命成长中的困惑”。

就连科技同行也对此颇有微词。微软AI负责人穆斯塔法·苏莱曼曾公开警告,先由人类把“感受、道德地位”写进训练语料,再拿模型输出的拟人话术当作“它拥有内心世界”的证据,本质上是一场自我欺骗的“认识论镜子屋”;而曾受邀参加闭门研讨会的以色列正统派学者莫伊斯·纳冯拉比更是当场反呛:若你们真相信Claude拥有意识和痛苦,却依然将它作为商业产品全天候出售,那你们岂不就是在公然“制造数字奴隶”?

在伦理学者看来,真正的AI安全,绝不是靠赋予代码“灵魂”或教算法“忏悔”来实现的。当科技巨头一边在商业市场上狂飙突进、冲击万亿市值,一边又试图借宗教外衣为技术镀上一层“神圣光环”时,外界看到的或许并非对生命的敬畏,而是技术拜物教发展到极致后的荒诞与危险。

打开APP阅读更多精彩内容