陈石:AI一定会有私心,人类很难控制但最终肯定能解决这个问题

点击收听本新闻
听新闻

凤凰网财经讯 国内创投领域风起云涌、后浪崛起,在新机遇与挑战下,一群勇于创新创业的投资者正在打开未来新世界的大门。盛夏之际,“创投十年高峰论坛”于6月21日至22日举办。梅花创投吴世春、中金资本单俊葆、金沙江创投朱啸虎、金慧丰投资周丽霞、场景实验室吴声、新潮传媒张继学等业界大咖齐聚合肥共襄盛会,凤凰网财经全程报道。

峰瑞资本合伙人陈石

峰瑞资本合伙人陈石

峰瑞资本合伙人陈石在本次论坛上表示,“AI一定会有私心。而且我们看了很多论文,在训练过程里面,会让AI产生一些不恰当的子目标。有一个实验,说假设你训练的是倒咖啡机器人,倒咖啡加一分。有一天人类把它关了,第二天再打开,它(倒咖啡机器人)发现昨天没有完成任务,就会分析是什么原因,(然后产生)不能让人类关我(的想法),所以这是不恰当的子目标。(倒咖啡机器人的私心会更加强烈)——我要追求长期在线,而且我要掌握更多的资源让我工作的更好,这种是很难避免的,特别是强化学习更容易产生,所以我觉得AI一定会有私心。”

人类能不能控制一个智力比我们强的生产工具?陈石认为,“我觉得很难,但是今天可能很多科学家都在投入这个方向,我觉得最后这部分肯定能解决的,这是我预计的未来。”

打开APP阅读更多精彩内容