中央网信办罗锋盈:抓紧大语言模型理论和基础创新

C114讯 11月22日消息(苡臻)日前,由中国电子技术标准化研究院与北京赛西科技发展有限责任公司主办的新产业标准化领航论坛在京召开。主论坛上,中央网信办网络安全协调局副局长罗锋盈在致辞中对抓住机遇,用好大语言模型提出四点建议。

一是既要善于用好大语言模型,还要掌握大语言模型的思维方法和构造机理。大语言模型属于机器学习的范畴,是一种自动构建数据分析模型的分析方法。它本质上是从海量数据中提取知识,利用这些知识帮助人类做出决策的过程。大语言模型的方法就是数据获取方法,数据挖掘方法,预训练模型的再优化,还有用户数据的反馈,要借鉴这个思维方法来发现、研究、解决实践问题。

二是既要重视大语言模型可能带来的安全道德风险,还要利用大语言模型提升安全能力,发现、分析、判断安全风险。例如,充分利用大语言模型实现态势感知和研判,也可以更多地利用机器去发现违法有害信息,较好地解放人力并保护隐私。

三是既要重视大语言通用模型,也要重视小模型专业模型,要处理好大与小,通用与专业的关系。不仅要看到目前为止,大语言模型,特别是AGI产生的商业价值不尽如人意,还要看到大语言模型在行业领域有巨大的潜力,例如,人工智能不仅只是教学辅助工具,还要以人工智能的方法来创新现有教材、教学平台、评价方法,要加快利用人工智能技术推进个性化学习,兴趣教学,差异化教学。

四是既要抓住和利用大语言模型的机遇,还要抓紧大语言模型的理论和技术创新。大语言模型正在接近极限,可能正在进入一个平台期,“那么大语言模型可能更像复杂的模式匹配,而不是真正的逻辑推理。一个技术很潮流时,我们应该冷静看待,但也要抓住利用它的机会。基础算法Transformer本身也需要去创新。”

打开APP阅读更多精彩内容