深度学习的概念最早由多伦多大学的 G.E.Hinton 等于 2006 年提出,指基于样本数据通过一定的训练方法得到包含多个层级的深度网络结构的机器学习过程。传统的神经网络随机初始化网络中的权值,导致网络很容易收敛到局部最小值,为解决这一问题,Hinton 提出使用无监督预训练方法优化网络权值的初值,再进行权值微调的方法,拉开了深度学习的序幕。
深度学习是机器学习的一种,概念源于人工神经网络的研究,含多个隐藏层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。研究深度学习的动机在于建立模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本等。
深度学习之所以被称为“深度”,是相对支撑向量机 (support vector machine,SVM)、提升方法 (boosting)、最大熵方法等“浅层学习”方法而言的,深度学习所学得的模型中,非线性操作的层级数更多。浅层学习依靠人工经验抽取样本特征,网络模型学习后获得的是没有层次结构的单层特征;而深度学习通过对原始信号进行逐层特征变换,将样本在原空间的特征表示变换到新的特征空间,自动地学习得到层次化的特征表示,从而更有利于分类或特征的可视化。深度学习理论的另外一个理论动机是:如果一个函数可用 k 层结构以简洁的形式表达,那么用 k-1 层的结构表达则可能需要指数级数量的参数 (相对于输入信号),且泛化能力不足。
深度学习在搜索技术,数据挖掘,机器学习,机器翻译,自然语言处理,多媒体学习,语音,推荐和个性化技术,以及其他相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动,解决了很多复杂的模式识别难题,使得人工智能相关技术取得了很大进步。
参考文献:
[1] 周飞燕, 金林鹏, 董军. 卷积神经网络研究综述 [J]. 计算机学报,2017,40(06):1229-1251.
[2] 尹宝才, 王文通, 王立春. 深度学习研究综述 [J]. 北京工业大学学报,2015,41(01):48-59.
深度学习的不断发展,使得人工智能的相关技术取得了很大进步,人工智能技术越来越受到公众的关注和重视。10 月 15 日将在北京将举行“计算未来,创造融合:IEEE 计算机杂志中国发布会”,通过政界、学界、期刊界、业界等进行全方位交流,开言纳谏凝聚共识,探讨科技的发展。
今天,公布 12 位已确认重磅演讲嘉宾的核心信息,并向所有人发出这封邀请函,欢迎大家与我们一起交流。
Cecilia Metra
2019 IEEE 计算机协会主席
IEEE Fellow
Cecilia Metra 是意大利博洛尼亚大学的全职教授,因“对数字电路和系统的在线测试和可靠性设计贡献”当选 IEEE 会士(IEEE Fellow)。毕业于意大利博洛尼亚大学,获得了电子工程和计算机科学的博士学位。她担任了 Computing Now 主编和 IEEE Transactions on Computers 的副主编,是 IEEE 协会顾问委员会以及几个期刊的编辑委员会成员(包括《IEEE 设计与测试》、《电子测试期刊和嵌入式系统设计自动化》)、测试技术委员会(TTTC)的第一任副主席、TTTC 教育计划的主席及 TTTC 通信组的主席;在集成电路和系统的测试和可靠性设计方面发表了超过 185 篇的论文。获得了来自英特尔、意法半导体等公司的多项奖金,与飞利浦研究所一起申请了联合专利。
Melissa A Russell
IEEE 计算机协会秘书长
Melissa 于 2018 年 6 月正式加入 IEEE 计算机协会,带领执行团队和志愿者团体理事会成员,持续推进学会的会员、国际会议、出版、标准以及培训项目。在过去的 17 年里,Melissa 一直在美国光学学会工作,期间轮值了多个不同的岗位。最近的职位是美国光学学会的首席行业会议官,她负责举办了将近 70 个年度论坛,2 个大型的贸易展,支持了近 300 家企业会员和 1000 家合作客户的行业会议。Melissa 具有俄亥俄州立大学广告专业的新闻学学士学位。
吕金虎
北京航空航天大学自动化科学与电气工程学院
院长、教授
IEEE Fellow
吕金虎教授主要从事协同控制、复杂网络、大数据等研究。多次入选全球高被引科学家(2014,2015,2016,2017,2018)。曾获 IEEE Fellow、中国自动化学会会士、国家自然科学基金创新研究群体学术带头人、国家万人计划领军人才、国家杰出青年科学基金、国家重点研发计划首席科学家、中国科学院“百人计划”、“百千万人才工程”国家级人选、国家有突出贡献中青年专家等。现任全国科技创新领军人才联盟理事长,中国指挥与控制学会副理事长。现任或曾任 15 个 SCI 期刊的各类编委。曾获何梁何利基金科学与技术进步奖、3 项国家自然科学二等奖、中国工程院光华工程科技奖"青年奖"、中国青年科技奖等荣誉。
孙富春
清华大学计算机科学与技术系教授
IEEE Fellow
孙富春教授是国家杰出青年基金获得者;兼任清华大学校学术委员会委员,计算机科学与技术系学术委员会主任,智能技术与系统国家重点实验室常务副主任。兼任担任国家重点研发计划机器人总体专家组成员,中国人工智能学会认知系统与信息处理专业委员会主任,国际刊物《Cognitive Computation and Systems》主编,国际刊物《IEEE Trans. on Cognitive and Developement Systems》,《IEEE Trans. on Systems, Man and Cybernetics: Systems》和《International Journal of Control, Automation, and Systems (IJCAS)》副主编或领域主编,国内刊物《中国科学:F辑》和《自动化学报》编委。
何晓冬
京东 AI 研究院常务副院长
IEEE Fellow
何晓冬博士是 IEEE Fellow。京东集团技术副总裁,京东人工智能研究院常务副院长,深度学习及语音和语言实验室的负责人。担任香港中文大学(深圳),华盛顿大学(西雅图),和同济大学(上海)兼职教授,以及中央美术学院(北京)的荣誉教授。在加入京东集团之前,曾担任微软雷德蒙德研究院深度学习技术中心的首席研究员和负责人。研究主要集中在人工智能领域,包括深度学习,自然语言处理,语音识别,计算机视觉,信息检索和多模态智能。在 ACL,EMNLP,NAACL,CVPR,SIGIR,WWW,CIKM,NIPS,ICLR,ICASSP,Proc. of the IEEE,IEEE TASLP,IEEE SPM 等会议和期刊发表了 100 多篇论文, 谷歌学术统计引用数过万次。
谢涛
北京大学讲席教授
IEEE Fellow
谢涛,北京大学计算机科学技术系讲席教授。曾担任美国伊利诺伊大学香槟分校(UIUC)计算机科学系副教授(2013-2017)和正教授 (2017 起), 是海外杰出青年科学基金获得者以及其延续资助获得者。谢涛教授长期从事软件工程的研究,在软件测试、软件解析学、软件安全、智能软件工程、教育软件工程等方面做出了很多开创性的工作并取得了突出的研究成果,曾获得美国 NSF Faculty Career Award,当选美国计算机协会杰出科学家(ACM Distinguished Scientist)(2015 年)和电气电子工程师学会会士(IEEE Fellow)(2018 年)。谢涛教授是软件工程旗帜会议 ICSE 2021、ISSTA 2015 的大会程序委员会(共同)主席、ACM 多元化(diversity)旗舰会议 Tapia 2017/2018 的程序委员会主席和大会主席。
米磊
中科创星创始合伙人兼联席CEO
中科院西安光机所光学博士,陕西光电子集成电路先导技术研究院执行院长,青年科学家社会责任联盟副理事长。 中国“硬科技”理念提出者,硬科技创新联盟发起人,提出科技创业是中国未来三十年发展主旋律的观点。米磊博士长期从事科技成果转化工作,发起中国第一个硬科技天使基金和孵化平台,投资孵化 230 余家硬科技企业,已投资 15 亿元,带动就业 6000 多人,推动地区经济发展,打造硬科技创业雨林生态。获中国科协“求是”杰出青年成果转化奖,中国青年创业奖。
陈为
浙江大学计算机学院副院长、教授
陈为,1976 年生,教授,博导,国家“万人计划”科技创新领军人才。十三五国家重点研发专项“云计算与大数据”专家组成员,浙江大学计算机学院副院长。承担国家自然科学基金重点项目等十余项。研究兴趣是大数据分析和人机混合智能。发表国际顶尖学术期刊和会议论文 70 余篇。出版教材 3 部,专著两部。现任或曾任五个国际期刊副主编或编委,3 个中文期刊编委,五次国际学术会议主席。
李楠
清华大学副教授
李楠,清华大学建设管理系副教授。担任清华大学土水学院可持续城镇化研究所所长。担任国际建造自动化与机器人学会(International Association for Automation and Robotics in Construction, IAARC)理事、Journal of Computing in Civil Engineering 国际期刊副主编、Journal of Management in Engineering 国际期刊编委。2018 年入选《MIT Technology Review》Innovators Under 35 中国榜单。研究领域为:工程管理信息化,建成环境韧性与防灾减灾。
杨玉超
北京大学研究员
杨玉超,2015 年加入北京大学信息科学技术学院,担任研究员、博士生导师、国家重点研发计划青年项目首席科学家。2018 年入选《MIT Technology Review》Innovators Under 35 中国榜单。迄今共发表 Nature Electronics、Nature Communications、Advanced Materials、Nano Letters、IEEE EDL 等期刊和会议论文 70 余篇,SCI 引用 3800 余次,1 篇文章入选 TOP 0.1% ESI 热点论文,5 篇文章入选 TOP 1% ESI 高被引论文,多篇论文入选封面、年度论文等,另受邀撰写中英文专著 5 章。因为在类脑计算领域的学术贡献,获得求是杰出青年学者奖、Wiley 青年研究者奖、科学中国人(2018)年度人物特别奖—杰出青年科学家奖等奖项。
刘知远
清华大学副教授
刘知远,清华大学计算机系副教授、博士生导师。主要研究方向为表示学习、知识图谱和社会计算。2011 年获得清华大学博士学位,已在 ACL、IJCAI、AAAI 等人工智能领域的著名国际期刊和会议发表相关论文 80 余篇,Google Scholar 统计引用超过 5,500 次。承担多项国家自然科学基金。曾获清华大学优秀博士学位论文、中国人工智能学会优秀博士学位论文、清华大学优秀博士后、中文信息学会青年创新奖,2018 年入选《MIT Technology Review》Innovators Under 35 中国榜单、中国科协青年人才托举工程、中国计算机学会青年学者提升计划。担任中文信息学会青年工作委员会执委、副主任,中文信息学会社会媒体处理专委会委员、秘书长,SCI 期刊 Frontiers of Computer Science 青年编委,ACL、EMNLP、COLING、IJCNLP 领域主席。
何芳连
北京百奥普科创始人、董事长
何芳连是 Bio-protocol(北京百奥普科)的创始人、董事长。于 2009 年获得宾夕法尼亚大学分子生物学博士学位。2009-2012 年在斯坦福大学从事博士后研究。2011 年在斯坦福大学创办 Bio-protocol。Bio-protocol 是一个发布、分享高质量生命科学研究实验方案的开放平台,致力于创建一个生命科学领域的 Github, 以助于提高科研的可重复性、透明性和高效性。至今,Bio-protocol 已发表了来自全球上万名优秀生命科研工作者的 3000 多篇实验方案。Bio-protocol 实验方案的高质量目前已经得到多家国际权威科学杂志的认可并达成长期合作关系。
点击阅读原文查看大会详情↓