2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

选自 marekrei

机器之心编译

机器之心编辑部

这有一份关于 2021 年 ML 和 NLP 出版物的统计数据,并以可视化的方式进行展现,例如最高产的作者、机构、主题等。

2021 年是自然语言处理(NLP)和机器学习(ML)非常高产的一年,现在是时候统计一下去年 NLP 和 ML 领域的论文了。

来自剑桥大学机器学习和自然语言处理的研究员 MAREK REI 总结分析了 2021 年经典论文,并归纳了 2021 年 ML 和 NLP 出版物的统计数据,他对人工智能行业的主要会议和期刊进行了分析,它们包括 ACL、EMNLP、NAACL、EACL、CoNLL、TACL、CL、NeurIPS、AAAI、ICLR、 ICML。

论文的分析是使用一系列自动化工具完成的,可能并不完美,会存在一些纰漏和错误。出于某些原因,一些作者开始以模糊的形式发布他们的论文,以防止任何形式的内容复制或自动提取内容,分析过程排除了这些论文。

现在我们看一下 MAREK REI 统计结果。

以学术会议统计

大多数会议的投稿量不断上升并打破纪录。ACL 似乎是一个例外, AAAI 几乎趋于平稳,而 NeurIPS 仍保持稳定增长。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

以机构统计

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

从 2012-2021 年的数据来看,谷歌发表了 2170 篇论文位居第一,超过了微软发表的 2013 篇论文。CMU 发表了 1881 篇论文,排名第三。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

大多数机构还在继续增加其年度出版物数量。谷歌发表论文数量以前呈线性增长,现在这一趋势有所缓解,但仍然比以前发表的论文多;CMU 去年有一个平台期,但今年已经弥补了这一点;IBM 似乎是唯一一家发表论文略有下滑的机构。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

以作者统计

接下来,让我们看看 2021 年发表论文最多的研究人员。Sergey Levine(加州大学伯克利分校电气工程和计算机科学系助理教授)发表了 42 篇论文,排名第一;刘铁岩(微软)、周杰(清华大学)、Mohit Bansal(北卡罗来纳大学教堂山分校)、Graham Neubig(CMU)发表论文数量排名也比较靠前。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

纵观 2012-2021 年,Sergey Levine 发表的论文位居榜首,去年他排名第六,今年一跃排名第一;Yoshua Bengio(蒙特利尔)、Graham Neubig (CMU)、张岳 (西湖大学)、周明 (创新工场首席科学家)、 Ting Liu (哈尔滨工业大学) 等人发表论文数量排名也比较靠前。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

Sergey Levine 以相当大的优势创造了新的记录;Mohit Bansal 的论文数量也大幅增加,2021 年发表了 31 篇论文,与 Graham Neubig 持平;Yoshua Bengio 的论文数量在 2020 年有所减少,但现在又上升了。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

以第一作者发表论文统计

发表论文数量最多的研究人员通常是博士后和导师。相比之下,以第一作者身份发表论文较多的通常是从事实际研究的人。

Ramit Sawhney(Tower Research Capital 技术总监)在 2021 年发表了 9 篇有影响力的论文,Jason Wei(谷歌)、Tiago Pimentel (剑桥大学博士生)分别发表了 6 篇比较有影响力的论文。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

从 2012-2021 年分布来看,Ivan Vulić (剑桥大学)和 Zeyuan Allen-Zhu(微软)都以第一作者身份发表了 24 篇比较有影响力的论文,并列第一;Yi Tay (谷歌)和李纪为(香侬科技)排名第二,分别以第一作者身份发表了 23 篇和 22 篇论文比较有影响力的论文;Ilias Diakonikolas (威斯康星大学麦迪逊分校)以第一作者身份发表了 15 篇 NeurIPS 论文。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

以国家统计

2021 年各国出版物数量,美国出版物数量最多,中国和英国分别位列第 2、第 3。在美国和英国,NeurIPS 所占比例最大,而 AAAI 在中国占比最大。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

纵坐标从上到下分别为 500、1000、1500、2000、2500,依次类推

几乎所有排名靠前的国家都在继续增加其出版物数量,并在 2021 年创造了新的记录。对于美国来说,这一增长是最大的,进一步扩大了领先优势。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

在美国,谷歌、微软和 CMU 再次位居出版数量之首。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

在中国,清华大学、中国科学院和北京大学在 2021 年发表的论文最多。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

以主题相关度统计

通过可视化得出,这些组织主要是根据地理位置的接近程度聚集在一起的,公司位于中间。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

我们也可以将作者进行可视化,不过这种可视化有些难以理解。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

以关键词统计

我们还可以绘制包含特定关键词的论文比例,并跟踪这一比例随时间的变化。

「neural」一词似乎有轻微的下降趋势,虽然你仍可以在 80% 的论文中见到它。同时,「recurrent」和「convolutional」的占比也在下降,而「transformer」一词出现在了 30% 以上的论文中。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

如果单看「adversarial」一词,我们会发现它在 ICLR 中很常见,几乎一半的论文都提到了它。ICML 和 NeurIPS 中的「adversarial」比例似乎之前已经达到顶峰,而 AAAI 还没有。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

在过去的几年里,「transformer」一词变得非常流行。它在 NLP 论文中应用尤其广泛,超过 50% 的已发表论文都包含它,在所有的 ML 会议中,它的受欢迎程度也在稳步上升。

2021年ML和NLP学术统计:谷歌第一,强化学习SergeyLevine榜首

MAREK REI 之前还做过相关统计分析,大家看看都有哪些变化:

发文最多的机构与作者是谁?2018 ML 和 NLP 学术会议统计

2017 机器学习与自然语言处理学术全景图:多产的作者与机构都是谁?

主题测试文章,只做测试使用。发布者:觉鸟网,转转请注明出处:https://www.jueniao.cn/n/21890.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022年6月14日 01:41
下一篇 2022年6月14日 01:44

相关推荐

  • 9款AppleWatch续航测试对比:AppleWatch7续航提升多少?

    众所周知,苹果发布iPhone 13系列旗舰手机的同时,也推出了最新款苹果智能手表 Apple Watch Series 7,相较于前代机型,在核心性能和外观设计方面,Apple Watch Series 7 与 Apple Watch Series 6 没有任何区别,因为它们采用了同样的H1芯片和方形圆弧外观设计。 不同的是,Apple Watch Ser…

    2022年6月17日
    10900
  • 广州5G+智能无人车深入一线保障防疫物资供应

    中国电信5G网络赋能的京东智能无人快递车 广东电信供图 中新网广州4月17日电 (唐贵江 向晟华)记者16日从广东电信获悉,广州科技抗疫又增新力量,由中国电信5G网络赋能的5台京东智能无人快递车日前深入疫情管控区域一线,为白云区云城街道提供无接触物资配送和寄递服务。 据了解,此次投用的5G智能快递车在智能、高效、稳定方面有全面的升级,通过中国电信5G网络实时…

    2022年6月16日
    2800
  • 阿尔茨海默病AI挑战赛圆满落幕,华为云助力脑科学发展

    近日,在世界阿尔茨海默病日(9月21日)即将来临之际,由北京邮电大学、华为云、慧脑云、中国图象图形学学会脑图谱专业委员会、阿尔茨海默病防治协会影像学分会联合举办的PRCV 2021阿尔茨海默病分类技术挑战赛成功落下帷幕。 本次大赛旨在提高基于影像的阿尔茨海默病早期识别准确性,推动脑科学、医学影像等智慧医疗产业发展,促进机器学习、深度学习等人工智能技术在智慧医…

    2022年6月22日
    2700
  • 基本盘业务迎新机遇,创维数字:VR布局早、汽车电子再添新动能

    (报告出品方/分析师:国盛证券 宋嘉吉 郑震湘 黄瀚 钟琳) 一、创维数字:稳扎基本盘,VR&车载业务贡献新动能 1.1 深耕数字业务二十余载,打造智能生态链 可提供全面系统的解决方案,围绕平台+内容+终端+应用打造智能生态链。 创维数字股份有限公司2002年成立,2014年登陆深交所,致力于为全球用户提供全面系统 的超高清终端呈现、宽带网络连接和超…

    2022年6月15日
    4200
  • 电动汽车品牌谜之车标,教你认一认

    近两年,电动汽车进入快速增长和爆发的阶段,无论是合资车企、国产车企还是跨界大佬、新势力品牌,各种车款车型层出不穷。在配备了简约大气的靓丽外形、智能化的车联网系统和人性化的用车体验之后,很多电动汽车新品牌越来越受到广大年轻消费群体的青睐。 但这井喷的车款车型,让走在路上的我们眼花缭乱,出现了越来越多不认识、叫不出名、谜之相似的车标,下面我们就来盘点一下这些傻傻…

    2022年6月23日
    3100

发表回复

您的电子邮箱地址不会被公开。

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信