2020年度のNeurIPSについて解説!

2020年度のNeurIPSについて解説!

はじめに
 今月、NeurIPSの2020年度の発表が行われ、あわせてベストペーパーも発表されました。NeurIPSについての説明と、今年度の内容について紹介します。

NeurIPSのHP
https://nips.cc/

概要

 Conference on Neural Information Processing Systems(NeurIPS:旧NIPS)は、 毎年12月に行われる機械学習分野におけるトップ国際会議の一つとして知られています。(名称に「Neural」とついていますが、Neural Networkに限定されているわけではありません。)械学習分野においては、International Conference on Machine Learning(ICML)と双璧をなす会議です。基本的に NeurIPS では、データ解析のアルゴリズム開発における新規性が重視される傾向にあるとされています。

歴史

 もともと、NeurIPSは、カリフォルニア工科大学とベル研究所が主催する、コンピューティングのためのニューラルネットワークに関する会議として1986年に最初に提案され、1987年にはじめて開催されました。以降、毎年開催されています。
 会議は当初、生物学および人工的なニューラルネットワークを探索する研究者のための補完的なオープンな学際会議として設計されました。そのため、当初は資金も少ない小規模な会議で参加者の熱意だけで会議を支えていた、と設立当初から参加しているNeurIPS Foundation(NeurIPS基金)のテレンス・セジュスキー会長はのべています。
 会議は年々大きくなり、現在はトップ会議として知られるまでになり、参加者の数も分野の広がりも大きくなっています。特にAI分野が急激に成長したことが背景にあり、登録参加者は2016年には5,000人だったのが、2019年には13,000人(さらに、6,000人が順番待ち)まで増加しました。

論文採択について

 2018年には、4854本の論文が投稿され、そのうち 1010本が採択されました。その中で特に優れた論文が Best paper award として毎年表彰されます。NeurIPS への投稿数は年々増加傾向にあります。NeurIPSは難関会議として知られていますが、主要な国際学会と比較して採択率は平均的である一方、投稿数が非常に多いことが特徴とされています。
 


上図ともに『NeurlPS概要・今年の傾向』より引用
https://jsai.ixsq.nii.ac.jp/ej/?action=repository_uri&item_id=10404&file_id=22&file_no=1

2020年の採択論文について

 今年度(2020年度)は、投稿論文9467件中採択された論文は1903件(採択率約20%)でした。(なお、そのうち著者から取り下げられたり、規定を違反していたものがあり、8168本のみが審査されています。)これは前年度の1428本から約38%ふえています。ただし、採択率(2019年度は約21%)はわずかにひくくなっています。
 今年の採択論文数では、Googleが一番多く169本の論文が採択されました。(なお、近年のNeurIPSで最も採択される論文を発表しているのは、Googleです。また、DeepMind社はGoogle傘下のため、合計すると200本(全体の1割以上)を超える論文がひとつの組織から採択されているといえます。)アジアの団体では、中国の精華大学(Tsinghua University)が全体7位(63本)で最高となっています。

 また地域別では、米国が圧倒的に多く、次に中国となっており、近年のAI分野を体現しています。なお、日本は34本で、全体12位です。

※上図はSergey Ivanov氏のツイートから引用しています
https://twitter.com/SergeyI49013776/status/1313490163927076865

今年のBest Paper

 今年度のベストペーパーは以下の3論文になっています。

●No-Regret Learning Dynamics for Extensive-Form Correlated Equilibrium (Politecnico di Milano)
→非連結型エージェントダイナミクスの結果としてExtensive-form correlated Equilibrium(EFCE)の集合に収束するはじめての非連結型No-Regret Dynamicsを提案した論文

●Improved Guarantees and a Multiple-Descent Curve for Column Subset Selection and the Nyström Method(UC Berkeley)
→Column Subset Selection Problem (CSSP) とthe Nystrom method によるデータ集合の近似に関する論文

●Language Models are Few-Shot Learners( Open AI)
→自然言語処理におけるFew-Shot学習に関する論文(GPT-3)
こちらにつきまして、詳しくは『話題沸騰のGPT-3 OpenAI発の革新的なAIを紹介!』https://deepsquare.jp/2020/08/gpt-3/をご参照ください。

参考サイト
https://neuripsconf.medium.com/announcing-the-neurips-2020-award-recipients-73e4d3101537
https://en.wikipedia.org/wiki/Conference_on_Neural_Information_Processing_Systems
https://lionbridge.ai/ja/articles/neurips/
http://ibisforest.org/index.php?Meeting