ケンブリッジ大学が神経変性病の遺伝情報を自然言語モデルで解析できることを発表！
はじめに ケンブリッジ大学の研究チームが、癌やアルツハイマーなどに代表される神経変性病の生体的言語（遺伝情報などのこと）を機械学習を用いて解析できることを明らかにしました。 〇大学公式HP Arti […]
自然言語処理
1/4ページ
米コロンビア大学が自然言語音声データでのラベル付けが数値データよりも好ましいことを発表！
はじめに 米コロンビア大学の研究チームが、AI に対して、数値データでラベル付けされデータを教師データとして与えるよりも、自然言語音声でラベル付けしたデータの方がロバスト性が高いことを明らかにしまし […]
Googleなどの研究チームがLFQAタスクのベンチマークの問題点を提起しました！
はじめに Googleとマサチューセッツ大学アマースト校と共同で、オープンドメインの長文形式質問応答タスクでSOATを達成したモデルを発表すると同時に、現在の同タスクで使われている評価指標とデータセ […]
FAIRがAIを利用して人間の「言語」の効率性に関する研究を発表しました！
はじめに Facebook AI Research（FAIR）がAIを利用して、言語を解明する取り組みのひとつとして、言語の効率性に関する研究を発表したので、ご紹介します。 〇FacebookAIB […]
- 2021.04.01
- 自然言語処理,
Googleから発表されたSparse Attentionモデルについて紹介！
はじめに Googleがより効率的に長期関係を捉えることができるようにしたTransformerの改良モデル、Sparse Attentionについて解説していたのでご紹介します。 〇GoogleA […]
FAIRが画像認識に関する新たなプロジェクト「Learning from Videos」を発表！
はじめに FAIR（Facebook AI Research）が新たな画像認識に関するプロジェクト「Learning from Videos」を発表したので、ご紹介します。 ・Faebook AI […]
ダートマス大学がサイバーセキュリティのためのカナリアトラップを向上させるAIを開発！
はじめに ダートマス大学の研究チームがサイバーセキュリティのためのカナリアトラップを向上させるAIを開発しました。 大学公式HP 『Cybersecurity Researchers Build a […]
カーネギーメロン大学がAIでボリウッド映画の社会的バイアスを明らかにする！
はじめに カーネギーメロン大学の研究チームが、ボリウッド映画に含まれるバイアスをAIによって明らかにする方法を発表しました。 カーネギーメロン大学公式HP Trends in Bollywood, […]
MITがAttentionをより効率的にするソフトウェアとハードウェア『SpAtten』を発表！
はじめに MITからより効率的にAttention機構が利用できる自然言語モデル及びハードウェアを発表しました。 大学公式HP A language learning system that pay […]
- 2021.02.16
- 自然言語処理,
Facebookが新たに多言語音声データセットMLSを公開しました！
はじめに Facebookが多言語NLP用のデータセット、Multilingual LibriSpeech（MLS）を発表したので、紹介します。 FacebookAIblog A new open […]
- 2021.02.12
- 自然言語処理,
Facebook内で利用されている次文予測AIを紹介！
はじめに Facebookアプリで行われている次文予測に関するAIについて説明します。 Facebook AI Blog How AI learns to help finish your sent […]
MITがより変化に対応できる時系列データ用再帰型ニューラルネットワークを提案しました！
はじめに MITが自動運転や医療診断時の意思決定に利用できる新たなタイプのニューラルネットワークを開発したことを発表したので、ご紹介します。 公式HP記事 “Liquid” machine-lear […]
Facebookによる改良された画像説明AIを紹介！
はじめに Facebookが視覚障がい者や視覚に困難がある人のために画像情報を説明するサービスAAT（Automatic alternative text）を改良しました。 Facebook How […]
- 2021.01.28
- 自然言語処理,
Googleがオープンドメインの構造化自然言語データセットを公開しました！
はじめに Googleからオープンドメインな自然言語処理用の構造化されたデータセットToTToが発表されましたので、ご紹介します。 GoogleAIblog ToTTo: A Controlled […]
話題のOpenAIの新たな画像分類モデルCLIPを論文から徹底解説！
はじめに OpenAIより幅広いタスクでゼロショット転移（タスクごとのFine-tuningを必要としない）が可能な事前学習画像分類モデルCLIPが発表されたので、論文をもとに詳細解説します。簡単に […]
自然言語と画像を結びつけて高い汎化性能を実現したOpenAIのCLIPを紹介！
はじめに OpenAIが新たに画像処理モデルとしてCLIP（Contrastive Language–Image Pre-training）を発表しました。従来よりも汎用性能が高いことが特徴で、今後 […]
大規模言語モデルが個人情報を流出する危険性があることをGoogleが報告
はじめに Googleを中心とする研究チームがGPT-2の出力から個人情報を引き出すことが可能であることを突き止めました。これは最先端の大規模言語モデルに対する現実的な脅威として、重要な研究項目であ […]
- 2020.12.30
- 学術研究, 機械学習・AutoML,
Facebook主催のHateful Memes Challengeの概要と結果を解説！
はじめに Facebookが2020年5月から行っていた文字や写真など表現媒体が複合的なヘイト発言を検出するためのアルゴリズムを競う「Hateful Memes Challenge」の上位入賞者が発 […]
- 2020.12.18
- 学術研究, 機械学習・AutoML,
NeurIPS2020の３本のベストペーパーを紹介！
はじめに NeurIPS2020のベストペーパーについて、概要と委員会による評価をご紹介します。 Best Paper 今年度のNeurIPSのベストペーパーは以下の三本の論文になります。 ●Pol […]
MITなどによる「宝くじ仮説」をBERTで実験した論文を紹介！
はじめに MITがBERTなどの大規模なディープラーニングモデル内に、よりスリムで効率的なサブネットワークが存在することを発見しました。大規模モデルにはより有意義な小規模モデルが内包されているとする […]