フェイクニュース×AIニュース(2020年2月版)

フェイクニュース×AIニュース(2020年2月版)

フェイクニュースに関するAIのニュースについて、纏めました。

ちょっとした「言い換え」でAIはだませる、MITが敵対的攻撃を実証

https://www.technologyreview.jp/nl/software-that-swaps-out-words-can-now-fool-the-ai-behind-alexa-and-siri/
(MIT Technology Review 2020/02/17)
・MITはNLPシステムの弱点を明らかにし強化するために、文中の特定の単語を同義語で置き換えるだけでNLPをだまして文章を誤解させる「TextFooler」を開発した。
・TextFoolerをニュース内容の判別やフェイクニュースの検出、感情の分析などのタスク訓練済みのNLPに対して用いると、すべてのシステムが著しく機能を悪化させた。
・例えばGoogleのBERTの場合、Yelpのレビューのネガポジ判定が5~7倍も悪化したとしている。

Fake news? A.I. algorithm reveals political bias in the stories you read

https://www.digitaltrends.com/cool-tech/ai-algorithm-reveals-bias-in-online-media/(DIGITAL TRENDS 2020/02/13)
・政治的ニュースが真実かどうか、また左右どちらかに傾ているのかをはかるプログラムを新聞社が開発した。
・BERTやXLNetなどをベースにして、テキスト入力を取り込み、バイアスを-1から1のスケールで出力する。
・現在の精度は96%を誇り、将来的にはchromeの拡張機能として利用できることを目指している。

AIを使った「FakeRank」技術でフェイクニュースと戦い広告主を護る・・・AdVerif.ai Or Levi CEO

https://media-innovation.jp/2020/01/21/adverifai-interview/(Media Inovation 2020/01/21)
・イスラエル新興AdVerif.aiはフェイクニュース対策として、FakeRank AIを発表している。
・NLPを使用して、テキストの意味を理解し、FakeRankグラフを作成しながら、オンラインのナレッジリポジトリを活用して、それを支持または反証できる事実を見つけることで精度を保っている。
・他にAmazon AIおよびジョージワシントン大学との共同研究でフェイクニュースと風刺を識別するシステムをつくり、「意味的および言語的手がかりを使用したフェイクニュースと風刺におけるニュアンスの識別」という論文に結果を公開している。


<所感>
webが発達して人々は基本的に情報をwebから持ってくるようになった。しかし、そうしたweb上の情報の真偽は怪しいものになっている。web上に掲載されているものから偽物を省いて行く作業は、個人的な価値判断においても重要なだけでなく、NLPや他のAIシステムなどの発達においても重要であり、今後一層期待される分野であると思った。