フェイクニュースに関するAIのニュースについて、纏めました。
ちょっとした「言い換え」でAIはだませる、MITが敵対的攻撃を実証
https://www.technologyreview.jp/nl/software-that-swaps-out-words-can-now-fool-the-ai-behind-alexa-and-siri/
(MIT Technology Review 2020/02/17)
・MITはNLPシステムの弱点を明らかにし克服するための訓練システムとして、文中の特定の単語を同義語で置き換えるだけでNLPをだまして文章を誤解させる「TextFooler」を開発した。
・TextFoolerをニュース内容の判別やフェイクニュースの検出、感情の分析などのタスク訓練済みのNLPに対して用いると、すべてのシステムが著しく機能を悪化させた。
・例えばGoogleが開発したBERTの場合、Yelpレビューのネガポジ判定が5~7倍も悪化したと報告している。
Fake news? A.I. algorithm reveals political bias in the stories you read
https://www.digitaltrends.com/cool-tech/ai-algorithm-reveals-bias-in-online-media/(DIGITAL TRENDS 2020/02/13)
・政治的ニュースが真実かどうか、また左右どちらかに傾ているのかを計測するプログラムを新聞社が開発した。
・BERTやXLNetなどをベースにして、テキスト入力を取り込み、バイアスを-1から1のスケールで出力する。
・現在の精度は96%を誇り、将来的にはchromeの拡張機能として利用できることを目指している。
AIを使った「FakeRank」技術でフェイクニュースと戦い広告主を護る・・・AdVerif.ai Or Levi CEO
https://media-innovation.jp/2020/01/21/adverifai-interview/(Media Inovation 2020/01/21)
・イスラエル新興AdVerif.aiはフェイクニュース対策として、FakeRank AIを発表している。
・NLPを使用してテキストの意味を理解しFakeRankグラフを作成しながら、オンラインのナレッジリポジトリを活用してそれを支持または反証できる事実を見つけることで精度を保っている。
・他にAmazon AIおよびジョージワシントン大学との共同研究でフェイクニュースと風刺を識別するシステムをつくっており、「意味的および言語的手がかりを使用したフェイクニュースと風刺におけるニュアンスの識別」という論文に結果を公開している。
<所感>
webが発達して人々は基本的に情報をwebから持ってくるようになった。しかし、そうしたweb上の情報の真偽は怪しいものになっている。web上に掲載されているものから偽物を省いて行く作業は、個人的な価値判断においても重要なだけでなく、NLPや他のAIシステムなどの発達においても重要であり、今後一層期待される分野であると思った。