フェイクニュースの機械化がもたらすもの

　会員型交流サイト（SNS）を中心に発信され、不正確な事実や嘘に基づいた虚偽情報「フェイクニュース」の危険性が指摘される中、そうしたニュースを人工知能（AI）に作成させる研究が進んでいる。今年2月、AIを研究する非営利団体の米OpenAIは、自然な文章（英語）を作成する言語モデル「GPT-2」を発表した。これは人間が冒頭の文を入力すると、それに続く文章をAIが自動で生成するプログラム。文法の間違いや言い回しの違和感もない。ただ、一見自然に見える文章だが、前後関係や文脈は無視されているため、よく読むと矛盾に気づく。

書きぶりも再現

　米国のアレンAI研究所が開発する「Glover（グローバー）」は、フェイクニュース製造プログラムだ。架空の記事タイトルや導入文などを入力した後、「Generate（作成）」ボタンを押せば、あっという間に「偽記事」が現れる。試しに「日本初の音速列車がお披露目される」という英語タイトルと一文を入れたところ、数秒で記事が出来上がった。（画像１） 

　Gloverにはもうひとつの特長として、文章が機械によって作成されたかどうかを判定する「フェイクニュース検出機能」もある。先ほどの偽記事で実験したところ、機械が作ったものとの判定が出た。興味のある方はこちらで試すことができる。

　ジャーナリストのトリスタン・グリーン氏はIT系ネットニュースサイトの記事‘This terrifying AI generates fake articles from any news site’でグローバーの使いやすさを評価する一方、自身の書きぶりに似た文章が出来上がってしまうほどの性能に当惑を隠さない。グローバーの開発側はフェイクニュースの見極めを意図したものであることを強調するほか、検出正解率は92％に上ることにも言及している。

傾向を色分け

　ジャーナリストのラビー・ラクシュマン氏は記事‘This AI tool is smart enough to spot AI-generated articles and tweets’で、マサチューセッツ工科大学と米IBMのAI研究所と米ハーバード大による「GLTR（グリッター）」を紹介する。グリッターは単語の配列を統計的に利用したもので、文章の構成要素を色で示すのが特徴。文を入力すると、直前の単語に対して統計的に最も使用されやすい単語を緑色で表し、頻度順に黄、赤となり、最も使われにくい単語を紫色で表示する仕組みだ。ラクシュマン氏によると、機械が作る文には想定可能な単語の羅列やフレーズが人間の文章よりも現れやすい傾向があり、グリッターを使うと、機械が作った文章はほとんど緑や黄色で表示される一方、人間が考えた文章には適度に赤や紫も混ざるという。試したい方はこちらから。

過大評価 ？

　機械が文章を作ることは危険か──。2月に発表されたGPT-2をめぐっては、開発者がプログラムの一部のみの公開する方針を取ったため、多くの批判が寄せられた。前出のグリーン氏はIT系ネットニュースサイトに記事‘Who’s afraid of OpenAI’s big, bad text generator?’でその性能を称賛する一方、報道解禁日を事前に決めるなどの情報統制を行ったOpenAIを批判。彼らが期待していた「最新技術のメリットと倫理」や「フェイクニュースの見つけ方」といったテーマでの議論はできず、「AI業界は大げさなメディア報道に巻き込まれた」と指摘する。GPT-2そのものは危険ではないにもかかわらず、概要やプログラムコードの公表を制限したことで、読者にはAIは危険なものという印象を与えてしまったと指弾している。

機械化の意味

　AIがフェイクニュースを見極めることができるようになるには時間を要するだろう。実際、グローバーで作成したさきほどの音速列車の偽記事をグリッターに分析させたところ、文章には黄色や緑色以外の単語も混ざった（画像２）。赤や紫が多いかどうかの評価は人によって分かれるだろう。

　機械によるニュース生成化の意義は、その技術力を知らしめたことだ。人間以外もニュースが作れるという認識が広まることで、受け手の態度に変化が期待できる。写真加工ソフトの誕生によって、人々はネット上にあふれる写真の信頼性に疑問を持つ態度を備えた。ニュースについても同じことが言える。

　将来的にAIが完璧にフェイクニュースかを判定できるようになったとしても、ニュースの真偽を全て機械に任せてしまう態度は危険だ。判断するのをやめたり、放棄したりすることは人間の存在意義に関わるように感じる。ニュースはねつ造できる──。情報は加工され得ることを念頭に、常に疑いの目を向け、真偽を自ら確かめる態度がさらに求められるだろう。