偽情報や意図的に選定した情報で世論を誘導するのは「プロパガンダ」として昔からよく用いられている手法だ。昔は新聞、ラジオ、テレビなどマスメディアが情報拡散の役割を担っていた。

最近「フェイクニュース」というキャッチーな言葉でメディアに取り沙汰されることが多くなったのは、2016年米国大統領選挙でソーシャルメディアを介しフェイクニュースが急増したことがきっかけといわれている。

BBCによれば、2016年米国大統領選挙の際にソーシャルメディア上で拡散したフェイクニュースの多くは、東ヨーロッパの小国マケドニア（人口500万人ほど）から発信されていたという。現地には複数のフェイクニュース組織が存在し、アルバイトとして大学生を雇い、フェイクニュースを量産していた。アルバイト代は月に1800ユーロ（約24万円）と、現地の平均月収の5倍以上だった。フェイスブックなどのソーシャルメディアを通じて拡散したフェイクニュースは、選挙結果に大きな影響を与えたといわれている。

フェイクニュースは選挙だけでなく金融市場にも大きな影響を及ぼしていることも分かった。

2018年3月に英国ブライトンで開催されたロイヤル・エコノミック・ソサエティーで発表された最新の調査レポートによると、ボットが配信したフェイクニュースによって株式市場が影響を受けていることが明らかになったのだ。この調査によると、ツイッターボットが配信するフェイクニュースによって株式市場のボラティリティーと取引高が影響を受けることが分かった。ボットによるツイート量が1％増えると、ボラティリティーが0.38％、取引高が0.07％増えるという。

このように、これまで人手で作成されたフェイクニュース記事をボットが自動配信するというものがほとんどだったはずだ。しかし、いまでは人工知能を活用して個人の関心や思想に合わせたフェイクニュースを自動作成・配信できる技術も存在するといわれており、ますます対策が困難になっている状況といえるだろう。

これらのフェイクニュースは基本的にテキスト情報であるが、現在開発されている技術を活用すると、音声や動画を含んだフェイクニュースを簡単に作成することができるようになる。

Adobeの「Voco」プロジェクトで開発されているのは、音声版Photoshopと呼ばれる人の声を自由自在に切り貼りできる技術だ。ポッドキャストやオーディオブックの録音自動化などを視野に入れ開発されているという。2016年末に開催された開発者イベント「Adobe MAX 2016」で発表されたが、発表後BBCなど複数のメディアが技術のすごさとともに悪用された場合の怖さを伝えている。

#VoCo. Adobe MAX 2016 (Sneak Peeks) | Adobe Creative Cloud

たとえば米国トランプ大統領の声を使い、北朝鮮、中国、ロシアを挑発するような発言も簡単に作成でき、もしそれらがソーシャルメディアを通じて拡散すれば、地政学的なリスクを高めるだけでなく、金融市場にも混乱をもたらすことが考えられる。

アルファベット傘下の人工知能企業ディープマインド社も、声真似システム「WaveNet」を開発している。この音声分野の技術は、人工知能の発達とともに進化していくことになるだろう。

音声だけでなく、映像を自由自在に操る技術も開発されており、フェイクニュースへの応用が懸念されている。

スタンフォード大学で開発された「Face2Face」は、映像のなかの人物の表情を自在に操る技術だ。以下の動画では、操作者がプーチン大統領、ブッシュ元大統領、そしてトランプ大統領の表情を自在に操作している様子が映し出されている。操作者の表情を読み取り、大統領などターゲットとなる映像にその表情を被せている。この技術は、音声に合わせて口の動きや表情も再現できる機能も備わっている。

Face2Face: Real-time Face Capture and Reenactment of RGB Videos (CVPR 2016 Oral)

現時点の映像を見る限り、若干の不自然さがあるので、フェイクであることを見破ることできるが、より精巧になっていけば本人が話しているのかどうか見分けがつかなくなる可能性は十分有り得る。

ワシントン大学の研究者らも同様の技術を開発している。こちらはオバマ元大統領の映像を使い、指定されたスピーチを話すオバマ氏を人工的に再現している。スピーチに合わせて口の動きや表情を極力自然に再現するプログラムが組まれており、どのようなスピーチもあたかも本人が話しているように映し出されている。Face2Faceと同様まだ若干の不自然さが残るが、研究が進めばよりスムーズになり、本人と見分けがつかなくなるだろう。

Synthesizing Obama: Learning Lip Sync from Audio

これらの先端技術が悪用されないことを願うばかりだが、悪用されないという保証はどこにもない。個人としてできる対策は、音声や映像を使ったフェイクニュースが登場するかもしれないという心の準備を行い、テキスト・音声・映像、どのような形式のコンテンツであっても批判的に見聞きし、考えるクセをつけることかもしれない。