INSIGHT

「顔交換」で本物そっくり…
フェイク動画に怯えるアメリカ、スタートアップ活況に800万ドル調達も

ネットで拡散する「偽コンテンツ」の形態は多様化し、
見破ることがますます困難になっている。
2020年に大統領選挙を控える米国で、
有権者の意思決定に影響を与える可能性を懸念されているのが
「フェイク動画」の台頭だ。

このような状況を考慮し、テクノロジーを駆使して
この課題解決に取り組むスタートアップも登場し始めている。
また、シリコンバレーのアクセラレーター「Yコンビネータ」は、
注目する投資分野にフェイク動画対策を挙げた。

  • TEXT BY KAYO MIMIZUKA
  • EDIT BY TOMOAKI SHOJI
SECTION
/

「Deepfake」が生み出すリアルな偽動画

Buzzfeedが啓発目的で作成したオバマ前大統領のDeepfake動画。作成には56時間かかったという

「Deepfake(ディープフェイク)」を知っているだろか。機械学習アルゴリズムに基づき、巧妙なフェイク動画を生み出す技術だ。

動画の登場人物に、別人の顔を重ねるフェイススワップ(顔交換)で、自然な動画を合成する。主に有名人の偽ポルノ生成に使用されており、テイラー・スウィフトやスカーレット・ヨハンソンなどもターゲットになった。本物と区別するのが難しいほどの精度で、「リベンジポルノ」に悪用される懸念も出ている。

Deepfakeは、オンライン掲示板「Reddit(レディット)」で「deepfakes」と名乗るユーザーが2017年11月ごろに動画を公開したことが始まりとされている

その後、一般ユーザーでもフェイク動画を作成できるアプリ「FakeApp(フェイクアップ)」が開発されたことで一気に広まり、社会問題化した。2018年1月には、Deepfake動画の専門YouTubeチャンネルが開設され、再生数は1ヶ月で40万回を超えた。

SECTION
/

選挙への影響も? 米国防省も対策を支援

偽ポルノ拡散の舞台となったプラットフォームは削除を進めているものの、対策に苦慮している。『Motherboard』によると、Redditは偽ポルノのユーザーコミュニティを閉鎖、アダルト動画サイト「Pornhub(ポルノハブ)」も排除を表明している。

GIF投稿サイト「Gfycat(ジフィーキャット)」は、アップロードされた動画より高画質なGIFを検索できるAI技術を駆使して、フェイク動画に対抗している。一方で、このAI技術はアップロード件数が多い有名人の動画には有効だが、一般人が素材となった場合には、AIが参照できるデータ数が少ないため対処が難しいという。新たに投稿されるフェイク動画すべてを排除するのは難しく、いたちごっこの様相を呈している。

GIF投稿サイト「Gfycat

実際にアプリを使ってフェイク動画を作る実験を行った『Poynter』によると、現段階ではディープラーニングの知識がないと、リアルなフェイク動画を作成するのはそう簡単ではないという。しかし、このまま技術が進化すればフェイク動画の質はさらに高まり、情報戦争の「新たな兵器」になる恐れもある。近い将来、政治キャンペーンや選挙介入に使用されたり、国家の安全保障を脅かしたりする可能性も指摘されている。

民主主義の基盤を揺るがしかねないだけに、フェイク動画対策には米国政府も関心を寄せている。国防総省の国防高等研究計画局(DARPA)は、フェイク動画や画像を自動検出するプラットフォームの開発支援に乗り出している。

TechCrunch』によると、DARPAの研究者らが昨年行った実験では75%の確率で動画の不自然な点を特定することに成功。さらに大規模な調査が行われる予定だ。

しかし、MIT Technology Reviewでは、DARPAのプロジェクトが立ち上がった数年前に比べても、より本物に近いフェイク動画を生み出すテクノロジーは大きく進歩しており、対策を講じる側も追いつくのが難しい状況になっていることを指摘している。

SECTION
/

フェイク動画対策に取り組むスタートアップも登場

国も力を入れるフェイク動画対策だが、この分野でいち早くテクノロジー開発に取り組むスタートアップがある。写真認証サービスを提供する「Truepic(トゥルーピク)」だ。

Truepic

写真認証サービスを提供する「Truepic

2016年に設立された同社は、世界の紛争地域で活動するNGO団体と連携し、オンラインコンテンツの真偽を検証する取り組みをサポートするなど、注目が集まっている。

2018年6月には、フェイク動画を検知する技術の開発を視野に、800万ドルの資金を調達。すでにDeepfakeを見分ける繊細な技術を構築しつつあるという。具体的には、髪の毛や耳といった体のパーツや、光が人の目にどう反射するかなど、詳細を分析する高度なテクノロジーが用いられる。今後は、オフラインでの画像や動画の分析に投資していくという。

同社の写真認証テクノロジーは、Redditで投稿者がユーザーの質問に答える「Ask Me Anything(なんでも聞いて)」というコーナーで、投稿者の身分を証明し、偽アカウントによる投稿を防ぐツールとして推奨されている。フェイク動画の検知技術が確立されれば、排除に苦慮するプラットフォームとの連携やビジネス機会が広がる可能性がある。

そのほかにも、オンライン情報の検証ツールを提供する「Factmata(ファクトマタ)」や、ボット検知テクノロジーを開発する「Distil Networks(ディスティル・ネットワークス)」など、フェイクニュース対策に取り組むスタートアップも増えてきた。

7月にはFacebookが、ロンドンに拠点を置くAIスタートアップ「Bloomsbury AI」の買収を発表したが、これもフェイクニュース対策に役立てる意向だとされている

フェイク動画は、冒頭で触れたYコンビネータも「非常に関心を寄せている」とする25分野の一つ。今後スタートアップによる新たな取り組みが加速していくだろう。

関連タグ

執筆

耳塚 佳代

ライター、翻訳者。1985年生まれ。元通信社英文記者

編集

庄司 智昭

ライター・編集者。東京にこだわらない働き方を支援するシビレと、編集デザインファームのinquireに所属。2015年アイティメディアに入社し、2年間製造業関連のWebメディアで編集記者を務めた。ローカルやテクノロジー関連の取材に関心があります。

デスクチェック

1986年生まれ、東京都武蔵野市出身。日本大学芸術学部文芸学科卒。 「ライフハッカー[日本版]」副編集長、「北欧、暮らしの道具店」を経て、2016年よりフリーランスに転向。 ライター/エディターとして、執筆、編集、企画、メディア運営、モデレーター、音声配信など活動中。

こちらの記事は2018年09月04日に公開しており、記載されている情報が異なる場合がございます。