急増するポルノ版ディープフェイク、このままでは“偽動画”が溢れる時代がやってくる WIRED より201107
世界最大規模のポルノサイトに、女性のセレブやミュージシャン、女優などの画像を使った露骨なディープフェイク動画が大量にアップロードされ続けている──。そんな実態が新たな解析によって、このほど明らかになった。
有名人の画像を同意を得ないまま無断で流用し、ディープラーニング技術を用いてポルノと合成したフェイク（偽物）の動画は、ポルノサイトで何千万回も視聴されている。それにもかかわらず、サイト側はいまだに削除しようとしていない。
ディープフェイクを検知しているSensityのデータによると、毎月1,000本ものディープフェイク動画がポルノサイトにアップロードされている。そうした動画は2020年に入ってからも人気が高まる一方だ。そして、ディープフェイクポルノ専門のコミュニティから抜け出し、一般的な存在になりつつある。
3大ポルノサイト「XVIDEOS」「XNXX」「XHamster」に投稿されたディープフェイク動画は、膨大な視聴回数に達している。多くの広告が表示されるので、サイトの売上に貢献する存在だ。XVIDEOSとXNXXは、ともにチェコの同じ持ち株会社の傘下にあり、ポルノサイトとしてはそれぞれ世界1位と3位である。ウェブサイト全体でも世界の上位10位内にランクインしている。それぞれの訪問者数は、WikipediaやAmazon、Reddit並みか、それ以上だ。
上記の大手3サイトすべてで視聴できる長さ30秒のある動画では、女優エマ・ワトソンの顔が使われている。視聴回数は合わせて2,300万回以上で、XNXXだけでも1,300万回にもなる。視聴回数が数十万回、何百万回に達しているほかのディープフェイク動画で画像が使われているのは、女優のナタリー・ポートマン、ミュージシャンのビリー・アイリッシュやテイラー・スウィフト、インド人女優アヌシュカ・シェッティなどである。ディープフェイク動画が誕生した18年以降、多くのセレブが絶えずディープフェイク動画のターゲットにされている。
Sensityの最高経営責任者（CEO）でチーフサイエンティストのジョルジオ・パトリーニは、「ポルノサイトのそうした姿勢は、ディープフェイク動画を問題だと捉えていないことの表れです」と指摘する。
◉一般人まで標的になる時代がやってくる
ディープフェイクのポルノ動画は、標的にされた女性たちを傷つけ、侮辱するものだと広く認識されている。さらにSensityのパトリーニによると、InstagramやTwitch、YouTubeなど一般的なSNSのインフルエンサーを使ったディープフェイク動画が増加しているという。そしてディープフェイク技術の進歩によって、一般人が否応なくターゲットにされる事態をSensityは懸念している。
「ディープフェイク動画を削除したり、フィルタリングしたりしたほうがいいという強い動機がポルノサイトにない限り、何も起きないとわたしは確信しています」と、パトリーニは言う。「人々はそういった類いのコンテンツを自由にアップロードし続けており、何千万人もの視聴者をもつそれらのサイトは何の影響も受けていないのです」
ディープフェイク動画の多くは、ごく普通のところに潜んでいる。視聴してもらうためにアップロードされているのだから当然だろう。なかにはタイトルに「フェイク」「ディープフェイク」という言葉を入れたり、ディープフェイクとタグ付けしたりしている動画もある。例えば、XVIDEOSとXNXXのタグページには、何百本ものディープフェイク動画が並んでいる。
とはいえ、ポルノサイトを巡る問題の全体像はわかっていない。同意なくつくられたディープフェイク動画がいったいどのくらい存在するのか、その数が明らかになることは決してないだろう。なお、XVIDEOSとXNXXの代表者に何度も連絡し、ディープフェイク動画に関する考えや対策についてコメントを求めたが、回答は得られていない。
ポルノサイト「XHamster」のヴァイスプレジデントのアレックス・ホーキンスによると、同社にはディープフェイクに特定した方針はないが、「同意を得ていないほかのコンテンツと同じように扱っている」という。また、同社のコンテンツモデレーションには複数の異なるステージがあり、誰かの画像が許可なく使われている場合には、動画が削除されるようになっているという。
「ディープフェイクを巡って懸念が抱かれても無理もありません。そこでわたしたちは、コンテンツを簡単に削除できるようにしました」とホーキンスは言う。「しかるべき許可を得ずにアップロードされたコンテンツはXHamsterの利用規約に違反するので、特定され次第すぐに削除されます」。ホーキンスはさらに、『WIRED』UK版が指摘したXHamster上の多くのディープフェイク動画について、モデレーションチームに調査を命じたという。
なお、『WIRED』UK版が確認したディープフェイク動画のアップロード数には、「Pornhub」のものは含まれていない。Pornhubは業界第2位のポルノサイトで、18年にディープフェイク動画を禁止したにもかかわらず、いまだに同じ問題を抱えている。
政治系キャスターでディープフェイクに関する著書をもつニーナ・シックは、次のように語る。「何らかの対応を検討する必要があります。インターネット上で女性たちがあのようなかたちで侮辱され、蔑まれ、品位を傷つけられているのですから。そして、これは実際にはプライヴァシーとセキュリティを巡る問題に等しいのです」
◉技術が高度化し、より低コストに
18年はじめにReddit上にディープフェイク画像が初めて登場して以来、その作成に必要な技術基盤である人工知能（AI）テクノロジーは進歩してきた。その結果、ディープフェイク動画はますます低コストで簡単につくれるようになっている。最近の事例では、セキュリティ研究者がオープンソースのソフトウェアを使ってトム・ハンクスのフェイク動画とフェイク音声を作成したが、それにかかった費用はわずか100ドル（約10,600円）に満たなかった
こうしたテクノロジーの進歩により、政治家を騙ったディープフェイクが作成され、政治的対話を操るために悪用されるのではないかという不安も増している。その兆候と見られるケースもすでに起きてはいるが、さほど現実的な脅威というわけではない。しかし、この技術が最初に生まれたディープフェイクのポルノ界は勢いづいている。
女優クリスティン・ベルは20年6月に「Vox」のインタヴューに対し、自分の画像を使ったディープフェイク動画があると初めて知ったときには「ショックを受けました」と語っている。「たとえ『これは本物じゃない』という断り書きがあったとしても、とてもそうは思えません。わたしは搾取されているんです」
オンライン上のディープフェイク動画の数は飛躍的に増えている。Sensityが19年に公表した報告書によると、19年7月にオンライン上で検出されたディープフェイク動画は14,678本だった。そのうち96パーセントがポルノ動画で、ほぼすべてが女性中心だった。そして20年6月までに、ディープフェイク動画は49,081本まで増加している。
◉大きな転換点がやってくる
ディープフェイクのポルノ動画は大半が、つくられるのも見つかるのも特定のコミュニティでのことだ。そうした動画を視聴できる上位4サイトでは、合計視聴回数が1億3,400万回を超えたことが、Sensityが19年に実施した分析で明らかになっている。
あるサイトには、セレブの画像が使われたディープフェイクのポルノ動画がずらりと並ぶ。インド人女優の動画もあり、視聴回数は数百万回に達している。なかにはリクエストを受けてつくられた動画であることを明かし、支払いはビットコインで受け付けていると売り込むクリエイターもいる。
Sensityのパトリーニは、「ディープフェイク動画のテクノロジーには、急速に進化しているものもあります。困ったことに、クリエイター側に溢れんばかりのエネルギーと意欲があるのです」と言う。「この技術はまもなく、さらに大きな目的をもって個人を標的として使われるようになると考えています」
このテクノロジーが誰でも使えるくらい簡単になれば、「ティッピングポイント（大きな転換点）」が訪れる。そして議員たちがこの問題に気づくだろうと、パトリーニは考えている。
英国のダラム大学ロースクールの教授でポルノグラフィー規制と性的虐待画像を研究するクレア・マクグリンも同意見だ。「つまり、この問題が有名人以外の人にも差し迫っているということです」と、マクグリンは言う。「セレブや有名人にとって、これは深刻な問題です。しかし、有名人ではない個人のサヴァイヴァーの話を聞いてきたわたしは以前から、このリスクがこの先どうなっていくのか不安に思っています」
◉追いつかない法整備
現時点では、ディープフェイク動画に画像を使われてしまった人たちが選べる法的選択肢は、テクノロジーの進歩に追いついていない。それどころか、AIが生成したポルノの悪影響に備えて、何らかの法整備があったことは一度もないのだ。
ロンドン大学ロイヤル・ホロウェイ校の法学講師アイスリン・オコネルは、「あなたの顔を無断利用したポルノ画像や動画がオンラインに投稿された場合、それを削除してもらうための法的選択肢は多岐にわたっています」と話す。
同意を与えていない動画がアップロードされた場合は、名誉棄損、人権法違反、著作権侵害などで起訴できる。ただし、そのための手続きは多くがわずらわしいもので、金銭的負担も大きい。それに、法律がディープフェイク動画に適用されない場合がほとんどだ。「これからは、よりよい解決法がもっと必要です」と、オコネルは言う。
米国の一部の州では、ディープフェイク関連法が可決されている。しかし、主な焦点はポルノ動画ではなく政治的な動画であり、ディープフェイク動画が人々の暮らしにすでに及ぼしている影響は重要視されていない。
英国の法律委員会では、親密な間柄で撮影された動画をオンライン上でシェアすることについて、ディープフェイク動画も含め再検討が進められている。しかし、何らかの改正が加えられるまでには何年もかかる見込みだ。イングランド政府は肖像権を可決すべきだとオコネルは提案している。そうすれば、人々は自らを適切に守ることができる。
◉ディープフェイクの時代に立ち向かうために
とはいえ、議会がこの問題への対処を怠っている間に、技術はさらに安く簡単になり、誰もが使えるようになっていくだろう。政治系キャスターのシックは、次のように語る。「ポルノグラフィーの世界におけるディープフェイクの進化は、実のところ市民的な自由に関するよりも大きな問題の前触れだとわたしはみています。そうした問題はこれから浮かび上がってくるでしょう」
「ディープフェイクのテクノロジーはすでに世の中に出回っていて、社会が追いつけないほどの速さで進化しています」と、シックは言う。「わたしたちは、動画ですら誰でも不正に加工できてしまうような合成メディアの時代を受け入れる用意ができていません」
そうした時代に立ち向かうには、技術者、一般の人々、特定分野の専門家、政策当局者、議員など、異なる立場にあるさまざまな人々が関与する必要があると、シックは指摘する。だが実際のところ、現時点ではそうなっていないのだ。
💋70年代マイコン黎明期に講義でデジタル化によるコピー芸術、コピー文化、そこからの未来予想が現実化。フェイク映像.音声等のデータの氾濫の現実味。
総ての書籍がデジタル化され中央一括管理されたら…ブラットベリー「華氏451」を上回るとか…微妙に改ざんされる作品。捏造される作品。
事実を改ざん、捏造、 権力者.統治管理者に都合よく… 独裁にもってこい。
SF映画「バトルランナー」(1987)で 主人公の警察官がほぼ同様の方法で罠に落ちる
これが政治家や有力者や著名人や有名人で起こったら！テロ、紛争、戦争にさえなる…法整備が急務！本邦は…政治に三権分立は絶対最低限必須。
