AIや機械学習は既存のデータに対する予測や識別に活用されるというイメージが強い中、近年ではディープラーニングを用いて、画像、動画、音声、文章を新しく生み出す技術（「深層生成モデル」）が実現されています。

20年ほど前に、PhotoShopなどの画像編集ソフトによって偽物画像が作成されていました。ディープラーニングの技術が発展し、今では以前と比べ物にならないくらい本物に近い「フェイクコンテンツ」が作れるようになってきました。

その中で最も有名なものは「ディープフェイク」です。

ディープフェイクによって、画像や動画の登場人物の顔を別人の顔と差し替える、二人の顔の特徴をミックスする、実在しない人物の画像を生成するなど、その種類も難易度も急成長しています。

ディープフェイクで何ができるのか

例えば、以下のようなクオリティの高い作品が生成されました。

●2018年、映画監督のジョーダン・ピールと彼の映像制作会社が精巧に作成した、バラク・オバマ元米国大統領によるトランプ元大統領への暴言を晒したフェイク動画

●2019年、Facebook社（現：Meta社）CEOのマーク・ザッカーバーグ氏のスピーチを偽造したディープフェイク動画：

https://www.instagram.com/p/ByaVigGFP2U/?utm_source=ig_embed&ig_rid=99152abc-369e-447e-b0c2-0d6d36032fcf

画像だけではなく「ディープフェイクボイス」や高度言語モデルによる偽造文章などマルチモーダルなフェイク技術が展開されています。

初めてディープフェイクを制作した人（ハンドルネームが「deepfakes」）は有名人の顔をポルノ動画に載せて、それをSNSに投稿し、大きな反響を呼び起こしました。彼が使ったAIのプログラムはオープンソースとして公開されてしまいます。そうすると、その無償ソフトウェアと悪戯の材料となる写真さえあれば、素人でもフェイクデータを生成できる時代となりました。ただ、本物と区別がつかないほどの高いクオリティは専門家でないと実現しにくいのが現状です。

ディープフェイクの悪用例

オランダのこちらのサイバーセキュリティのレポートによると、2019年10月の時点でディープフェイク・コンテンツの大多数はポルノ動画が占めています。これは、名誉毀損、著作権法違反の罪に該当し、日本でも2020年に逮捕事例があります。

https://regmedia.co.uk/2019/10/08/deepfake_report.pdf

上記以外でも、ディープフェイクは私たちが信じがたいほどの劇的な影響を社会に与える可能性があります。詐欺、証拠の捏造、誹謗中傷など、様々な犯罪が起きやすくなります。また、フェイクニュースや世論操作によって国家安全保障上の問題にまで発展する恐れがあります。例えば、ロシアの反政権派指導者アレクセイ・ナバリヌイ氏の派閥への信用を失墜させるためにフェイク動画が作成されました[1]。

悪用で注目を集めるケースが増えている中、悪用を防ぐための技術開発と法体制の整備が喫緊な課題となっています。

---

[1] （参考）https://mainichi.jp/articles/20220104/ddm/003/040/037000c

■さらに怖いのは

（その１）

AIで生成されたディープフェイクは、人間だけではなく、偽物を識別するアルゴリズムさえ騙す力を持っています。

例えば、現段階で顔認証システムを突破する能力も示しています[1]。

（その２）

ソーシャルメディアの普及により、フェイクコンテンツが瞬く間に拡散され、それが私たちの情報収集や思想に顕著な影響を与える力があります。

2018年の米国のマサチューセッツ工科大学（MIT）では、約126,000件のツイート（Twitterに投稿された情報）の情報拡散に関する調査に基づいた研究を行いました。結果として、フェイクニュースは真実の情報よりも、６倍も速くかつ広範囲に拡散されることが示されました。同研究チームによると、「人々はまだ見たものをそのまま信じる傾向にあるため、ディープフェイクは誤報を広めるのに非常に有効な手段である」[2]。

■逆の問題も！

偽物に変換されたディープフェイクが警戒されている中、本物が偽物と疑われるという全く逆の問題も起きています。 例えば、アフリカのガボン共和国で病気により数週間休んだ大統領の動画がフェイクと間違われ、クーデータ未遂まで招きました。これはまさに「狼少年問題」が乱立する将来を指し示します[3]。

---

[1] （参考）https://mainichi.jp/articles/20220103/k00/00m/300/220000c

[2]  VOSOUGHI, Soroush; ROY, Deb; ARAL, Sinan. The spread of true and false news online. Science, 2018, 359.6380: 1146-1151.

[3] https://motherjones.com/politics/2019/03/deepfake-gabon-ali-bongo/…

有益な使い方もある

ところで、ディープフェイクの用途は全てが悪いものではありません。主にエンターテインメントやクリエイティブ分野で、人間社会にとって喜ばしい目的での利用も期待されています。

例１：映像制作を楽にする。

例２：有名な芸術作品を学習させて、新作を生み出す[1]。しかし、ディープフェイクに制作物を模倣させる上で、故人への尊重や著作権など、新たな議論が生まれます。

例３：亡くなった大切な方の写真をもとに「動く擬似写真」に変換し「蘇らせる」[2]。

例４：SNS上でユーザーが、ディープフェイクを活用した顔交換アプリ「Reface」や「ZAO」を楽しんでいる。

例５：株式会社EmbodyMeがリリースしたフェイク映像を生成できるカメラアプリ「xpression camera」[3]がZoomやGoogleMeetでコミュニケーションの円滑化に活躍している。

---

[1] （参考）https://mainichi.jp/articles/20220104/ddm/003/070/030000c

[2] https://www.myheritage.ch/deep-nostalgia

[3] https://youtu.be/HCm0_ZzpBDE

悪用を防止する対策

ディープフェイク技術の成長と並行に、ディープフェイクを検出する技術の研究開発にも国や企業が取り組んでいます。XAI（Explainable AI; 説明可能AI）の研究の発祥となったDARPA（米国国防高等研究計画局）は、ディープフェイク検出技術のプロジェクトに多額な資金を提供しました。

既にディープフェイク検出ツールがいくつか公開しています。例えば、2020年の米大統領選挙に間に合う形で、Microsoftがセキュリティ対策ソフト“Video Authenticator”を発表しました。おかげさまで、ディープフェイクによる顕著な影響は、2020年の米大統領選で確認されませんでした[1]。 各SNS媒体も対策を開始しています。Twitterでは、疑わしい投稿の拡散を阻止するためにユーザーに注意書きを付けるルールを導入しました。Facebook（現Meta）は、1000万ドル超をかけて「Deepfake Detection Challenge」いうディープフェイク検出技術の競技会を立ち上げました。2019年にこの競技会には、Facebook、Microsoft、Amazonをはじめとする2000個以上のチームが参加しました。トップチームでさえ識別精度65%にしか到達できず、

ディープフェイク検出がいかに難しいかということを再認識させてくれました。

どのような技術も悪用される危険性があります。悪用を防ぐためには国レベルで、法体制と倫理ガイドラインを整備し、国民に注意喚起や教育を施すことが要求されています。

---

[1] 参考：https://xtech.nikkei.com/atcl/nxt/column/18/00141/102100139/

以上、ディープフェイクがいかに技術的に進化してきたのか、どんな悪いことや良いことができるのか、社会で安全に利用するためにどんな対策が必要のか、について話しました。

次回のブログでは、AIを用いた偽物文章を生成する技術について解説したいと思います。