今、ディープラーニング機能でフェイク画像などを作成する、いわゆるディープフェィク技術が目覚ましい進歩を遂げています。最近も、自分の画像を老けさせたり、性別を入れ替えたりできるFaceAppが話題になったばかり。それが今度は、動画を使った顔加工ができるようになったそうですよ。
映画スターを自分の顔にしちゃうアプリ
発売開始からわずか3日で中国のiOSアプリで人気トップに躍り出た｢Zao｣は、スマホで撮影した自分の顔と、映画の登場人物の顔を合成加工できるアプリ。顔写真1枚をZaoにドロップするだけで、映画やテレビ番組、ミュージカルの出演者の顔と自分の顔を入れ替えることができるんです。
メニューの中から好きな映像を選ぶことができるので、たとえば『タイタニック』のディカプリオを自分の顔に変えてしまうこともできるんですよ。ディープラーニングで作り出す映像は、意外なほどリアル。あんなシーンやシーンが、自分の顔で再現できちゃう。これは、確かに楽しい…。ディカプリオも顔負けって感じ…。
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) September 1, 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT
今まで、動画に顔を移植するには何百枚もの画像が必要だったので、たった1枚の写真でリアルなフェイク動画が作れる、というのはかなり画期的。
まばたきしている写真や口を開いている画像など、アプリの指示に従って画像を追加すれば、より自然で シームレスな動画が作れます。もちろんSNSでシェアできますよー。ただし日本のApp Storeではリリースされていませんけど。
プライバシーとか法律とかどうしようね
ただ、FaceAppの時と同様、若干セキュリティへの不安も。リリース当初は｢ユーザーがアップロードしたものに対してアプリ側が無料で、取消不能な、永続的の、譲渡可能で、再ライセンス可能な権利を持つ｣という、なんとも不気味な規約が組まれていました。この点についてはさすがに｢プライバシーの侵害｣と大不評で、コメント欄は炎上し、レビュー評価も星1つという散々な結果に。
その後、問題となった条項を破棄するアップデートが実装され、現在の規約では｢ユーザーの許可があった場合を除き、アップロードされたデータは会社の技術向上以外の目的で利用しない｣という内容に変更されています。（ま、当然ですよね…。）iOSアプリストアでの評価はいまだ芳しくないものの、なんとか星2.9にまで回復しています。
｢Zao｣の運営会社は、中国で人気の出会い系アプリ、ライブストリーミングアプリを展開するMomo Inc.の子会社で、｢プライバシーへの懸念は理解しています。フィードバックを受け止め、問題点は修正していくので、しばしお待ち下さい｣とブルームバーグのインタビューに答えています。
Zaoがこれだけ急激に大人気を博し、怪しげな規約があったにもかかわらず、人気がほとんど衰えていないのを見ると、ディープフェイク技術の急激な進歩を不安視する消費者や政治家の方々の気持ちも、わかりますね。こんなリアルなフェイク画像や動画がスマホで簡単に作れるなんて、悪用しようと思えばいくらでもできちゃいそうですから。
オバマ大統領の口パク動画が問題となったころはまだ、フェィク動画の脅威は数百枚もの画像が出回る有名人に限られていました。でも、今はずっと少ない枚数でリアルな動画が作れるようになっていて、それを規制する法律はまだありません。自分の老け画像で楽しんでいるうちはまだいいですが、いじめとか、リベンジポルノとか、政治的利用とか…色々考えるとちょっと怖い。
来年はアメリカ大統領選もあることですし、その辺きっちりルール作っていただけると、安心して遊べるんで、よろしくお願いいたします…!
