ディープ フェイク 動画。 AIで架空の人物を生成!ディープフェイクとは?

ディープフェイクとは?偽動画の例や仕組み・作り方・危険性などをまとめて紹介

ディープ フェイク 動画

ディープフェイクとは? 皆さんのなかには、ディープフェイクという言葉を初めて聞いた方も多いのではないでしょうか。 ディープフェイクは、AIのディープラーニング(深層学習)とフェイク(偽物)をあわせた造語です。 AI技術を悪用した高品質な合成画像や映像・音声の偽物を表し、素人には判別できないほど精巧であることが特徴です。 AI技術は非常に進化しており、今や本物との違いがわからないほど精巧な偽物を作り出すことができるようになっています。 こうしたディープフェイクによる画像や映像・音声などは、主にインターネット上のコンテンツとして悪用目的で利用されることが多いです。 ディープフェイクで作られた偽物の動画や音声は、ディープフェイクビデオやディープフェイクボイスと表現されることもあり、従来の技術では偽物を作ることが難しかった動画・音声の分野で利用されることが多いのです。 ディープフェイクの問題点・事例 精巧な偽物を作り出すディープフェイクには、次に挙げるような危険性・問題点が存在します。 それぞれの問題点や事例について、一つずつ見ていきましょう。 政治上の印象操作|オバマ元大統領がトランプ大統領を批判した偽の演説動画 ディープフェイクを用いることで、政治家が言ってもいないことをでっち上げることができてしまいます。 たとえば、ディープフェイクの演説動画を使って、政治上の印象操作を行うなどのことが可能です。 後ほど紹介しますが、実際にこのような事例は存在しており、場合によっては国際問題に発展する可能性もあります。 アメリカでは、オバマ元大統領がトランプ大統領に対して「うんざりだ」という旨の発言をしている動画がYouTubeで公開されています。 こちらは、ディープフェイクの驚異を世界に知らしめるために制作されたものですが、非常に精巧であり、本物との違いがほとんどわかりません。 海外の女優エマ・ワトソンさんや、メイジー・ウィリアムズさんのフェイクポルノが有名であるほか、日本人の女優やアイドルも標的とされており、ディープフェイクに特化したポルノサイトも存在しているほどです。 また、被害の対象は著名人だけではなく私たち一般人にも危険性があります。 リベンジポルノとして脅迫などに利用されることも考えられ、女性だけでなく男性にとっても人権侵害・信用失墜の危険性があります。 さらに、顔写真が250枚ほどあればディープフェイクが作成できるサービスが存在しています。 フェイクポルノによる被害は、誰にでも起こり得る可能性があることを覚えておきましょう。 フェイクボイス|CEOになりすまし約2,600万円の詐欺被害 音声合成技術は、従来の機械的な音声合成ではなく、実在する人物が話しているような音声が作れるまでに進化しています。 すでに電話では判別できないほどのレベルに達しており、電話を利用したオレオレ詐欺等の事例が増える危険性があるのです。 イギリスでは、ディープフェイクボイスを利用した詐欺事例が報告されています。 イギリスを拠点とするエネルギー企業のCEOによって、至急22万ユーロ(約2,600万円)を送金するように指示されたところ、実際はディープフェイクボイスだった、という事例です。 大きな企業のCEOともなれば、メディアの露出が増えます。 そのため、ディープフェイクボイスの元となるデータを集めやすいといえるでしょう。 先ほどのディープフェイクの動画を見ればわかるとおり、電話越しの音声だけでは本人と判別がつかなくなっており、注意が必要であることがわかる事例です。 参照元: ディープフェイクに騙されないために 私たちは非常に精巧なディープフェイクに対して、どのような対策を取ればよいでしょうか。 ディープフェイクに騙されないために心得ておくべきことを紹介します。 情報をすべて鵜呑みにしない インターネット上にはさまざまな情報が溢れていますが、すべてが真実とは限りません。 私たちが得る情報は本物なのか、と疑う習慣を身につけるべきでしょう。 特に著名人のポルノ動画などは冷静に考えると「あり得ない」という判断ができるはずです。 ディープフェイクは今まで以上に情報の真偽の見極めが難しいものです。 しかし、まずはこのような嘘の情報があることを知り、情報をすべて鵜呑みにしないことを意識することからはじめましょう。 事実確認、検証をする ディープフェイクは非常に精巧な作りであるとはいえ、完璧なものではありません。 少しでも違和感があるのであれば、まずは情報源を確認しましょう。 たとえば、政府の動画に見せかけたディープフェイクであったとしても、情報源が政府とは関係のないWebサイトであれば偽物だと判断することが可能です。 情報を公開している人物を確認することでも判断可能でしょう。 例えば、前述したザッカーバーグ氏の演説動画には「CBSN」のロゴが入っているため、同社のWEBサイトからこのニュースが本物かどうか、確認をすることができます。 ディープフェイクに関わらず、情報源となる一次情報の確認は、インターネット上から情報収集をする上では非常に大切なことです。 安易に拡散しない SNSが非常に発達しており、多くの人が気軽に情報を発信できる世の中ですが、面白がって安易に情報を拡散しないように気をつけましょう。 嘘の情報を拡散してしまうと、多くの被害者が発生することになります。 情報を拡散する場合は与えられた情報を鵜呑みにせず、事実確認や検証をした上で拡散する習慣を身につけるとよいでしょう。 もし、何も考えずに拡散してしまった場合、拡散した情報が特定の人を傷つけるものであれば、あなたも加害者の一人になってしまうかもしれません。 嘘の情報に騙されない!ディープフェイクに気をつけよう ディープフェイクは、AI技術を悪用した、高品質な合成画像や映像・音声で、偽物です。 ディープフェイクビデオやディープフェイクボイスなどは、非常に精巧な作りであるため、素人目には本物との区別がつきづらいという特徴があります。 ディープフェイクに騙されないように、すべての情報を鵜呑みにせず、情報の事実確認や検証を行う習慣を身につけるとよいでしょう。 また、安易に拡散して被害者を増やすことのないように、情報を拡散する際には注意することを意識してみてください。 このように、私たちの日常生活には皆さんが気づきにくいネットトラブルがたくさん潜んでいます。 被害に遭った、不安があり悩んでいる、といった際はドコモの「」をぜひご活用ください。 にお電話いただければ専門スタッフが悩みをお聞きして、ネットトラブルの解決を全面的にサポートします。 ぜひ一度ご相談ください。 新規事業室 チーフコンサルタント 池田 啓宏 東京大学経済学部卒業後、コンサルティングファーム、ベンチャーキャピタルを経てエルテスへ入社。 経営コンサルティング業務に長年携わっており、経営視点での課題抽出を得意とする。 エルテスでは、ディープフェイク等の新たなテクノロジー・メディア普及の反動として生じるニューリスクに対する研究等を行っている ログアウト.

次の

「フェイク動画」はどうやって作られている? ディープフェイクの仕組みと悪用対策

ディープ フェイク 動画

もくじ• 芸能人ディープフェイク動画サイトまとめ【DEEPFAKE】 DFIDOL 2019年春に新たに誕生したフェイクポルノ動画サイト「」 こちらは動画配信ではなく、動画ダウンロードサイトです。 アップされている動画のメインは韓国のアイドルや女優などですが、橋本環奈、石原さとみ、新垣結衣、など日本のアイドルや女優モデルなども少しアップされています。 名前で検索する場合はアルファベットで。 サムネイルをクリックすると詳細画像がずらりと現れ、ダウンロードのリンクが表示されます。 以前は無料でもダウンロード可能でしたが、現在は有料会員にならないとダウンロードできないようです。 詳細はこちらの記事でご確認ください。 FAKEY 日本人フェイクポルノ動画共有サイト「FAKEY」 橋本環奈、石原さとみ、吉岡里帆、新垣結衣、広瀬すずなど日本のアイドルや女優モデルなどのディープフェイクがアップされています。 2019年2月時点で390本の動画を確認。 ディープフェイクVR ディープフェイクでは珍しい、石原さとみのVR動画が1本だけ公開されています。 画質が荒いですが、とても自然な動画に仕上がってます。 ただ、プレイヤーがVR対応していないので、視界を動かすことができません。 FAKEYの詳しい情報 追記 2019年2月9日 注意現在 FAKEYがアクセスできない状態のようです。 復旧するのか、はたまた閉鎖したのか定かではありません。 KPOPDEEPFAKES. NET KPOPアイドル中心のサイト「」 ディープフェイクでは珍しいVR動画も多数投稿されています。 ここはとにかく広告がうざいサイトです。 スマホで閲覧すると再生前の広告を閉じることができず動画を再生できませんでした。 PCブラウザなら問題ないです。 ディープフェイクが投稿されている KPOPアイドル一覧• AOA• APINK• Brackpink• EXID• G-IDLE• Grind• Gugudan• IOI• Lorna• Lobelyz• Mamamoo• Miss A• Momolrand• OMG• Red Velvet• Secret• SNSD• Soloist• T-ara• Twice ディープフェイクチュートリアル フォーラムでは、フェイクポルノ制作に必要なソフトや作りかたのチュートリアルが掲載されています。 Mr DeepFakes 海外セレブ中心のフェイクポルノ動画サイト「」 フェイクポルノVRもいくつか投稿されています。 海外ドラマ「ゲーム オブ スローンズ」のデナーリス(エミリア・クラーク)のフェイクポルノVR動画がありました。 ただ、プレイヤーがVR対応していないので、視界を動かすことができません。 ADULT DEEPFAKES. com こちらも海外セレブ中心のフェイクポルノ動画サイト「」 900本ほどのフェイクポルノ動画がアップされています。 スマホ画面でスクロールして一番下のフッターに「Celebtites」をタップすると、Angelina Jolie 、Chloe 、GraceAvril Lavigne、Britney Spearsなどセレブのサムネイルがすらりと現れます。 サムネイルをタップすればそのセレブのフェイクポルノ動画一覧が表示されます。 その他 有名な動画共有サイト• 上記のポルノ動画共有サイトでも「Deepfake」で検索するとでてきます。 自分でフェイクポルノ作りたい人はこちら 関連記事.

次の

Facebook、ディープフェイク検出コンテストの結果を発表

ディープ フェイク 動画

ディープフェイク deep fake は最近使われ始めた言葉でまだ一概には定義されていませんが、 「深層学習 deep learning 」と 「偽物 fake 」から派生した言葉です。 元は映画などで活用するために開発された技術だと言われています。 ディープフェイクの歴史 photo by pixabay つい最近までは、動画の加工や偽造は大変な作業であり、動画作りの専門家にとっても気の遠くなるような作業が必要でした。 しかし、今ではAIによる機械学習によってこのプロセスがますます容易になり、加工や偽造された動画は加速度的に増えています。 ディープフェイクが出現したのは2017年です。 ネット上にディープフェイクを用いて有名人の顔を入れ替えたポルノ動画が初めて登場し、話題を呼びます。 その後、ディープフェイクのアルゴリズムがトルツメのコード共有プラットフォーム、「」に一般公開されることにより、誰でもその技術やノウハウを習得できるようになりました。 これを機にディープフェイク動画が一気にネット上にアップされるようになります。 今ではネット上では250枚ほどの写真をアップロードすると、2日程度でディープフェイク動画を作成するオンラインサービスもあり、1本あたり2. 99ドル(約300円)ほどの低価格で取引されています。 さらに、中国の顔画像交換アプリ「ザオ」も極めて手軽にディープフェイクを作成できるとして、注目を集めました。 ディープフェイクは私たちの間で次第に身近になってきています。 出典: 中には無害なディープフェイク動画もありますが、最近ではディープフェイクされるターゲットが女性や著名人に向けられ、悪質なフェイク動画が急増しています。 ディープトレースが公表した報告書「」によると、 2019年に同社がネット上で確認したディープフェイク動画は1万4,678件に上ります。 これは前年の2018年に比べて84%も増しています。 その内訳をみると、 96%は有名なハリウッド女優などの顔をはめ込んだポルノ動画で、ポルノ以外の動画はわずか4%だったと言います。 このデータからも言える通り、ディープフェイクを用いた女性に対する人権侵害は増え続けている状況です。 ディープフェイクの恐怖 残念ながらディープフェイクは、決して良い意味での注目を浴びている訳ではありません。 最近特に問題視されているのが、ディープフェイクを用いた著名人の顔すり替え動画です。 出典: 有名なのは2018年にYouTubeで公開された、です。 この動画はディープフェイクの恐ろしさを物語っています。 一見すると本当にオバマ氏がトランプ大統領の悪口を言っているように見えます。 しかし動画の最後では画面が二分割されて俳優兼監督のジョーダン・ピールが現れることにより、これが偽物の動画、ディープフェイクであることが分かります。 動画の中でのネタばらしがなければ、誰もオバマ氏ではない偽物が喋っているとは気づかなかったはずです。 ディープフェイクという技術は、赤の他人を使って、これほど忠実に本物の人を再現できるのです。 このようなディープフェイク動画は、世界の政治を揺るがしかねません。 ディープフェイク動画が拡散し、視聴者に真に受けられれば、場合によっては選挙の結果を大きく左右し、候補者の評判を大きく下げる可能性も拭えません。 この動画も、現時点で 762万回以上再生されています。 問題となっているのはディープフェイクを用いたフェイク動画そのものよりも、むしろ別の点にあると指摘する人もいます。 動画を活用し、人権侵害の告発などに取り組むNPO「ウィットネス」のプログラムディレクター、サム・グレゴリー氏は、ディープフェイクによって以下の事態が発生していると述べています。 」 出典: これはつまり、 ディープフェイクを口実に、リアルな動画の信憑性を疑い、否定する権力者が出てきているということです。 その一例として、トランプ氏がNBCの番組の収録現場で「スターならやらせてくれる。 何でもできる」などと卑猥な発言をしていた動画が、2016年の大統領選中に発覚した問題があります。 当初はこの発言を認めていたトランプ氏でしたが、大統領に就任した後に、上院議員や側近に、「動画は偽物のディープフェイクだった」と公言しています。 photo by pixabay 自分には都合の悪いリアルな動画が証拠として提示された場合に、ディープフェイクを口実に嘘をつくという逃げ道を権力者に与えてしまったのです。 ディープフェイクvs表現の自由 photo by pixabay 何かと良くない話題を生んでいるディープフェイクですが、果たしてディープフェイクのどこまでが制限され、どこまでが許容されるべきなのでしょうか。 フェイスブック社は今年、ディープフェイクの一部を削除する方針を打ち出しました。 しかし、 どこまでを表現の自由と捉えるかの判断が難しく、規制は限定的であるべきだとしています。 フェイスブック社のプロダクトマネージャーであるアントニア・ウッドフォード氏は、ディープフェイクへの対策について、「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどうとるのかが難しいのです」と述べています。 実は日本でも、ディープフェイクのポルノ動画が拡散されるようになっています。 しかし、日本にはディープフェイク自体を規制する法律はないため、現時点でディープフェイク動画は作りたい放題の状況です。 これからディープフェイクの悪用による著名人の被害者が出てくることも予想されます。 ディープフェイクの対策 現在、悪質なディープフェイクに対抗しようとさまざまな研究チームが動き出しています。 ニューヨーク州立大学のリュー・シーウェイ氏が率いるチームは、AIを用いてディープフェイク動画を見破る技術の開発に成功しました。 チームが特に注目したのは「まばたき」です。 出典: 人は通常、2~3秒に1回、自然にまばたきをします。 対してDeepFakeアルゴリズムは、入力された画像から動画をつくり出しますが、画像に写っている人は通常、目を閉じていません。 AIは人間が自然に発する生理学的信号すべてを完璧に再現することはできないため、動画の人物は滅多にまばたきをしないことになります。 そこで研究チームは、ディープフェイクを用いた動画内でまばたきがない箇所を検出するAIアルゴリズムの設計に成功しました。 リュー氏のチームは、この技術をさらに発展させ、瞬きの頻度や継続時間といった複雑なことを習得させる方法に取り組んでいます。 近い将来には、呼吸などのさまざまな自然な生理学的信号を検出できるようになるのが目標だと言います。 AI技術に頼るディープフェイクをAIを用いて見破る攻防戦はまさに、 「AI同士の対立」と言っていいかもしれません。 良くも悪くも、ディープフェイクという技術を最終的に活用するのは人間です。 私たち自身がネットのモラルを守ることは勿論、正しい情報と誤った情報を適確に判断する能力を身につける必要があります。 ディープフェイクとその問題について理解を深めることは、これからのネット・SNS時代を生きていく私たちにとって重要だと感じます。

次の