AIで本物そっくりの偽動画が簡単に作成できる懸念

2ch,5chまとめ, AI, CG, IT, テクノロジー, フェイク, 技術

ピックアップ!

1: イオ(ジパング) [US] 2019/08/18(日) 09:40:24.82 ID:Xm4w+ZFM0● BE:121394521-2BP(3112)
sssp://img.5ch.net/ico/morara_tya.gif
AIで本物そっくりの偽動画が簡単に作成できる懸念

人工知能(AI)への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】

 AIが世界経済に与える波及効果は2030年までに13兆ドル(1405兆円)に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産(GDP)を毎年1.2%押し上げる効果が見込まれるという。

 だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者(CEO)、マーク・ザッカーバーグ氏の偽動画である。

 同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。

 ◇経営者の声で「振込先が変更になった」

 サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。

 報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。

 「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局(FBI)によれば、米国内だけでも18年に35万1937件の被害が報告されている。

 ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。




2: イオ(ジパング) [US] 2019/08/18(日) 09:40:42.93 ID:Xm4w+ZFM0 BE:121394521-2BP(2112)
sssp://img.5ch.net/ico/morara_tya.gif
>>1のつづき

 ◇攻撃側と防御側のいたちごっこ

 AIを使った新たなサイバー攻撃の手法は他にもある。
ウォール・ストリート・ジャーナル紙オンライン版は17年11月、英国のサイバーセキュリティー企業が、これまでに見たことのないサイバー攻撃を発見したとの記事を配信した。

 記事によると、攻撃者はAIによる学習機能を組み込んだウイルスを、インドにある被害企業のITネットワークに侵入させた。
そして、社員たちがネットワークをどのように使っているか、どんな情報をやり取りしているかを観察させ、学習させた。
学習に基づき、ウイルスが社員たちの動きをまね、周囲に溶け込んでいた。ウイルスが見つかるのを引き延ばすためだという。

 英国のセキュリティー企業は、ウイルスが被害企業の何を狙ったのか、明らかにしていない。
ただし、被害が出る前にウイルスを発見し、被害を止めることができたと説明している。AIで攻撃者と防御側のいたちごっこが難易度を増しているという実例である。

11: 百武彗星(光) [US] 2019/08/18(日) 09:43:26.80 ID:rVD33IUk0
>>1
でも大げさに言うわりにクオリティは低いからな。

3: ソンブレロ銀河(千葉県) [CN] 2019/08/18(日) 09:41:06.51 ID:tLPPMl0Z0
AVかと思った

4: ディオネ(熊本県) [JP] 2019/08/18(日) 09:41:48.86 ID:ANR4/8Td0
モザイク破壊

5: 褐色矮星(ジパング) [UY] 2019/08/18(日) 09:42:15.75 ID:okKi1dtp0
モザイク破壊は結構な制度だからな

6: アリエル(茨城県) [ニダ] 2019/08/18(日) 09:42:23.97 ID:FT6sUr5U0
広瀬すずと広瀬アリスが本気でプロレスしてる動画を

7: トラペジウム(神奈川県) [CO] 2019/08/18(日) 09:42:39.94 ID:1wIf3SZe0
ガッキーのエロフェイクのやつかと思った
あれうますぎ

36: 水メーザー天体(四国地方) [CN] 2019/08/18(日) 09:54:34.39 ID:hx0qfTKO0
>>7
あれは良かった
素材の女優自体の顔立ちが似てないと駄目みたいだな

8: 環状星雲(光) [UA] 2019/08/18(日) 09:42:51.20 ID:pHbJWign0
モザイク破壊動画ってどうなってんの?

9: セドナ(大阪府) [IT] 2019/08/18(日) 09:42:59.93 ID:CBTSJ85W0
本物そっくりのニセ児童ポルノなら被害者がいないから問題無いよな
そんな事件が日本であったような気もするが

10: かに星雲(三重県) [CA] 2019/08/18(日) 09:43:24.20 ID:MK6a7o6P0
動画が証拠にならない時代が来た
攻殻機動隊の時代か

12: ディオネ(日本) [DE] 2019/08/18(日) 09:44:01.37 ID:z6g8st650
えみつん

14: トラペジウム(神奈川県) [CO] 2019/08/18(日) 09:44:56.05 ID:1wIf3SZe0
>>12
それフェイクじゃねえから!

13: ベラトリックス(庭) [IT] 2019/08/18(日) 09:44:02.44 ID:VLoucdSC0
偽メディアはお前らの得意技だろ。

スポンサーリンク
15: ダークマター(愛知県) [ニダ] 2019/08/18(日) 09:45:44.22 ID:JVpB1+ws0
生野陽子の偽裏エロ動画つくっってほしい。もちろん本物でもいい

16: パルサー(三重県) [US] 2019/08/18(日) 09:45:56.88 ID:/q/GF5go0
証拠が証拠にならなくなって声が大きい方が有利な世界になる
日本人には不利な世界だ

17: 馬頭星雲(滋賀県) [US] 2019/08/18(日) 09:46:01.52 ID:0DAVpFO70
ちゃんと調べたらすぐ分かるんだけどね。
ちゃんと調べないから。

18: 大マゼラン雲(家) [US] 2019/08/18(日) 09:46:18.73 ID:WkUC60qP0
フェイクの素材になったAV女優に悪いと思わんのか!

25: アリエル(大阪府) [US] 2019/08/18(日) 09:50:10.17 ID:hs4wo3OH0
>>18
顔は見るに堪えないが体は最高な女の雇用が生まれる

34: ハービッグ・ハロー天体(神奈川県) [US] 2019/08/18(日) 09:54:24.17 ID:J+mktUjY0
>>25
アパレル通販サイトの顧客体型情報があれば本人は用なしになってっていくだろう

19: ミマス(愛知県) [US] 2019/08/18(日) 09:46:58.80 ID:ijwW9ByM0
黒乳首「ウケるw」

23: 熱的死(茸) [FR] 2019/08/18(日) 09:49:35.51 ID:ic5r/YD80
>>19
黒乳首愛好家「なぜだ!」

20: バン・アレン帯(福岡県) [US] 2019/08/18(日) 09:47:29.76 ID:xQqGmPOF0
アイコラ感覚で動画の顔変えられるんだろ?
もはや顔出しのアイドルや芸能人は撲滅して
外では素顔をひた隠しにする時代がくるだろこれ
ネットに一枚でも顔が上がったら終わりみたいな

21: ハレー彗星(兵庫県) [CN] 2019/08/18(日) 09:47:38.01 ID:SkcOk+b30
三上悠亜ええで

スポンサーリンク
22: ベテルギウス(神奈川県) [CN] 2019/08/18(日) 09:48:20.86 ID:cSX7ABJM0
AIで作成できるということはAIで見破ることもできるということだ(`・ω・´)キリッ

50: ハダル(沖縄県) [US] 2019/08/18(日) 10:00:22.85 ID:dr18ojU10
>>22
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている

24: 青色超巨星(福岡県) [KR] 2019/08/18(日) 09:49:52.15 ID:vX5lbp+s0
見たけど違和感が気になって全然エロく無いんだよな
あと、演技でも感じてる顔をしてないからつまらん
オールマグロ女優になる

26: 亜鈴状星雲(SB-iPhone) [US] 2019/08/18(日) 09:51:48.86 ID:aN+QfQTh0
アイコラの動画版が蔓延る世の中になるのか

はよ

30: アルゴル(ジパング) [US] 2019/08/18(日) 09:52:53.18 ID:MCZbJwZ/0
>>26
もうあるんだよなぁ

27: 褐色矮星(ジパング) [UY] 2019/08/18(日) 09:51:54.07 ID:okKi1dtp0
参考まだか?
何言ってるか全然わかんないよ?

28: バン・アレン帯(大阪府) [ニダ] 2019/08/18(日) 09:52:27.69 ID:0mqYXeEc0
何でもAIって付けとけば凄そうに見える風潮

29: トラペジウム(東京都) [CN] 2019/08/18(日) 09:52:30.84 ID:Fitgo+Qr0
芸能人がAVになるのか 広瀬すずでお願いします

31: 大マゼラン雲(東京都) [ニダ] 2019/08/18(日) 09:53:10.30 ID:QtrVVXiG0
本物は黒乳首だからAIが作った偽物のピンク乳首なんか簡単に見抜けるわ

32: ニクス(千葉県) [FR] 2019/08/18(日) 09:53:18.31 ID:vtRTQOBA0
最近本当多くなったな

33: ニート彗星(東京都) [US] 2019/08/18(日) 09:53:47.73 ID:KYnrMpyq0
電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う

35: ボイド(静岡県) [EU] 2019/08/18(日) 09:54:31.21 ID:1DA4OFB/0
ディープフェイク

37: 宇宙の晴れ上がり(埼玉県) [US] 2019/08/18(日) 09:54:42.80 ID:T/oHB6wy0
誰でも好きな子の写真一枚あればAI-VRでなんでもできるようになる世の中はよ

38: アクルックス(千葉県) [US] 2019/08/18(日) 09:54:43.63 ID:bk/WqxZ70
文在寅が肛門に旭日旗突き刺して土下座してる動画を

39: レグルス(東京都) [SE] 2019/08/18(日) 09:54:56.54 ID:eHOIEnRz0
スポンサーリンク
足下にドライブレコーダーつけておいてもメーカーが都合良く改ざんしたって
疑いが出ちゃうのか

46: アリエル(茨城県) [ニダ] 2019/08/18(日) 09:58:51.36 ID:FT6sUr5U0
>>39
なにそれ、いやらしい

40: カロン(東京都) [US] 2019/08/18(日) 09:55:18.13 ID:h70Q0qgV0
これからは動画も簡単に信用しちゃいけない時代になるのか

41: アルゴル(福岡県) [US] 2019/08/18(日) 09:55:22.53 ID:MjFIRAFa0
DFのサイト潰れたな

42: 水メーザー天体(東京都) [US] 2019/08/18(日) 09:56:00.29 ID:BxztKd7t0
やっと時間停止系の偽物が排除できるのか

43: グレートウォール(ジパング) [FR] 2019/08/18(日) 09:56:48.81 ID:LSPc6LHp0
俗に言うDeepFakeてやつか、いや俗に言ってないか

44: ウォルフ・ライエ星(地図に無い場所) [CN] 2019/08/18(日) 09:56:52.25 ID:Wr4HLauS0
自分ですね

45: カリスト(ジパング) [ニダ] 2019/08/18(日) 09:56:55.51 ID:5K1y/IWy0
俺もこれ知ってGTX1650買うつもりだったが中古のGTX1080にしようか迷ってる

47: ベクルックス(東京都) [US] 2019/08/18(日) 09:59:09.42 ID:rXll8dF10
例のAV作品の女優の顔を芸能人の顔にするAIまじやべーな
驚愕しながら抜いた

48: エリス(dion軍) [BR] 2019/08/18(日) 10:00:04.10 ID:mLv5eV920
吉岡里帆のがめっちゃおすすめ

49: 赤色超巨星(千葉県) [US] 2019/08/18(日) 10:00:15.16 ID:V9cMrCww0
オレオレ詐欺にも引っかかりそうな奴らだな

引用元: ・AIで本物そっくりの偽動画が簡単に作成できる懸念