1 : 2019/08/18(日) 09:40:24.82 ID:Xm4w+ZFM0●.net BE:121394521-2BP(3112)

AIで本物そっくりの偽動画が簡単に作成できる懸念

人工知能(AI)への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】

 AIが世界経済に与える波及効果は2030年までに13兆ドル(1405兆円)に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産(GDP)を毎年1.2%押し上げる効果が見込まれるという。

 だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者(CEO)、マーク・ザッカーバーグ氏の偽動画である。

 同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。

 ◇経営者の声で「振込先が変更になった」

 サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。

 報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。

 「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局(FBI)によれば、米国内だけでも18年に35万1937件の被害が報告されている。

 ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。



https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all
32 : 2019/08/18(日) 09:53:18.31 ID:vtRTQOBA0.net
最近本当多くなったな
35 : 2019/08/18(日) 09:54:31.21 ID:1DA4OFB/0.net
ディープフェイク
43 : 2019/08/18(日) 09:56:48.81 ID:LSPc6LHp0.net
俗に言うDeepFakeてやつか、いや俗に言ってないか
3 : 2019/08/18(日) 09:41:06.51 ID:tLPPMl0Z0.net
AVかと思った
67 : 2019/08/18(日) 10:14:33.30 ID:1aoTl1an0.net
deepfakeのAVすげえよな、びびった
5 : 2019/08/18(日) 09:42:15.75 ID:okKi1dtp0.net
モザイク破壊は結構な制度だからな
78 : 2019/08/18(日) 10:22:55.28 ID:inneIW250.net
モザイク破壊版ってAIだったのか
伊東ちなみで抜きまくってたわ
20 : 2019/08/18(日) 09:47:29.76 ID:xQqGmPOF0.net
アイコラ感覚で動画の顔変えられるんだろ?
もはや顔出しのアイドルや芸能人は撲滅して
外では素顔をひた隠しにする時代がくるだろこれ
ネットに一枚でも顔が上がったら終わりみたいな
26 : 2019/08/18(日) 09:51:48.86 ID:aN+QfQTh0.net
アイコラの動画版が蔓延る世の中になるのか

はよ
30 : 2019/08/18(日) 09:52:53.18 ID:MCZbJwZ/0.net
>>26
もうあるんだよなぁ
199 : 2019/08/18(日) 19:17:53.93 ID:oL6fg54s0.net
>>26
たくさんあるんですけど
7 : 2019/08/18(日) 09:42:39.94 ID:1wIf3SZe0.net
ガッキーのエロフェイクのやつかと思った
あれうますぎ
36 : 2019/08/18(日) 09:54:34.39 ID:hx0qfTKO0.net
>>7
あれは良かった
素材の女優自体の顔立ちが似てないと駄目みたいだな
44 : 2019/08/18(日) 09:56:52.25 ID:Wr4HLauS0.net
自分ですね
29 : 2019/08/18(日) 09:52:30.84 ID:Fitgo+Qr0.net
芸能人がAVになるのか 広瀬すずでお願いします
6 : 2019/08/18(日) 09:42:23.97 ID:FT6sUr5U0.net
広瀬すずと広瀬アリスが本気でプロレスしてる動画を
15 : 2019/08/18(日) 09:45:44.22 ID:JVpB1+ws0.net
生野陽子の偽裏エロ動画つくっってほしい。もちろん本物でもいい
18 : 2019/08/18(日) 09:46:18.73 ID:WkUC60qP0.net
フェイクの素材になったAV女優に悪いと思わんのか!
25 : 2019/08/18(日) 09:50:10.17 ID:hs4wo3OH0.net
>>18
顔は見るに堪えないが体は最高な女の雇用が生まれる
57 : 2019/08/18(日) 10:08:18.91 ID:90aQvtMP0.net
>>25
手タレみたいなやつか
109 : 2019/08/18(日) 10:50:28.42 ID:+tSIOPU40.net
>>25
タンポポの片割れか
21 : 2019/08/18(日) 09:47:38.01 ID:SkcOk+b30.net
三上悠亜ええで
48 : 2019/08/18(日) 10:00:04.10 ID:mLv5eV920.net
吉岡里帆のがめっちゃおすすめ
47 : 2019/08/18(日) 09:59:09.42 ID:rXll8dF10.net
例のAV作品の女優の顔を芸能人の顔にするAIまじやべーな
驚愕しながら抜いた
45 : 2019/08/18(日) 09:56:55.51 ID:5K1y/IWy0.net
俺もこれ知ってGTX1650買うつもりだったが中古のGTX1080にしようか迷ってる
37 : 2019/08/18(日) 09:54:42.80 ID:T/oHB6wy0.net
誰でも好きな子の写真一枚あればAI-VRでなんでもできるようになる世の中はよ
11 : 2019/08/18(日) 09:43:26.80 ID:rVD33IUk0.net
>>1
でも大げさに言うわりにクオリティは低いからな。
24 : 2019/08/18(日) 09:49:52.15 ID:vX5lbp+s0.net
見たけど違和感が気になって全然エロく無いんだよな
あと、演技でも感じてる顔をしてないからつまらん
オールマグロ女優になる
75 : 2019/08/18(日) 10:21:30.95 ID:DMy57nab0.net
西野七瀬のAVがあったらハロワ行く
128 : 2019/08/18(日) 11:09:47.01 ID:nEWZVI420.net
>>75
>>77
もう作られてるけどクオリティ低い
77 : 2019/08/18(日) 10:22:31.91 ID:d8mmno8D0.net
橋感のAV期待してるで
71 : 2019/08/18(日) 10:15:27.64 ID:ASy6VwlX0.net
ガッキーと吉岡里帆と橋本環奈と齋藤飛鳥のやつは見た事あるけど、普通のAVのほうが抜けるわ
83 : 2019/08/18(日) 10:25:24.28 ID:+tSIOPU40.net
最近ツイッターに宇垣アナの動画コラ流れてたな
118 : 2019/08/18(日) 11:00:11.70 ID:Cuy+bZIQ0.net
これがホントのAIコラなのか
52 : 2019/08/18(日) 10:01:28.09 ID:IxY3dUJK0.net
参考動画を見ないことには何とも言えんな…
80 : 2019/08/18(日) 10:24:35.59 ID:nfoUJy3A0.net
やはりエロ方面の話題か
55 : 2019/08/18(日) 10:05:43.97 ID:DLNbBkTd0.net
これってエロでよく言われるけど、不祥事起こした芸能人のせいで
お蔵入りになった映画とか、顔と声だけ差し替えて発売するとか
あと女優の若返りとかも、若いときにいろいろな角度から顔を
取っておけばできるだろう
59 : 2019/08/18(日) 10:10:24.03 ID:xhBge9lq0.net
>>55
……もう芸能人要らなくね?
61 : 2019/08/18(日) 10:11:52.53 ID:DLNbBkTd0.net
>>59
いらないよ。
64 : 2019/08/18(日) 10:13:25.84 ID:DLNbBkTd0.net
死んだ映画俳優とか復活しそうw
声はヴォーカロイド化しとけばいいし
69 : 2019/08/18(日) 10:15:09.26 ID:NK4TlTam0.net
>>64
俳優の利権絡むから無理
72 : 2019/08/18(日) 10:17:46.64 ID:caAhnRF80.net
この技術をAIと呼ぶことって正しいの?
アルゴリズムの発展であってAIではないような気がするんだが、詳しい人教えてくれ
98 : 2019/08/18(日) 10:44:23.43 ID:FJwR3FP70.net
>>72
正真正銘のAI
196 : 2019/08/18(日) 18:57:49.93 ID:u9XNCH7+0.net
>>98
AIによって作成されたアルゴリズムだから
アルゴリズムも発展しているといえばしている
22 : 2019/08/18(日) 09:48:20.86 ID:cSX7ABJM0.net
AIで作成できるということはAIで見破ることもできるということだ(`・ω・´)キリッ
50 : 2019/08/18(日) 10:00:22.85 ID:dr18ojU10.net
>>22
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている
54 : 2019/08/18(日) 10:05:23.82 ID:cSX7ABJM0.net
>>50
ゴキブリ対殺虫剤やんwwwwww
94 : 2019/08/18(日) 10:41:45.15 ID:xhG6Easm0.net
AIのフェイクをAIが見破る
105 : 2019/08/18(日) 10:47:33.73 ID:FJwR3FP70.net
>>94
ちなみにdeepfakeはAIが作ったのをAIが自然か不自然かを判定して、それに基づいてAIが修正して、判定して、、というのを繰り返してできてる
111 : 2019/08/18(日) 10:50:52.43 ID:rSh9VpkD0.net
>>105
まあ人間だって自分が作ったレタッチ画像を自分で見直して
自然か不自然か判断してフィードバックしてるから、
知性と言うならばそのくらいは当然だな
135 : 2019/08/18(日) 11:21:01.55 ID:dSKIloX90.net
>>105
脳がこの判定しちゃって集中できない
138 : 2019/08/18(日) 11:44:43.32 ID:fqXaXxhO0.net
>>135
AIも人間の脳と同じことやってるってことよな
132 : 2019/08/18(日) 11:16:07.04 ID:N2Jci75T0.net
これからは動画の端っこにフェイク判定AIによる信頼性判定数値出るようになるかもな。
おー信頼性86%かぁきっついなぁみたいな事言いながら観るわけだ。
89 : 2019/08/18(日) 10:32:38.91 ID:0g2bbODK0.net
AIすげーと言ってるだけで一向に参考動画があがってこないわな
今騒がれてるAIって本当に人工知能と呼べる代物なん?
91 : 2019/08/18(日) 10:36:41.65 ID:5/jd5Pp60.net
>>89
人工知能なんて言ってるけど実のところは機械学習による統計だよ
97 : 2019/08/18(日) 10:43:33.84 ID:YHF8nyHF0.net
>>91
それって人間と同じだろ。
まさか人間は全知全能だから学習なんかしなくてもいいとでも?
104 : 2019/08/18(日) 10:47:07.62 ID:Y53SJH1z0.net
>>97
人間の子供って、言葉を覚えるために一日10数時間勉強してるんだってな
だから、外国語を覚えようとしてもすぐに覚えられないのは当たり前
62 : 2019/08/18(日) 10:12:11.90 ID:gw/Jn/AD0.net
AIのニセ動画で宣戦布告したら戦争になるのか
10 : 2019/08/18(日) 09:43:24.20 ID:MK6a7o6P0.net
動画が証拠にならない時代が来た
攻殻機動隊の時代か
39 : 2019/08/18(日) 09:54:56.54 ID:eHOIEnRz0.net
足下にドライブレコーダーつけておいてもメーカーが都合良く改ざんしたって
疑いが出ちゃうのか
46 : 2019/08/18(日) 09:58:51.36 ID:FT6sUr5U0.net
>>39
なにそれ、いやらしい
82 : 2019/08/18(日) 10:25:10.40 ID:2boKO1Ok0.net
逆にロクデナシ達が全ての証拠をAI技術によるフェイクと言い逃れしだすだろうな
85 : 2019/08/18(日) 10:28:52.77 ID:YHF8nyHF0.net
>>82
実際録音音声とか証拠として採用するのはかなり危険な時代になっただろ
でっちあげとか簡単そうだし
155 : 2019/08/18(日) 12:08:18.44 ID:y2tz75Ki0.net
AVに最近あるやつか
129 : 2019/08/18(日) 11:10:09.34 ID:IskaVDWa0.net
AIがつくったエロ動画はお前らにやるよ
俺は本人もらうからさ
131 : 2019/08/18(日) 11:13:01.34 ID:fSZp4G590.net
2〜3年前に将来はフェイクポルノが氾濫するという記事を視たが予想より早くその状況になったな
エロが関わると普及のスピードが段違い
172 : 2019/08/18(日) 13:35:23.10 ID:jijbw1dH0.net
低予算で映画作ってる人たちの救世主になるといいな
124 : 2019/08/18(日) 11:07:56.03 ID:dQucOkUq0.net
便利なんだから悪用の方が多いと思う
17 : 2019/08/18(日) 09:46:01.52 ID:0DAVpFO70.net
ちゃんと調べたらすぐ分かるんだけどね。
ちゃんと調べないから。
33 : 2019/08/18(日) 09:53:47.73 ID:KYnrMpyq0.net
電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う
76 : 2019/08/18(日) 10:22:16.68 ID:lITFOpbR0.net
>>33
マトリックス
87 : 2019/08/18(日) 10:30:02.28 ID:q0QXfQ/A0.net
>>1
バトルランナーで見た
90 : 2019/08/18(日) 10:35:20.86 ID:tIfplRxt0.net
>>87
まさかあれが現実になるとは
40 : 2019/08/18(日) 09:55:18.13 ID:h70Q0qgV0.net
これからは動画も簡単に信用しちゃいけない時代になるのか
101 : 2019/08/18(日) 10:46:26.68 ID:WASSZOYp0.net
そのうち録音なんかも捏造し放題で信用性なくなりそう
102 : 2019/08/18(日) 10:46:37.34 ID:2boKO1Ok0.net
通信による契約は一切無効

対面して血判の書面を保管しあう時代へ
108 : 2019/08/18(日) 10:48:40.26 ID:EYYCdu5s0.net
何が本当なのかわからない時代って怖い
特異点ていうのが現実的になってきた