AI（人工知能）を使ってニセ動画を作る「ディープフェイク」を利用した犯罪が世界中で横行、日本でも逮捕者が出ている。10月2日（2020年）に、熊本市でディープフェイクを使いアダルト動画出演女優の顔を別の女性芸能人に替え、ネット公開した容疑者らが名誉棄損などの疑いで逮捕された。
アプリ制作会社「EmbodyMe」が開発したディープフェイクアプリ「Xpression」を用いてリポーターの顔を司会の立川志らくに替え、「落語家を辞める」と言わせることも簡単にできた。このアプリを使えば、肖像画を動画のように動かすことも可能だ。
国のリーダーのミサイル発射ニセ動画が戦争の引き金に
ディープフェイクは、さまざまな場所で活用されている。米国の美術館では、サルバドール・ダリの動画を公開。映画「ジュラシックパーク」でも、この技術が使われた。また、大統領選真っ最中の米国ではトランプ大統領のディープフェイクが悪用されている。
桜美林大学の平和博（たいら・かずひろ）教授は、「緊張関係にある2つの国がある場合、国のリーダーがミサイルを発射すると喋っているニセ動画をネットで拡散させると、紛争の引き金になる恐れもある」と、危険性を指摘した。
ディープフェイク悪用の約96％は、アダルト動画だという。海外にはディープフェイク専門サイトもあり、アダルト動画出演女性の顔を海外の有名女優の顔に差し替えたディープフェイクが、大量に公開されている。中には日本人女優に差し替えられたディープフェイクのポルノが40本以上あがってくる。
ディープフェイクを悪用するケースとしては、リベンジポルノ、選挙での印象操作、詐欺などの犯罪などが想定される。
自分も被害を受けた経験があるフリーアナウンサーの小林麻耶は「"小林麻耶""裸"で検索したら、すごいナイスボディの上に私の顔が乗っていた。すぐに加工とわかるものでしたが、?の記事はずっと残り、人生にも影響を与える。重い、重～い罰則をお願いします」と訴えた。
キャスターの田村淳「技術と一緒に法整備が整わないといけないのに、日本はいつも遅い」
高橋知典弁護士は、熊本で逮捕者が出た事件に触れ、「日本では名誉毀損以外の罪に問えないのが問題。それでは3年以下の懲役か50万円以下の罰金でしかない。今回はアダルト動画制作会社が著作権の侵害を訴えたので、名誉棄損と著作権侵害でも訴えられた。もっと早く法規制をしないと、悲しい事故が起きてしまう」と話した。