AIで友人に成りすまし8600万円搾取 顔と声を複製「ディープフェイク動画」
生成AIの法規制、年内施行を計画
もちろん、顔交換モデルの販売には倫理的、法的問題がある。中国インターネット協会は5月24日、SNS公式アカウントを通じて「AIを使った合成技術を誰でも使えるようになり、AI顔交換、AI声交換を使った音声・動画が詐欺や誹謗中傷など違法行為が後を絶たない」と注意を呼び掛けた。
中国のサイバー空間規制当局である国家インターネット情報弁公室は今年1月、ディープフェイクを利用した偽情報の発信などを禁止する規定を施行した。ディープフェイク画像・映像による成りすましからから個人を保護するため、AIによる合成技術を使った画像や音声、動画をサービスとして提供する場合、ディープフェイクであることを明確に表示することを義務付けた。AIによる顔交換で有名人に成りすまして商品を紹介する行為は、同規定はもちろん、肖像権侵害、詐欺などにも該当する恐れがある。
中国版TikTok「抖音（Douyin）」も5月、生成AI、ディープフェイクなどを使ったコンテンツ配信のルールを発表。配信者にはAIを使用していることの明記、コンプライアンスの順守などを求めた。
ただ、現時点ではAI技術の開発や利用の合法、違法を規定する法律は存在しない。国家インターネット情報弁公室が4月、生成AIを手掛ける企業向けのルールを定めた｢生成AIサービス管理弁法｣の草案を公表し、年内の施行を計画しているが、当面は民法や刑法など現行法に則って判断するほかない。
中国ではメガテックのバイドゥ（百度）やアリババが独自の大規模言語モデルによる対話型AIサービスをリリースしているが、これら大手はディープフェイク技術について消費者には提供していない。ただ、大手が動かない分野ほど短期的な利益を狙う中小事業者が活発に動きやすく、グレーゾーンでのビジネスが起きやすいのが実態だ。
Twitter：https://twitter.com/sanadi37
