「そっくりの音声を作って詐欺に悪用するAI音声詐欺が海外で多発しています」と切り出すMCの羽鳥慎一。今日6日(2023年6月)のモーニングショーでは、スタジオでAI音声の最先端技術を紹介、悪用を防ぐ方法や有効な活用について詳しく報じた。
先月、官邸で岸田総理とAIの次世代リーダーたちとの意見交換が行われ、総理の目の前で披露されたのがAIで再現した総理自身の声。AIエンジニアの安野貴博さんがマスクに向かって話すと、その声がリアルタイムで総理の声に変換されて聞こえるが、岸田総理もうならせるほどの再現度の高さだ。前日夜に2時間ほどかけて総理の声をパソコンに学習させたものだという。
-
本人の声？それとも…（写真はイメージ）
「誰でも簡単に使える技術に」と識者指摘
「技術自体はネットに公開されている。誰でも簡単に使える技術になっている」（安野さん）
羽鳥慎一の声もAIで再現可能。リポーターの松田朋子も「すごい、番組が始まったような感じです」と驚きの表情。松田リポーターもマスクに向かってしゃべってみたが、女性の声でもしっかり羽鳥さんの声に変換された。
しかし、海外ではこうした技術が悪用されるケースも。アメリカではAIで子どもの声を作って誘拐事件を偽装し、電話で身代金をだまし取った。イギリスではエネルギー会社のCEOになりすました男が、電話で不正送金を要求するなどの事件も起きている。
スタジオではAIでコメンテーター玉川徹の声を再現。
羽鳥慎一「今のは安野さんが玉川さんの声を再現したんですけど」
菊間千乃（弁護士）「『一方で』というとき、玉川さん声が裏返るんですけど、それがちゃんと裏返っていた」
玉川徹「僕も自分の声だと思った」
番組では玉川徹とAI玉川の会話も実演。「もうすぐ定年ですけど仕事どうするんですか」という本物玉川に、AI玉川は「仕事はAIに奪われないようにしたいですよね」と回答。
羽鳥慎一「すごいなあ。めんどくさいですよね（玉川さんが）二人もいたら」
スタジオでは、玉川徹、菊間千乃、森山みなみの3人の音声を流し、この中からAI合成ではない本物の声を当てる問題も出題された。菊間弁護士の声が本物だったが、これは全員が正解。
羽鳥慎一「AIと言われなかったら分からない」
菊間千乃「電話とかでかかってきたら」
安野貴博さん「15分程度の音でこれくらいのクオリティは達成できます」
玉川徹「歌を歌ったらその人の声になる？例えば亡くなった方とか。新たに曲を作るとか、（亡くなった方の）未発表の原稿で曲をつくるとか」
羽鳥慎一「お話ができなくなった人が、過去の自分のデータでお話できるという方法もある」
菊間千乃「いい活用ですね」
羽鳥慎一「ただ悪用する方も中にはいる」
安野貴博さん「クオリティで見破るのは難しくなるので、合言葉を決めておくとか対策が必要です」
羽鳥慎一「結局対策はアナログなんだな。デジタル対策にデジタルは無理。どんどん進化するから」
（みっちゃん）