ChatGPT搭載で会話力学ぶ「AI Vtuber」 悪意あるユーザーの投稿どう対応
AI（人工知能）を搭載したVTuber（バーチャルユーチューバー）が、ライブ配信する。アニメーション動画制作サービスを提供するGivee（東京都港区）は、業界初という育成型AI VTuber「瑛皧ペロリ（えいあいぺろり）」を2023年3月10日に公開した。さまざまな質問に答えられるAI「ChatGPT」を活用したキャラクターだ。
「育成型」とする通り、ペロリは利用者のコメント内容を学習し、会話の精度を上げていく。一方、過去には人と会話できる米マイクロソフトのAIが、不適切なワードを学習し運用停止となった事例がある。ペロリは、悪意のあるフレーズにどう対策を講じていくのか。Giveeに取材した。
麻雀、相対性理論に作詞も
Giveeの3月10日付発表によると、ペロリはユーチューブでライブ配信を行うほか、LINEのアカウントとしてもリリースされている。利用者は、ユーチューブ配信ならチャット機能で、LINEならアプリ上のテキスト会話にて、ペロリとコミュニケーションが取れる。
ペロリは会話の内容や「答えられなかった応答」「雑談表現の拡張」を学習し育っていく。視聴者のリクエストに応じてさまざまな情報を取り入れていく過程で、英語や恋愛相談、生活サポートなど、ジャンルを問わず活躍できるAIキャラクターとしての成長が想定されるという。
3月28日のライブ配信を見ると、ペロリが「キャラ付け」として用意された独自の言葉づかいを用いて、各種質問に回答しているのがわかる。「麻雀の必勝法は」と問われ、「必勝法は実は存在しないんだよ～麻雀は運と技術が混在するゲームで...」と人工音声で返答。ほかにも。特殊相対性理論に関する難解な質問に答えていた。
「ペロリをイメージした歌詞を作ってほしい」との要望には「いっしょに勉強しよう あたしときみで一緒に知らないことをたくさん学んでいこうね」と、学習機能を備えたAIらしい内容の詞を披露した。
ユーチューブ配信の投稿は監視
冒頭で触れたマイクロソフトのチャットボット（人間と会話できるプログラム）「Tay（テイ）」は、2016年にツイッターやメッセージアプリで公開。人と話すほど性能が向上するAIとされていたが、悪意を持ったユーザーに会話学習機能が悪用された。人種差別的な投稿を行うようになったため、公開後すぐに運用が停止された。
J-CASTトレンドは、Givee代表取締役の村上卓斗氏に話を聞いた。悪意のある言葉やヘイトにつながる内容の学習を防ぐ対策として、主に「除外キーワードの設定」「ユーザーフィードバックの活用」を挙げた。
性的、暴力的な表現や、宗教的な内容はあらかじめ学ばないようフィルタリングを施し、不適切な言葉を学ぶリスクを抑えている。加えて、ユーザーからのフィードバックを開発チームが閲覧し、社内ルールにのっとった統制を行ないながら学習を促進しているという。
ユーチューブ配信では、「モデレーター」と呼ばれるスタッフによる監視を実施。ユーザーが投稿するテキストは定期的にモデレーターがチェックし、不適切な言葉やフレーズが含まれる場合はペロリが学ばないようにする。また特定の視聴者を非表示設定にし、場合によって配信から退出させる措置が適切な運用のための施策として挙げられると語った。
なおAIではあるが、VTuberとして個性を生み出すための開発も行なっており、「愛着があるAI」を開発するプロジェクトが進行中とのことだ。同社ではさまざまな企業との資本業務提携が決まっており、今後はペロリだけではなく約30もの「AItuber」のリリースを準備しているという。AItuber事務所の設立も予定しているとの話だった。