ユーチューブ配信の投稿は監視
冒頭で触れたマイクロソフトのチャットボット（人間と会話できるプログラム）「Tay（テイ）」は、2016年にツイッターやメッセージアプリで公開。人と話すほど性能が向上するAIとされていたが、悪意を持ったユーザーに会話学習機能が悪用された。人種差別的な投稿を行うようになったため、公開後すぐに運用が停止された。
J-CASTトレンドは、Givee代表取締役の村上卓斗氏に話を聞いた。悪意のある言葉やヘイトにつながる内容の学習を防ぐ対策として、主に「除外キーワードの設定」「ユーザーフィードバックの活用」を挙げた。
性的、暴力的な表現や、宗教的な内容はあらかじめ学ばないようフィルタリングを施し、不適切な言葉を学ぶリスクを抑えている。加えて、ユーザーからのフィードバックを開発チームが閲覧し、社内ルールにのっとった統制を行ないながら学習を促進しているという。
ユーチューブ配信では、「モデレーター」と呼ばれるスタッフによる監視を実施。ユーザーが投稿するテキストは定期的にモデレーターがチェックし、不適切な言葉やフレーズが含まれる場合はペロリが学ばないようにする。また特定の視聴者を非表示設定にし、場合によって配信から退出させる措置が適切な運用のための施策として挙げられると語った。
なおAIではあるが、VTuberとして個性を生み出すための開発も行なっており、「愛着があるAI」を開発するプロジェクトが進行中とのことだ。同社ではさまざまな企業との資本業務提携が決まっており、今後はペロリだけではなく約30もの「AItuber」のリリースを準備しているという。AItuber事務所の設立も予定しているとの話だった。