テレビ東京とニコニコ動画の連動で放送されている音楽バラエティ番組「ドリームクリエイター」に、2.5次元声優「りのんちゃん」が生出演。その際の、リアルタイムのインタラクティブ演出を担当しました。
「りのんちゃん」は、カヤックが運営するキャラクター・プラットフォーム「GAOON(http://gaoon.jp/)」発の3Dキャラクター。昨年末には青二プロダクションからデビューしています。
一般的にアニメーション制作では、収録済みの映像に声優さんが声を合わせるアフレコという手法が用いられますが、本コンテンツでは声優さんがその場で声を吹き込み、それを解析してリップシンク(口の動きの同期)を実行。
さらに表情をリアルタイムでコントロールすることで、キャラクターに感情を持たせました。マイクからの音声を音声解析し、Unity側でリアルタイムに3Dデータに反映することで、3Dキャラクターのリアルタイムリップシンクを実現。表情やポーズは、キー操作で動かす仕組みをつくりました。