2011/06/15更新

マイクロソフト時代:“人間の表現”への開眼

博士課程を修了したMarschner氏は、ヒューレット・パッカード社(Hewlett Packard Laboratories)における1年間のインターンを経て、Pos-Docとしてマイクロソフト社(Microsoft Research, Redmond)の“フェイシャル・アニメーション”のプロジェクトに参画した。アニメーションそのものはモーション・キャプチャをベースに作成され、Marschner氏に託されたのは顔の形状や質感のリアリズムを向上させることだった。

Marschner氏は、ちょうどその前年の1999年、博士論文をベースに、人間の顔の反射特性を計測によって復元する手法を考案し、Eurographicsという学会で論文発表していた。マイクロソフト社のプロジェクトへの参画は、そのようなバックグラウンドゆえという側面もあったようだ。実際のところ、プロジェクトで開発されたパイプラインのレンダリング部分には、1998年の博士論文や、前述の1999年の論文の内容が色濃く反映されており、その内容は2000年のEurographicsでさらに論文として発表された。

そして、この時期にMarschner氏はもう1つの非常に重要な“出会い”を果たしている。それは、当時マイクロソフト社で“毛”をリアルタイムにレンダリングする技術を開発していた、Jed Lengyel氏との出会いだった。同じコーネル大学出身のLengyel氏とは、仕事を共にするのはもちろん、仕事を離れた部分でも多くの時間を共有したという。その当時の最もメジャーな毛の質感モデルといえば、Kajiya-Kayモデルで、Lengyel氏も、このモデルを用いて毛のリアルタイム・レンダリング・システムを開発していた。そんなLengyel氏との交流を通して、Marschner氏はこのモデルの限界を切実に感じ取ることになった。毛の質感をよりリアルに表現するためには、その表面における反射だけでなく、その内部構造と光との干渉をモデル化する必要があると考えるようになったのは、この時期だったという。マイクロソフト時代は、Marschner氏が“人間の表現”に開眼した時期であったと同時に、Marschnerモデルの発想の原点が育まれた時期でもあったのだ。

"Image-Based BRDF Measurement Including Human Skin"
(Stephen R. Marschner, Stephen H. Westin, Eric P. F. Lafortune, Kenneth E. Torrance, Donald P. Greenberg, Cornell University, Eurographics Workshop on Rendering1999)


Marschner氏の博士論文の手法は、人間の顔の反射特性の計測に用いることもできる。ただし人間の顔の形状は、シリンダーや球のように単純な形状で近似できないため、顔の形状を3Dスキャナで計測しておく必要がある。この計測では、顔の位置の変化による反射特性の変化は考えておらず、額部分の皮膚の反射特性のみを計測している。図aは計測の様子で、額部分のサンプル点の位置と、ライト、カメラの位置との関係を算出するためのガイドとして、サンプルに相当する印をつけたフェルト帽を頭に被せている。その他の計測やBRDFの計算方法は、博士論文の場合とまったく同様だ。
図bの左列は、0°30°60°75°の光の入射角に対して、すべてのサンプル点で算出した反射特性の値をプロットしたもので、右列はこれをグラフ化したものである。"反射特性"といっても、人間の皮膚の場合にはサブサーフェース・スキャタリングの効果なども含まれているため、通常のディフューズ反射モデル+スペキュラ反射モデルでは近似できない形状のグラフとなっている。
図cは、この計測で得られた反射特性を与えてレンダリングした結果を示している。左は43歳の白人(コーカサス系)の額を計測した反射特性、右は23歳の黒人(インド系)の額を計測した反射特性が与えられている。

"Modeling and Rendering for Realistic Facial Animation"
(Stephen R. Marschner, Brian Guenter, Sashi Raghupathy, Microsoft Corporation, Eurographics Workshop on Rendering2000)


この研究では、顔全体の位置の変化によるディフューズの反射特性の変化をテクスチャ(Albedo Map)として復元することが目指された。ディフューズだけが対象となっているため、図aのように計測ではポラライザーを付け、撮影画像にスペキュラの反射成分が入り込むことを防ぎつつ、計測する顔の向きを変えて様々な部分を撮影している。顔の形状はあらかじめ復元されており、顔のサンプル点と、カメラ、ライトとの位置関係を復元する目安として、計測者はトラッキング用の印のついた帽子を着用している。その他の計測やBRDFの計算方法は、博士論文の場合とまったく同様だ。
図bの上段は、各方向から撮影された顔の各部分における、ディフューズの反射特性をRGBチャネルそれぞれに対して復元し、テクスチャとして記録したものを示している。下段はこれらのテクスチャに重み付けをし、つなぎあわせた最終的なテクスチャを示している(サンプル点における法線方向と、カメラ方向とが成す角度が大きいほど、重みの値は小さくなる)。
図cは、このようなテクスチャを顔の形状にマッピングし、レンダリングした結果を示している。