TOP     イベント情報     電子ジャーナル  /  電子展示  /  映像配信  /  News Letter  /  著書・論文など実績
NEWS LETTER
ISSUE.001 ISSUE.002 ISSUE.004 ISSUE.005
【ISSUE.003】
人文科学とコンピュータシンポジウム2004
モーションキャプチャ技術と身体動作処理プログラム



「モーションキャプチャ・プロジェクト」では、無形文化財の保存と解析を主たる研究テーマにおき、モーションキャプチャ・システムを利用した舞踊のデジタルアーカイブ化とデータ解析の研究を行っている。ここでは、このモーションキャプチャ・システムの仕組みとその手順、さらに、われわれのプロジェクトでの、舞踊の身体動作データに対する情報処理についての研究を簡単に紹介する。



デジタルアーカイブでは、絵画、地図、写真などの、いわゆる平面資料を対象とした活動が基本となるが、彫刻・仏像や考古遺物など立体的な対象の高精度計測によるデジタル保存も行われるようになっている。さらに、このような有形の資料・文化財だけでなく、音楽や舞踊などのいわゆる無形文化財をも対象とするようになってきた。
舞踊などの無形文化財の記録は、基本的に身体運動の記録になる。これにはビデオなどの動画による映像記録が最も手軽なもので、広く利用されている。しかし、身体運動そのものを厳密に記録し再現するためには、人体各部の3次元位置の時間的変化の様子を計測する必要がある。
90 年代に入って、人間の身体運動の3次元空間内の運動を計測するモーションキャプチャ・システムが開発され、これにより人体各部の座標値の時系列データを取得することが可能となった。当初は、おもにコンピュータゲームや映画制作などに利用されたが、近年、舞踊や芸能などの無形文化財の記録・保存にも利用されるようになってきた。
モーションキャプチャ装置には、原理上、大きく分けて、光学式、磁気式、機械式の3つの方式がある。踊り手に対する負担が少ないという意味では、光学式がもっとも好ましい。図1に光学式によるモーションキャプチャ・システムの構成図を示す。踊り手には、ピンポン玉よりやや小さい球形の反射マーカを、関節近くの体表面に、20から30 個程度取り付ける。踊り手を中心に、ライト付きの複数の高精度ビデオカメラを配置する。ライトからの発光によりマーカが明るく反射してこれがビデオカメラで撮像される。実際のモーションキャプチャの様子を図2に示す。
ひとつの対象物が、位置が既知の2台のカメラで撮影されれば、この2枚の撮影像から、対象物の3次元位置を知ることができる。これは、土木工事現場などで使われる三角測量の原理と同じである。モーションキャプチャの場合、対象の人体は姿勢を変えながら空間内を動き回るので、2台のカメラだけでは、常にすべてのマーカを捕捉することはできない。このため、普通は6台から10台程度の複数のカメラを利用し、すべてのマーカが、常にどれか2台以上のカメラに捉えられているようにする。 この計測にあたっては、それぞれのカメラの位置、向いている方向などが正確に分かっている必要がある。このために、計測の前にシステム全体のキャリブレーション(較正)の作業が必要である。検出された個々のマーカの位置が体のどの部分につけられたものであるかを決めることをラベル付けという。あるマーカの像が身体のどの位置につけられたマーカのものかということは、ある時点のマーカの反射像だけからでは分からない。このため、普通は、最初に全体のマーカが明確に見える姿勢をとってから、この初期状態を基準にして、順次マーカ像を追跡していくことになる。しかしこのようにしても、手を交差したときなどに、左右のマーカを取り違えてしまうこともある。
また、複雑な動きをする人体を対象とするので、上述のように、常にすべてのマーカが複数台のカメラで捉えられているということは必ずしも保証されない。マーカが体の一部で隠されてしまうこともある。この場合はマーカ像が欠落することになる。
このように、モーションキャプチャにおいても、常に完璧なデータが得られるということはなく、マーカの欠落、ラベル付けの失敗などが頻繁に発生する。さまざまな調整を行うことでこれらの可能性を減らすこともできるが、最終的には、これは手作業により修正を行う必要がある。これを、後編集の作業と呼んでいる。これは大変な経験と時間を必要とする作業である。図3は、このようにしてラベル付けされたマーカ情報をもとに、体の構造を再現し表示したものである。
このように得られたマーカの位置情報を元にして、人間の体型をモデル化したCG像をあてはめて表示することができる。図4はその結果である。この処理により、人体の主要な関節の位置を得ることができる。 モーションキャプチャによりデジタル化された身体動作データを利用して、CGによる舞踊のアニメーションやマルチメディア教材を作成することもできる。図5は、能の演目「大会(だいえ)」の仕舞をモーションキャプチャしたデータをもとにして作成した3次元CG アニメーションの1コマである。

ページトップ


さて、このようにしてモーションキャプチャにより得 ら れた舞踊の身体動作データを対象として、われわれのプロジェクトではさまざまな情報処理の研究を行っている。以下ではこの中の幾つかを紹介する。



モーションキャプチャ・システムを利用し、さまざま な 舞踊をキャプチャしてきているが、今後、データが増え続けていくと、これらのデータの管理が課題となる。
現在、モーションキャプチャデータの管理システムを構築中であるが、この際、文字データによる管理情報からだけでなく、身体運動の類似性に基づく、動作データの「内容検索」についても実現できることが要求される。このような観点から、モーションキャプチャによる舞踊の身体運動データの類似検索の研究を行っている。
類似検索のためには、身体動作データ間での類似度を求める必要がある。どのような基準で身体運動の類似性を定義するかについては考慮すべき点がいくつかある。たとえば、同じ「歩く」動作であっても、右足から踏み出す場合もあれば、左足から踏み出す場合もある。また、歩く速度にもばらつきがあり、立つ位置や向きもさまざまである。これらは同じ「歩く」という動作で、類似動作とみなすことができるが、モーションキャプチャのデータは全く異なったデータである。また、舞踊の表現には、全体的には同じ身体動作であっても、その一部分での動作速度が演技者により変化するようなものも見られるのが通例である。これらの差異や体型(サイズ)の差異を吸収した類似動作の検索を可能にする必要がある。
本研究では、身体動作データのマッチングのために、音声認識や手書き文字認識などで長さの異なるデータ系列間でのマッチングに広く用いられているDPマッチング法を使用する。これで、動作速度の差異を吸収する。動作の類似性は、人体モデルの対応する関節間の距離を求めることで判定する。2つの身体姿勢が与えられたとき、対応する関節間の距離の総和で身体姿勢間の距離を定義する。一連の身体姿勢の系列、すなわち身体動作データ間については、フレーム数にわたる身体姿勢間の距離の総和を求め、これを身体動作データ間の距離とする。
このようにして、類似した身体動作を検索するためのシステムを作成した。舞踊の比較研究においては、手の動き、足の動きだけに注目したいこともある。このため、体の各部位、たとえば、右手の動作だけを対象とした検索もできるようにしている。



舞踊は時間芸術であり、時間の経過により表現される も のであるが、ある瞬間瞬間のポーズにより、表現される部分も多い。このような観点から、一連の舞踊のモーションキャプチャデータの中から、その舞踊を適切に表す、いくつかの特徴的で代表的な身体ポーズ、あるいは、音楽のいわゆる「サビ」のような主要な部分を抽出する、図6のような、各時点での、踊り手の体全 体 基礎的な手法について研究している。舞踊における「見せ場」はどのような特徴をもっているか、また、それは、見る人にどのような印象を与えるか、などがおもな課題となる。 これではを包み込む最小凸多面体(凸包という)を求め、これの体積の値の時間的変化(図7) をもとに、特徴的なポーズを求めている。図8に結果の一例を示す。



熟練者と非熟練者の身体動作を比較し、これらの相違を定量的に明らかにすること、西洋の舞踊と日本の舞踊との定量的な比較を行うこと、舞踊の上手下手、表現力の豊かさなどはどのような身体姿勢や運動によって形成されるのかなどを、モーションキャプチャデータの定量的な解析によって行う。これは、もちろん対象とする舞踊の種類により、注目すべき部位や特徴量が異なるが、たとえば、腰の部分の動き、手の先の動きなどから特徴抽出を行い、これに基づいて、定量評価の可能性を探る。
いままでに、主に定性的な観点から行われた舞踊研究者による体系的な日本舞踊の研究成果にもとづき、これをモーションキャプチャによる物理的・定量的データ解析により裏付けようとする研究を行っている。すでに、「オクリ」という日本舞踊の基礎技術の中の、女性的表現のために使われるものに着目し、しっとりとした女性らしい印象を与える動きを定量的に分析し、さらにオクリが段階を追って習得されることを定量的に確認した。また、説明的動作として分類されるオクリ動作について同様の解析を行った。説明的動作のオクリでは、手の動作が足の動作を誘導することなどが分かった。
舞踊の熟練・非熟練の定量解析などを行うためには、まず、どの身体部位の動きに着目すべきかを明らかにする必要がある。これは舞踊の種類によっても異なるであろうし、着眼点も舞踊家それぞれで異なるであろう。これらの研究は、まだ初歩的な段階であるが、舞踊の解析においては、このような、舞踊家または舞踊研究者による視点に立脚した共同研究が重要であると考えている。また、これらの研究においても、より多くの演者、演目によるデータに基づく統計的な分析による一般化が今後の課題である。現時点では、個別的な試みを行っている段階であるが、いずれこれらの成果を統合することにより、一般化できるようになることが期待される。



舞踊とは、人間の身体運動に他ならないが、舞踊を見る人は、身体の動作からさまざまな感性的な印象を受ける。身体と感性の関連については、顔の表情に対する研究は多く行われているが、身体動作に対する感性研究は、まだ、あまり行われていない。しかし、舞踊の解析という観点からは、これは重要で興味ある課題である。
われわれは、舞踊の身体動作とそれを観察したときに受ける感性との関連について、まずビデオ映像を用いた心理実験に基づく基礎的研究を行い、この結果をふまえて、モーションキャプチャデータから得られるいくつかの物理的特徴量との関連で同様の検討を行っている。
ページトップ


ここでは、われわれのプロジェクトで行っている、モーションキャプチャによる舞踊のデジタルアーカイブ化とそのデータに基づく情報処理研究の紹介を行った。
ところで、現在のモーションキャプチャ技術によって、舞踊などの表現芸術を記録すること自体に問題がないわけではない。すなわち、身体各部の3次元位置を正確に記録するために、踊り手は、ほとんど裸に近い状態での計測を余儀なくされるので、そのことが演技に影響を与える可能性がある。また、身体の動きだけがすべてではなく、着衣や化粧の状態も重要であるにもかかわらず、これらはモーションキャプチャだけでは記録できない。
また、舞踊の表現で重要な働きをする踊り手の顔の表情や、眼の動きによる視線方向を計測するのも難しい。手や指の動作については、小さなマーカを指の関節に付けることにより計測は不可能ではないが、身体全体の動きと同時に計測するのは非常に難しい。また、速い動きに追従するのも、現在のシステムでは難しい。
しかし、現時点ではこのような課題を含みながらも、モーションキャプチャにより、舞踊等の無形文化財における身体運動の定量的な解析が可能になるとともに、従来の定性的な評価との関連づけることにより、その芸術の源を探る糸口を得ることができるのではと期待される。
ページトップ