知能情報・高度情報処理 マルチメディア・コンテンツの 高次処理の研究

1. AMCP 知能情報・高度情報処理マルチメディア・コンテンツの高次処理の研究 平成９年度開始 西尾 章治郎 大阪大学大学院工学研究科 情報システム工学専攻 nishio@ise.eng.osaka-u.ac.jp

2. AMCP‐Project　参加研究者 プロジェクトリーダー 西尾 章治郎 （大阪大学） 参加研究者 上原 邦昭 （神戸大学） 下條 真司 （大阪大学） 有川 正俊 （東京大学） 北村 喜文 （大阪大学） 塚本 昌彦 （大阪大学） 角谷 和俊 （神戸大学） 春本 　要 （大阪大学） 田島 敬史 （神戸大学） 正城 敏博 （大阪大学） 原 隆浩 （大阪大学） コアメンバー 有木 康雄 （龍谷大学） 岸野 文郎 （大阪大学） 田中 克己 （神戸大学）

3. 本日の講演の内容 • プロジェクトの概要 • 本年度の成果 • 平成9年度以降の活動の特記事項 • 「インタラクションによるコンテンツの生成と提示」の研究内容

4. Hardware Software void main() ・・ ・・ } Multimedia Contents

5. ⑤提示機構 ①組織化機構 共有・ 再利用 ⑥生成支援機構 ユーザ ②内容記述・検索モデル DB 部品化 ・蓄積 ④配送・フィルタリング ③アクセス管理機構 マルチメディア･コンテンツ処理技術 マルチメディア・コンテンツ

6. AMCP-Projectのねらい • マルチメディア・コンテンツの高次処理の実現 • マルチメディアデータベースとしての高度機能 • 連続メディア，半構造メディア処理機能など • 組織化機構 • 内容記述・検索モデル • アクセス管理機構 • 配送・フィルタリング • 提示機構 • 生成支援機構 • マルチメディアデータベース　　の新しいソフトウェアプラット　フォームの確立 • 新分野の開拓の可能性 • 連続メディアの科学 • 演出工学 • 放送とデータベース

7. プロジェクトの成果の例

8. マルチメディア・コンテンツの特徴(1) • ３つの連続性 Video image (1-D data) Time Computer graphics (3-D data) Map (2-D data) s Space Quality

9. マルチメディア・コンテンツの特徴(2) 半構造性 time time time time Micro-topic A News Story ニュース番組の 半構造ネットワーク 個々の ニュース番組も 半構造表現

10. マルチメディアシステム開発の要件 • 適応性(Adaptation) • ネットワーク環境 • 端末環境 • コンテンツ制作者の意図 (author intention) • ユーザの嗜好 (user preference) • 個別化(Personalization) • ユーザの嗜好によるコンテンツ適応 User adaptation = Personalization

11. 映像メディアに対する知的構造化 1 組織化機構 2 内容記述・検索モデル 5 提示機構 6 生成支援機構 • 解析系 • 音声・話者認識の統合 による構造化(H9) • 映像・文字認識による クロスメディア検索(H10) • 記述系 • 映像データ中の内容記述モデルの開発(H10) • 映像データ中の意味的構造の発見(H11) • 編集系 • 映像メディア編集支援システム(H12)

12. 指示 素材映像 検索 結果 インデキシング 検索 撮り下ろし映像 のデータベース 素材映像 データベース 映像メディア編集支援システム ロケ カメラマンは 絵コンテにあう 映像を撮影する ディレクターは 絵コンテを 作成する カメラマン 指示 映像 文法 ディレクター エディター 映像 生成

13. ショットの切れ目 素材映像 カメラワーク pan fix fix 人 1S/FF/F 0S 1S/CU/F 0S フォーカス TS TS FS LS right 動作 static static left 色 F 構図の方向 R L R 映像メディア 編集支援システムの ユーザインタフェース ショットの代表フレームを表示 代表フレーム 番組の映像として使用できるショットの自動抽出

14. 適応型コンテンツ配送アーキテクチャ 1 組織化機構 4 配送・フィルタリング 5 提示機構 • 適応型Webコンテンツ配送 • ネットワーク環境への適応 (Adaptation) • 端末，個人プロファイルの取り込み(Personalization) • PDAのためのコンテンツ詳細度制御(Synchronization) • インタラクティブコンテンツの品質制御 • サービス品質を考慮した配送アーキテクチャ • 複数サーバへの負荷分散 • マルチキャストの利用，詳細度制御 (Adaptation)

15. コンテンツ提供者 適応型Webコンテンツ配送 (bbb company) (abc company) (xyz company) コンテンツ配送サービスの適用 • 端末プロファイル • 個人プロファイル メタデータ ユーザプロファイル コンテンツ ユーザプロファイルの登録・更新 コンテンツ適応機構 WWWサーバ コンテンツ要求 個人化，同期化　 • 端末・個人への適応 • ネットワーク環境への適応 適応コンテンツの配送 ブラウザ（ユーザ）

16. 情報放送環境のためのデータベース 1 組織化機構 2 内容記述 4 フィルタリング 5 提示機構 6 生成支援機構 • コンテンツの受動的視聴技術 • ディジタルTV・携帯端末の ためのWebコンテンツの 受動的視聴技術の開発 • Webコンテンツの自動番組化技術 • 番組コンテンツ記述のためのscript記述言語(S-XML) Relax!

17. コンテンツの受動的視聴技術の開発 高橋尚子が国際千葉駅伝を欠場 左ひざ痛で（17：55） A1 ニュース 高橋尚子が国際千葉駅伝を欠場　左ひざ痛で　シドニー五輪女子マラソンで金メダルを獲得した高橋尚子（積水化学）が、五輪後初の公式レースとして出場を予定していた23日の国際千葉駅伝を左ひざ痛のため欠場することになった。 news.com Webの受動的視聴 台本自動生成（提示パス生成） 意味構造解析 （部分文書抽出，タグ解析による 同期化領域の発見） SMIL（映像ストリーム） S-XML 通常のWeb（HTML文書） 同期化 コンテンツ 生成 台本記述 (S-XML) TVML（音声読み上げ， CGアニメ）

18. 空間メディア統合によるマルチメディア・コンテンツの提示空間メディア統合によるマルチメディア・コンテンツの提示 • 空間メディア統合 • 映像空間メディア， 　静止画空間メディア， 　言語空間メディアとその統合手法の確立 • これらの空間メディアを基本として構築した位置情報の統合管理・利用基盤の構築 • 応用システムの構築 1 組織化機構 2 内容記述・検索モデル 5 提示機構 6 生成支援機構

19. HMD-TOPとROBO-TOPによる現実空間でのコンテンツ共有HMD-TOPとROBO-TOPによる現実空間でのコンテンツ共有 遠隔地ユーザの 操縦するシステム 遠隔地ユーザの画面 現実空間にいるユーザ

20. インタラクションによるコンテンツの生成と提示インタラクションによるコンテンツの生成と提示 • 映像データベース • インデックス • 映像特有の特徴パラメータ(形状，動き等) • 検索キー • 特徴パラメータを直感的に入力(ジェスチャ) • 検索結果 • コンテンツの生成に利用 1 組織化機構 2 内容記述・検索モデル 5 提示機構 6 生成支援機構

21. AMCP-Projectの大規模応用システム • 実コンテンツと関連したプロトタイプ • バーチャル適塾・懐徳堂 • エデュテイメントとデータベースの一例 • ＡＭＣＰプロジェクトの最終年 • 　　　２００１年５月完成予定 大阪大学グループ 大阪大学７０周年 記念事業

22. 適塾塾生データベース 検索画面 人物情報画面

23. 国内外との連携・交流 • AMCP’98で関連分野の著名な研究者を6名を招聘 　　　　→これらの研究者との継続した研究交流 • 同様な国家プロジェクトを推進しているオランダCWI，Univ. of Twenteの研究グループとの情報交換 • 米国San JoseのNECの研究所，シンガポールNUSなどとの協調的な研究の継続 • DBWeb2000の共催 • 我が国のデータベース研究領域における最大規模のシンポジウム • 「マルチメディア・コンテンツの知的構造化」の研究会を共催（2000年11月）

24. これまでの研究業績（平成9年度のプロジェクト開始以降）これまでの研究業績（平成9年度のプロジェクト開始以降） • 特許出願中 1件 • 公開を目的としたソフトウェアの開発 １３件 • 招待講演 ３４件 • 招待論文（英文誌） 5編 • 本プロジェクトを紹介した特集英文論文誌 （ＮＧＣ　Vol. 18, No. 4, 2000) • 論文誌掲載論文 ７９編 • 国際会議録掲載論文 １４８編 • 国内シンポジウム・研究会・学会大会等 ３００編以上 • 岩波講座「マルチメディア情報学」　第７，８，１２巻