ニュース / News

ニュースリリース

2021/07/01

AI動画・音声を研究するシンセティックメディア国際研究センターを新設
～AI動画の生成、フェイクメディアの検知、メディアの信頼性確保の研究を推進～

　大学共同利用機関法人情報・システム研究機構国立情報学研究所（NIIエヌアイアイ、所長：喜連川優、東京都千代田区）はこのほど「シンセティックメディア国際研究センター」（センター長：NII情報社会相関研究系　教授越前功）を設置しました。本センターは、国立研究開発法人科学技術振興機構（JST）のCREST「インフォデミックを克服するソーシャル情報基盤技術」^（*1）（研究代表者：本センター長越前功 NII情報社会相関研究系教授）、CREST「VoicePersonae: 声のアイデンティティクローニングと保護」^（*2）（研究代表者：本センター副センター長　山岸順一 NIIコンテンツ科学研究系教授）の研究の重要性を受けて設置したものです。

　今後、人間中心のAI社会を実現するために、顔、音声、身体、自然言語などの多様なモダリティを対象とした、AIによるリアルな音声付き動画である「シンセティックメディア（Synthetic media）」の生成、「不正な目的で生成されたシンセティックメディア（フェイクメディア）」の検知、メディアの信頼性確保、意思決定支援のための研究開発を、実世界の課題を取り上げながら国際的な拠点として推進していきます。

　現在、顔、音声、身体、自然言語などの人間由来の情報をAIが学習し、本物と見紛う音声付き動画「シンセティックメディア」の生成が可能になりつつあります。シンセティックメディアは、バーチャルアバターなどのコミュニケーション分野や、落語音声合成などのエンターテイメント分野を始めとした様々な分野で活用が期待されており、高品質なシンセティックメディア生成技術の確立が期待されています。一方で、シンセティックメディアの負の側面として、詐欺や思考誘導、世論操作を行う目的で、愉快犯や攻撃者が、フェイク映像、フェイク音声、フェイク文書といったフェイクメディアを生成、流通させる可能性があり、すでに社会問題となっています。

　未来価値創成を使命とするNIIは、人間中心のAI社会を実現するために、顔、音声、身体、自然言語などの多様なモダリティを対象とした、「シンセティックメディア」の生成、「不正な目的で生成されたシンセティックメディア（フェイクメディア）」の検知、メディアの信頼性確保、意思決定支援のための研究開発を推進するために、実世界の課題を取り上げながら、国際的な拠点として推進するための研究施設^（*3）（センター）として「シンセティックメディア国際研究センター」を設置しました。

　本センターでは、多様なメディアの利活用と信頼性確保を学際的・国際的体制で追究することで、新たな科学技術分野の創生や、産学官連携を通じた実社会への適用を目指していきます。

ニュースリリース（PDF版）

AI動画・音声を研究するシンセティックメディア国際研究センターを新設
～AI動画の生成、フェイクメディアの検知、メディアの信頼性確保の研究を推進～

（*1） CREST「インフォデミックを克服するソーシャル情報基盤技術」：　AIにより⽣成されたフェイクメディア（FM）がもたらす潜在的な脅威に適切に対処すると同時に、多様なコミュニケーションと意思決定を⽀援するソーシャル情報基盤技術を確⽴します。3種類に分類した多様なモダリティによるフェイクメディア（FM）を対象に、FM⽣成技術、FM検出技術、FM無毒化技術を確⽴するともに、これらの技術を活用してSNS上で多様な意思決定を⽀援する意思決定支援技術を確⽴します。
（*2） CREST「VoicePersonae: 声のアイデンティティクローニングと保護」：　音声は私たちのアイデンティティの一部であり、生体認証、音声合成、声質変換、音声プライバシーなどに深く関係しています。しかし現在これらの分野では相反する目標に向けて個別に研究が進められています。本プロジェクトでは、声のアイデンティティに関する分野の壁を取り除くと同時に、話者性のモデル化技術を高精度化し、音声による生体認証の安全性と頑健性を高め、音声のプライバシー保護を強化する新しい技術を研究します。
（*3）研究施設：　達成すべき目標が明確な研究課題に計画的に取り組む研究部門。「サービス・事業」「大型研究プロジェクト」「産官学連携」の3種類があり、本センターは「大型研究プロジェクト」。