AIによるフェイクメディアの生成技術は日々進化しており、真贋判定が重要課題です。私たちは、対象とするメディアの真贋を判定するだけでなく、改ざんされている部分や領域を特定し、判断根拠を示すことができる技術を開発しています。
研究背景・目的
AIの進展により、人間由来のデータを大量にAIに学習させることで、本物と見紛う映像、声、文章といった「フェイクメディア」の大量生成が技術的に可能となりました。フェイクメディアによる詐欺や詐称、情報操作が現実の脅威となっており、フェイクメディアであるか否かの真贋判定の必要性が高まっています。
しかし、AIによるフェイクメディアの生成技術は日々進化しており、多様な手法が存在します。その対象もさまざまであり、映像中に含まれる個人の顔や表情、声に含まれる個人性もしくは発話内容、新聞記事や口コミなどもAIで自動生成することが可能です。このように多種多様で、日々進化するフェイクメディアに対して、頑健に真贋判定を行うことが重要な課題です。
研究内容
私たちは、画像、映像、音声、自然言語を対象としたAIによる生成技術を有しており、この技術を活用したフェイクメディアの検出技術を研究開発しています。検出方法は、人間による分析などを一切必要としない、大量のデータに基づく自動識別手法です。それゆえ、圧縮やダウンコンバージョンなどのメディア処理が施されていても、一定の信頼度をもって真贋判定を行うことが可能です。
私たちのフェイクメディア検出技術を用いると、対象とするメディアの真贋判定処理の他に、当該メディアがフェイクであれば、どの部分や領域が改ざんされているのか特定することが可能です。フェイクであると判断した根拠を示す技術であり、フェイクメディアの流通が増加してくると考えられる今後、欠かせない技術になると考えられます。
産業応用の可能性
この技術は、SNSやポータルサイトなどに投稿される映像の自動真贋判定、報道に取り上げる映像の信頼性判定などに利用可能であると想定されます。私たちの技術を検証するためのAIaaSサーバも近日公開予定です。
図）改ざんされた領域を特定し表示するフェイクメディア検出技術。白く塗られている領域が、改ざんされていると判断されている領域である
