Sep. 2023No.100

生成AIに挑む

NII Today 第100号

Article

インフォデミックの克服「サイバーワクチン」

「シンセティックメディア国際研究センター」を率いる越前教授は、センター設立以前から、フェイクメディア研究の新分野を積極的に切り拓いてきた。時には柔軟な発想で攻める側の手法を考えることが、守りを固めることにも役立っている。

越前 功

Isao Echizen

国立情報学研究所
情報社会相関研究系 教授
シンセティックメディア国際研究センター
センター長

「セキュリティの異能」の豊かな発想

インターネット上には膨大な情報が存在している。ソーシャルネットワーク(SNS)にも日々、無数の写真や動画が公開されている。こうした情報を駆使することで、従来は想像もつかなかったような使い道が出てくる。

警視庁は 2019年、女性アイドルにストーカー行為を働いた男を逮捕した。男はまず、女性が投稿した写真の瞳に映っていた景色と、google の「ストリートビュー」を比べて女性が住む駅を絞り込み、駅からは女性を尾行して自宅を突き止めたという。 画像が高精細になり、目の部分を拡大して映り込んだものが判別できるようになったことで、新たな画像の悪用方法が生まれたわけだ。

越前教授もかねて、画像の品質が高まれば、そこから取り出せる情報も増えることに注目していた。2018年には、3メートルの距離で撮影したピースサインをしている人物の写真を画像処理し、指紋のパターンを読み取るのに成功した。個人個人で異なる指紋は、生体認証として使われることもあるが、原理的には、こうした生体認証を突破できてしまう可能性があることを示した。

越前教授は「残留した指紋を採取するのではなく、遠隔で指紋を窃取するという脅威を検討したかったわけです。誰も考えていなかったことで、ちょっとキワモノと言えますが、私はそういうものに強く興味をひかれます」と話す。

その豊かな発想が発揮されたもう一つの興味深い例が、プライバシーを守る眼鏡だろう。例えば、他人が投稿した写真にたまたま写り込んでいた自分の顔写真を、誰かがネット上の情報と突き合わせ、個人を特定することは可能だ。こうした、知らないうちに起きうるプライバシー侵害から身を守る方法を探ろうと、2012年、近赤外線光源を取り付け、顔の自動検出を防ぐ眼鏡を開発した。眼鏡は改良を重ね、現在はレンズ面の反射により顔の検出を防ぐ眼鏡「プライバシーバイザー」として、福井県鯖江市のメーカーから発売されている。

越前教授は「情報セキュリティの分野では、まだ登場していない、新たな脅威を考えられる力も重要だと思います。突飛なことを考えるので、『セキュリティの異能』などと呼ばれることもありますが」と笑う。

フェイク顔画像に備える「サイバーワクチン」

こうした先駆的な研究の集大成となるのが、シンセティックメディア国際研究センターが日本で初めて開発したフェイク顔映像の自動判定プログラム「シンセティックビジョン」だろう。顔の映像を分析にかけると、偽造されていない自然な顔には緑色の枠が、フェイクの顔の場合には赤い枠が出て、ひと目で真偽が分かる仕組みになっている。

今は真贋判定からさらに進んで、フェイク画像に対する「サイバーワクチン」を開発中だという。例えば人物の映像を公開する前に、顔の特徴に関する情報を、顔の外側の部分に埋め込んでおく。これで、この映像はいわば「ワクチンが打ってある状態」になる。ワクチンを打っていない通常のものと比べ、見た目に大きな変化はないが、顔を別人の顔に置き換えるディープフェイク攻撃を受けても、復元モデルを用いることで、ワクチンの効果が発動し、周辺に埋め込まれた本物の顔の情報を基に、オリジナルの顔に復元してしまうという驚くべき仕掛けだ。

また、ネット上の人物の写真が知らないうちに自動収集されるのを防ぐ、別のタイプのワクチンも開発中だ。「パーソンセグメンテーション」という人物の切り出し機能を不能にしてしまう目に見えないノイズを画像内の人物に埋め込むことで、画像内の人物の切り出しができなくなる。「鯖江のプライバシー保護眼鏡は自分の顔を守るリアルな商品ですが、これはそのバーチャル版」(越前教授)と言える。

niitoday100_5_1.png

【サイバーワクチン接種比較】
【上段】ワクチンを打っていない顔画像(左)は、ディープフェイク攻撃を受け顔を置き換えられた場合(中)、復元モデルを用いてもオリジナルの顔に戻せない(右)
【下段】ワクチンを打った顔画像(左)は、顔を置き換えられても(中)、復元モデルを用いてオリジナルの顔に復元できる(右)

ロシアによるウクライナ侵略を巡っては、ウクライナのゼレンスキー大統領が、自軍に投降を呼びかける演説をするフェイク映像が作られた。有名人の顔を勝手にポルノ映像に入れ込むなどの被害も昔から後を絶たない。顔は人間にとって特別な意味を持つ情報であり、政治的プロパガンダや世論操作、誹謗中傷などに悪用されれば大きな影響がある。ワクチンはまだ研究が始まったばかりの技術だが、パンデミック(感染症の世界的流行)ならぬインフォデミック(偽情報の世界的氾濫)を防ぐため、開発に期待がかかる。

未知の攻撃方法をも予測し対策を打つ

抑止の基本は、先んじて敵の攻撃を制することにある。プライバシー保護眼鏡をはじめ、これから現れる脅威に一歩、先行しようという姿勢は一貫している。「将来、真贋判定が求められる時代が到来する」(越前教授)という確信が、研究意欲を支えてきた。

素人にとっては未知の攻撃手法を想像するのは難しいが、越前教授のアイデアはまだまだ尽きないようだ。ビルの管理者は、マスターキーを持っていれば、すべてのドアを開けられる。泥棒がマスターキーを手にしたら大変で、越前教授も「これはまさに攻撃側の技術」と言うのが、「マスター顔」の技術だ。多数の顔の特徴に一致するような共通の特徴を持っている人工顔を作れば、これは「マスターキー」ならぬ「マスター顔」となり、 顔の認証システムを通過してしまう。現時点ではマスター顔による攻撃は報告されていないが、将来、こうした脅威が現実のものとなった際には、この研究がきっと役に立つことだろう。

現代では、ライバル企業や敵国のコンピュータに侵入して情報を盗みとるスパイ行為や、相手のインフラなどを麻痺させるサイバー攻撃が活発に行われている。ここでは、攻撃手法を熟知することが、自分の防衛網に残る穴をふさぐことにつながる。良い使い方と悪い使い方は、同じ技術に基づく表裏一体のものと言える。未知の攻撃手法を探し、対策を用意する越前教授は、ディープフェイクを駆使する攻撃者たちにとって、最も敵に回したくない人物だろう。

(取材・文 山田 哲朗)

関連リンク
記事へのご意見等はこちら
第100号の記事一覧