研究 / Research

参画する大型プロジェクト

JST 経済安全保障重要技術育成プログラム

SYNTHETIQ X :フェイク情報拡散の防御と予防を実現する研究基盤

顔、身体、音声、自然言語などの人間由来の情報をAI が学習し、本物と見紛うシンセティック情報の生成が可能になりつつある。シンセティック情報は、コミュニケーション分野やエンターテイメント分野を始めとした様々な用途で活用されている。一方で、シンセティック情報の負の側面として、詐欺や思考誘導、世論操作を行う目的で、愉快犯や攻撃者が、フェイク映像、フェイク音声、フェイク文書といったフェイク情報を、AI を用いて生成・拡散させており、国際的な脅威となっている。

本研究では、画像・映像、音声、テキストといった単一のモダリティによるユニモーダルメディアに加えて、複数のモダリティで構成されたマルチモーダルメディアを対象に、AI による生成物か否かといった真贋判定のみならず、どのような経緯で生成されたのかといった来歴を含めた詳細な情報を提供可能な、フェイク情報拡散の防御技術を確立する。また、第三者による意図しないメディアの自動収集や、AI による当該メディアの改変、フェイク情報の学習を事前に防止可能な、フェイク情報拡散の予防技術を確立する。さらに、ユニモーダルメディアとマルチモーダルメディアを対象に、リアル情報とフェイク情報からなる大規模データセットと多様なフェイク情報を生成する生成モデルに加えて、本研究で開発したフェイク情報拡散の防御モデルと予防モデル、および本研究に関連した多数の防御モデルで構成された、フェイク情報の生成と防御・予防という攻防の実践に適したフェイク情報研究基盤（SYNTHETIQ X）を構築する。

プロジェクトの概要

JST さきがけ

継続能動学習における双対なジレンマの包括的調律

研究代表者：情報学プリンシプル研究系助教　小林泰介

無限定な実世界で有限な計算時間・資源を課される自律ロボットにとって、継続的かつ能動的な学習が不可欠である。しかし、継続学習では AI モデルを学習する際に生じる「安定性と可塑性のジレンマ」が、能動学習では AI エージェントが新たな経験を積む際に生じる「探索と活用のジレンマ」が本質的な課題として知られている。これらは、ジレンマの特性から 2 指標の常時両立はできず、状況に応じてバランスを適切に調整して、ようやく期間全体での両立が達成される。しかし、双方の学習技術が各々のジレンマのバランスを独立に調整すると干渉が生じてしまう。本研究では、現状では独立した技術である継続学習と能動学習を統合した一つの方法論として新たな理論体系を構築していく。この統合で鍵となるのが、2 つのジレンマが類似性を持っている点である。安定性と可塑性のジレンマではデータを「受け取った」モデルが過去データと新規データのどちらを重視して学習するか、逆に、探索と活用のジレンマではモデルへと「送り付ける」データの新規性と過去との一貫性のどちらを重視してデータを獲得するかを考えている。すなわち、互いに共通するのはデータの新旧であり、異なるのはデータの受け手か送り手か、というある種の双対性が仮説立てられる。この仮説を立証するべく、新たな方法論の数理を明らかにするとともに、双対なジレンマのバランスを包括的に調整可能な汎用アルゴリズムを開発している。そして、実世界で双対なジレンマを巧みに考慮して学習・活躍し続けるロボットを実現することを目指している。

本研究で注目する継続学習・能動学習が抱えるジレンマの双対性

JST NEXUS事業

マルチモーダル対応の切断：より安全で公平なマルチモーダルAIGCの構築

研究代表者：コンテンツ科学研究系教授　佐藤真一 

本研究は、JST NEXUS : 日 ASEAN 科学技術・イノベーション協働連携事業の支援により実施しており、日本と ASEAN との国際共同研究や人材交流による科学技術協力の推進を目指している。本研究では、日本側の表記研究代表者と、シンガポール側は A*STAR の Joey Zhou を研究代表者としている。

このプロジェクトでは、生成 AI コンテンツ (AIGC) 等における主要な課題である、マルチモーダル AI システムの安全性、公平性、有効性を高めることを目指し、マルチモーダルデータの有用性を維持する高度なプライバシー保護方法の導入、クロスモーダルプライバシーリスクに対処するための新しい匿名化技術の導入、マルチモーダルデータのバイアス検出並びに軽減を実現するフレームワークを作成することを目的としている。シンガポール側は主としてプライバシー保護や安全性に注力し、日本側は主として公平性に注力しているが、相互に連携して研究を進めている。2025 年度は、公平性に関し、画像識別器の公平性の解析について取り組んだ。より具体的には、顔画像に基づく性別識別の画像解析モデルが広く使われているが、これらが人種や年齢により著しく性能が落ちることを指摘した。次いで、ターゲットの識別モデルが外部 API 等でしか公開されておらず、わずかな実験しかできず、かつ公平性検証のためのデータについては、データ流出を防ぐため外部 API に投入することができない場合に、効果的に当該モデルの公平性を検証する手法について検討した。検証の結果、数十程度のわずかな評価データのみで十分な推定が可能であることが実証できている。本研究の概要を図に示す。また、本成果はIEEE Accessにて公表済みである (doi :10.1109/ACCESS.2025.3641692)。

アクセスが限られた条件下での公平性検証フレームワーク

JST SICORP「エッジAI」

無線通信とセンシングを連携させたスマート工場向け省電力軽量エッジAI技術

研究代表者：アーキテクチャ科学研究系教授　金子めぐみ

2030 年代の 6G 無線時代には工場のオートメーションや自動運転など、Industrial Internet of Things（IIoT）端末の利用が拡大し、それらを制御、管理するための無線通信の重要性が増大することが想定される。無線通信の通信品質は周囲の環境により刻々と変化し、また、多数の IIoT 端末が接続されると品質が不安定となるため、その中で厳しい通信要件を満たすものを高信頼 ( 極小なパケットロス、低遅延 ) に通信させることは困難である。

本研究は、科学技術振興機構（JST）とフランスの NationalResearch Agency (ANR) が公募する戦略的国際共同研究プログラム（SICORP）「日本－フランス国際産学連携共同研究」（エッジ AI）の枠組みで 2023 年に採択され，2027 年11 月まで実施される。日本側の国立情報学研究所と NTT 株式会社、フランス側の国立科学研究センター CNRS IRISA とWavely 社の、4 機関が連携している。本研究では、高性能かつ省電力なエッジ AI 技術を開発し、低機能な IoT 端末でも利用可能な「軽量 AI」を実現するとともに、軽量 AI を活用した、端末等のエッジデバイスでのセンシング技術、無線通信制御技術を開発している。それにより、工場などの複雑な通信環境の変化に適応して安定的に高信頼な通信を実現できる技術の確立をめざす。本分野トップ論文誌や国際会議（IEEEInternational Conference on Communications (ICC) 2026 等）で研究成果を世界へ発信する。今後も、これまでの共同研究で培った深層強化学習を活用したマルチ無線制御技術をもとに、軽量なエッジ AI による無線通信・センシング技術に発展させ、スマート工場等での実用化に向けた技術検討を加速していく。