研究 / Research

科学技術振興機構(JST) CREST：信頼されるAIシステム

記号推論に接続する機械学習

研究代表者：情報学プリンシプル研究系 准教授 杉山 麿人

深層学習の成功を契機とし、生命科学、物理学、化学などの科学的な分野から、社会的、経済的な分野に至るまで、多彩な領域にわたって人工知能技術の応用が広がりを見せている。

しかし、深層学習をはじめとした機械学習技術が実社会に実装され、様々な局面で用いられるようになったことで、解釈性の不足や外挿に対する脆弱性、様々なバイアスといった、機械学習が本質的に抱えてきた問題、または周辺領域との関わり合いの中で顕在化してきた問題が共有されつつある。これらの問題に対して真摯に向き合い、信頼される人工知能を開発することが必須の課題である。

本研究では、その基盤となる基礎技術の創出を目的として、大量パラメータを利用する現代的な機械学習と、推論根拠の解釈性に優れた記号推論の融合を実現する。主に幾何学的なアプローチに着目し、記号推論を前提とした機械学習システムを設計・構築することで、機械学習がもつ信頼性についての課題と、記号推論が持つロバスト性についての課題を同時に解決する。鍵となるのは、記号推論系の構造をグラフ的にエンコードした記号空間を構成し、その記号空間上に重ねて機械学習モデルのパラメータ空間を構築することで、記号推論と機械学習が同期する空間を幾何学的、代数学的に構成するアプローチである。

対象空間とモデル空間が統合され、学習と推論の特性を併せ持つホワイトボックスなシステムとなるため、機械学習の結果を記号推論によって説明することができ、同時に記号推論を連続空間での最適化としてロバストに実行できることが期待される。

JST さきがけ：生体多感覚システム

感覚運動介入系を用いた多感覚システム構造の解明と工学応用

研究代表者：情報学プリンシプル研究系 助教 志垣 俊介

ロボットの運動性能や人工知能が進歩した今日においても、ロボットの社会実装はいまだ達成されていない。一方で、自然界に存在する生物が発揮する振る舞いは人工システムとは異なる柔軟さや適切さを感じる。昆虫の多くは全身で神経細胞数が数十万程度であり、近年の10億個のトランジスタを数十GHzで駆動するマイクロコンピュータと比べて格段に小規模であることは明白である。

このことに鑑みると昆虫は機能に対して人工物と異なる効率化されたシステムを持つと考えられる。この昆虫のシステム構造をそのまま人工化できれば、省エネルギーでありながら頑健性や適応性に優れた人工システムの開発が可能となる。すなわち、現在のロボットシステムが社会に浸透していない大きな理由である未知環境への対応能力について、昆虫の多感覚運動統合システムの人工化によって解決できると期待する。

そこで本研究では、(1)昆虫の感覚と運動機能に介入可能な昆虫用バーチャルリアリティシステム（VR）を用いた神経行動学実験、(2)計算論的神経科学アプローチによる神経回路の記述、(3)データ駆動型モデリングによる多感覚情報から状況適応的に運動を生成する動作アルゴリズム構築を横断的に実施することで、機械システムを同定するように徹底的に昆虫の多感覚システムの同定を目指す。

これにより、生物が有する多感覚刺激に対する適応的な行動選択メカニズムの解明だけでなく、不確実性の高い未知環境に対しても高効率かつ適応的に振る舞うことのできる人工システムの創成が可能となる。これにより、自然が持つ優れた知的機能の構造解明とその工学的応用に貢献する。

JST 未来社会創造事業

機械学習を用いたシステムの高品質化・実用化を加速する"Engineerable AI"技術の開発

研究代表者：アーキテクチャ科学研究系 准教授 石川 冬樹

本プロジェクトにおいては、医療や自動運転など安全・信頼が重要となる領域を見据え、細やかなニーズに応じてAIシステムを仕立て上げるための技術を"Engineerable AI" 技術と呼び、その研究開発に取り組んでいる。AIの産業応用に取り組むエンジニアが活用できる技術に焦点を置いている。

具体的な技術課題として、深層学習技術における大量データへの依存性と、振る舞いの制御困難性の二つがある。第一に、大量データへの依存性があり、希少だが多様な種類があるがんの病変など、データが少ないが重要であるような対象・状況に対し、信頼できるAIを構築することが難しい。第二に、振る舞いの制御困難性があり、安全につながる実世界の認知機能などに対し、多数の認識対象に対して事故リスクを踏まえて性能調整をしたり、以前の振る舞いのよい部分を維持しつつ改善を行ったりすることが難しい。

本プロジェクトにおいては、これらの技術課題を踏まえ、ドメイン知識を埋め込んでAIを構築する技術や、AIの誤りに関する分析を通してAIを修正する技術に取り組むとともに、対象ドメインやシステムにおけるニーズやリスクを綿密に分析し、これらの技術を包括的に活用するためのフレームワークを提供する。以上の技術については、安全・信頼が最重要となるシステムの代表例である医療および自動運転の二領域での実証に取り組んでいる。

JST START：プロジェクト推進型 起業実証支援

ソフトウェア品質の論理的説明技術による自動運転の本格普及の実現

研究代表者：アーキテクチャ科学研究系 教授 蓮尾 一郎

ソフトウェアの品質を解析し・向上させ、顧客および社会に安全性説明を行うICTサービスをビジネスとするベンチャー企業の設立を目指す。特に自動運転領域に戦略的集中し、安全性への不安を払拭する技術を提供して、自動運転技術の社会受容および本格普及を実現する。

現在主流の統計的安全性保証アプローチに対して、強い安全性保証と高い説明可能性を実現する論理的アプローチの必要性が叫ばれており、ERATO蓮尾プロジェクトの先端的基礎研究成果の社会展開により、このニーズに応える。
計画するサービスを支える技術シーズの基礎研究。および必要なソフトウェアツールのプロトタイプ実装については、ERATO蓮尾プロジェクトの本期間（2016ー2021年度）において既に終了している。しかしこの論理的技術を事業展開するためには、技術の可用性・可搬性を向上させるための研究と、ツール実装の洗練が必要であり、そのための開発を本STARTプロジェクトにおいて実施する。また技術の先進性・未踏性を鑑みるに、事業展開において新たな研究課題が生起する可能性があるため、その解決のための研究も本STARTプロジェクトで実施する。

ここでは、より基礎的・長期的理論研究を担うERATO蓮尾プロジェクト（追加支援期間、2022ー2024年度）と密接に協働することにより、事業展開の加速のみならず学術研究の加速も追求する。

JST さきがけ：信頼されるAIの基盤技術

リスク・アウェア制御理論の構築とその展開

研究代表者：情報学プリンシプル研究系 准教授 岸田 昌子

近年、自動運転車や航空宇宙システムなど、人命に関わるセーフティ・クリティカルな動的システムの自動化が急速に進んでいる。これらのシステムは、不確実性の高い環境下でも確実に動作する必要がある。不確実性を定量化し設計に反映することでシステムの信頼性と安全性を向上させる制御技術に関する多くの研究が存在するものの、既存の制御理論は稀な重大事故による損失を適切に設計に反映させることはできていない。しかし、セーフティ・クリティカルな動的システムでは、予期し難い稀な重大事故などの事象の発生確率とその影響を数学的に適切にモデル化した上で、性能やコストをリスク許容度に照らし合わせた高い信頼性を有する制御設計が必須である。

この研究では、極めて低い発生確率であるものの、ひとたび発生すると巨大な損失をもたらすテール・リスクに着目したリスク・アウェア制御理論の構築に取り組む。この理論は、稀ながら重大な影響をもたらす事象の発生確率とその影響を数学的に分析し、その結果を制御設計に組み込むことで、従来の制御理論では実現できなかったレベルの信頼性と安全性を達成することを可能にする。さらに、新たな制御理論基盤を確立した上で、重要な制御の問題を定式化し直し、その解法を導出し、さらに既存の制御手法をリスク・アウェアな制御手法に拡張していく。

JST 創発的研究支援

音の空間的制御とその応用展開

研究代表者：コンテンツ科学研究系 准教授 小山 翔一

環境騒音は長く社会問題であり続けているが、音空間をコントロールすることは技術的なハードルが高く、いまだ解決されていない問題の一つである。工場等における高いレベルの騒音はもとより、道路交通騒音や航空機騒音などの比較的低いレベルの騒音であっても、人体に様々な健康上の影響を引き起こすことが知られている。また、最近では日常的にテレワークをする人が増え、日常生活での騒音による会話妨害や睡眠妨害といった問題もより顕著になってきている。

騒音低減を目的とした技術は数多く存在しており、スピーカの駆動信号によって騒音を打ち消すアクティブ騒音制御は、環境騒音に多く見られるような低い周波数帯域の音に対して効果的であることが知られている。しかしながら、その応用はダクト内のような１次元空間や、ノイズキャンセリングイヤフォン／ヘッドフォンのような非常に狭い領域での騒音低減に限られている。本研究課題では、３次元空間での領域的なアクティブ騒音制御や、聞きたい人だけに音を再生する音のゾーニングを実現することで、環境騒音を低減するための革新的な技術を創出することを目指す。

3次元空間での領域的なアクティブ騒音制御は空間能動騒音制御と呼ばれ、高精度な音空間の計測と合成を同時に、かつリアルタイムで実現することではじめて達成される技術である。我々は、波動論に基づくモデル化と、統計的信号処理や機械学習、数理最適化を高度に融合したアプローチにより、空間能動騒音制御を実現するための音場計測・合成の基礎技術、およびその応用展開について研究を実施している。