「説明できるAI」をこえた「細やかなニーズに応えるAI」へ

――Engineerable AI（eAI）プロジェクトとはどのようなものでしょうか。

　eAIプロジェクトは、AIを産業界に適用する際に生じる課題を解決するために立ち上げられたプロジェクトです。2018年頃から、企業が業務へのAI導入を本格的に検討するようになりました。一方で実際に導入するとなると、学習のためのデータ不足や、狙い通りの結果を得るために必要な膨大な時間が課題になることが多いのです。そこを Engineerable AI（eAI）技術で解決できないか、と考えました。

――問題をどのように解決するのでしょうか。

　AIを導入した際に難しくなるのは「説明」の部分です。「それなりに動くAI」を作ることは難しくなくなりましたが、中身がブラックボックスになっているため、「なぜそうなるのか」という過程を説明することができないためです。つまり、従来大事にしてきた「品質」を確保できていることが証明できない点が大きな課題になりました。この課題を解決するために開発されたのが、Explainable AI（XAI）です。XAIは、これまでブラックボックスだった「AIが回答を導き出す過程」を説明できるように可視化するものです。
　しかし、業務で活用する際には、過程を説明できるだけでは足りず、また狙った結果を得るために AIを修正・調整できることが重要です。実際に、200名以上の実務者の方に対する調査を行い、議論した際にも、「AIを活用した際に、狙い通りの結果が得られない場合、何をどこから修正すればいいのかわからない」「AIの学習に必要な膨大なデータを集めることが難しい」という声を多く聞きました。
　AIのユーザが持つ細やかなニーズに応じて、AIを仕立て上げる技術をEngineerable AI（ eAI 技術 )と名付けました。
　現在、eAIプロジェクトには8つの研究機関・大学が参加し、多数の企業や病院との連携を行っています。

医療や自動運転の分野で力を発揮

――eAIプロジェクトでは具体的にどのようなテーマを扱っているのでしょうか？

　eAIプロジェクトでは、二つの大きなテーマを扱っています。
　一つ目は、限られたデータ量でも信頼できる結果を得る AIの構築技術と、医療分野での実証です。東京工業大学の鈴木賢治教授を中心に、「見落とされやすい症例をAIに検出させる」ことを目的とした研究開発を行っています
　従来はAIに特定の症例を判別させるためには、10万ものデータが必要でした。しかし、レアな症例に対しては3桁の症例を集めるだけでも年単位の期間が必要です。解決手段として人の知識を埋め込むことにより、ごく少数のデータで既存のAIよりも高性能なAIを構築する技術開発を行っています。
　二つ目は、防ぐべき誤りが多数あるような状況において、他の結果には影響を与えずに狙った部分だけの出力を修正する技術開発と、交通分野での実証です。国立情報学研究所（NII）と九州大学、富士通が中心となり、「数百万という膨大な数のパラメータの中から、誤りの要因となるパラメータ群を絞り込むことで、AIの安全性を保証する」ことを目的とした研究開発を行っています。車両や歩行者が映った画像において、安全に関するリスクが大きい部分の認識精度を向上させられるように、AIを自動修正するような技術開発に取り組んでいます。

「狙った部分を改善」が可能になるeAI技術

――医療や交通は失敗が許されない分野です。

　そこが重要です。例えば、最終的に利益を上げることを目的とした株価の予測にAIを用いる場合を考えると、AIのパラメータを調整したことで調整前より精度が向上するケースと低下するケースが混在したとしても、AIの修正によって、最終的に儲けが大きくなっていれば成功です。
　一方で、交通や医療のように安全性や信頼性が最重要視される分野では、AIの精度を向上させるためのパラメータ調整で、全体の精度が向上していたとしても、過去に正解していた優先度の高い問題を間違えることは許されません。
　このように、全体の正答率ではなく、その中でも間違いが許されない問題が複数あるものや、間違いを許容できる度合いに優先順位をつけないといけないものに、eAI技術は効果的です。
　AIの数理モデルの一つであるニューラルネットワークは、複数の重みパラメータを調整することで出力を変化させ、学習を進めるモデルです。
　ニューラルネットワークでは一般的に、与えられたデータによってすべての重みパラメータを更新し、学習を行います。その結果、全体傾向としては改善する場合でも、狙った部分を改善できなかったり、部分的に学習前よりも劣化してしまったりするという課題がありました。
　特に、複数の特定条件を満たしながら全体を改善するようなシーンには適用できません。
　一方、eAIプロジェクトでは、ニューラルネットワークの入出力や内部挙動を分析することで、狙った部分に影響を与えるパラメータ群を特定し、選択的に変更を行うAI修正技術の開発に取り組んでおり、ここが eAI技術のひとつの大きな特徴です。

効率的なAIの修正技術

――選択的に変更できるeAI技術を実現するために、どのような工夫をしているのでしょうか？

　例えば、AIによるさまざまな誤りを改善する場合、eAI技術ではまず、誤りをできるだけ細かく分類し、各誤りに対して要因となる重みパラメータ群を絞り込みます。次に、各誤りを修正するために適切な重みパラメータの探索を行い、それぞれの誤りに対して修正可能なパラメータ群が明確にできたら、全体のバランス取りを行います。各誤りが発生する確率とリスクの大きさに基づいて全体のバランスを取ることで、最終的な重みパラメータを決定します。だから正確性や信頼性が重視される分野や産業での実用が期待されるのです。
　eAIプロジェクトにおいて扱う「細やかなニーズ」には様々なパターンがあります。ここまで述べたAI修正技術は、「近くにいる歩行者」などデータの属性ごとの重要度に応じて予測性能の改善を行うためのものです。図の上部に示すように、他にも異なるニーズのパターンがあります。例えば、物理世界のルールに反するようなあり得ない予測はしないようにする、運用時に収集されたノイズ傾向に対応するようにする、といったニーズです。
　これらに対し、eAIプロジェクトでは、図の下部にあるように、AIを構築するための技術と修正するための技術に取り組んでいます。プロジェクト全体としては、個々のシステムのニーズを、標準やガイドラインを踏まえて分析し、適切に技術を活用する一気通貫のフレームワークを提供していきます。

「数学的安全証明」との補完関係

――蓮尾一郎先生が取り組んでいる「自動運転車の安全性の数学的証明」に関するプロジェクトと eAI プロジェクトの関係を教えてください。

　蓮尾先生のプロジェクトでは、「運転計画機能の安全性」に関する研究を行っています。この研究では前提として、外部環境の認識情報が与えられており、どのような認識情報が与えられるかが重要です。
　eAIプロジェクトでは、「認識機能の安全性」に関する研究に取り組んでいます。一例として、これらの研究を自動運転へ適用する場合を考えると、「外部の状況を認識してリスクの低い運転計画を構築する」ことに繋がります。
　また、現実世界で生じるすべての状況の安全性を、数学的に証明できるわけではありません。数学的に証明ができないような複雑な環境は、シミュレーションを用いて安全性の確認を行っています。このシミュレーション部分を私が取り組むことで、蓮尾先生のプロジェクトと eAIプロジェクトは補完的な関係になっています。

企業と連携し「開かれた」プロジェクトへ

――2021年に開始された eAIプロジェクトでは、実使用を想定したテーマへの適用という大きな成果を残しています。また、プロジェクトの節目となる 2025年3月までは、残り約2年。プロジェクト全体における現時点の進捗と、印象に残ったことを教えてください。

　eAIプロジェクトは、当初よりAIを継続的に改善していく技術の開発と、交通分野への適用という大きな目的を持ってスタートしました。AIを継続的に改善していく技術は開発できており、自動車メーカーと一緒に定めたテーマへの適用も確認できました。これで、eAI技術の活用範囲を広げていくための技術基盤が整いました。
　従来のアカデミックに閉じた研究では、開発した技術をシンプルな課題から徐々に適用していくのが一般的でした。しかし eAIプロジェクトでは、最初から企業で運用できることを想定しているので、最初から実用的な課題に取り組んでいます。今までと進め方が異なることによる悩ましさはありましたが、特徴的な取り組みで、とてもいい経験になっています。

産業界での活用に期待

――今後はどのようなことに取り組まれるのでしょうか。

　2025年3月までの2年間では、大きく二つの取り組みを考えています。
　一つ目は、これまで複数の基礎研究として構築してきたものをうまく統合して、ツールの形でリリースすることです。プロジェクトに関わってきた我々以外も扱えるようにすることで、産業界で活用してもらえるよう進めていきたい。
　二つ目は、それぞれの企業が持つ幅広い課題へ開発した技術を適用することです。これまでの開発で適用対象としてきたテーマは、多くの実務者と会話の最大公約数を取った共通の課題です。実際には、それぞれ異なる前提や目的に適用できる必要があります。産業界で広くEngineerable AI（eAI 技術）を活用してもらえるように、研究や技術開発を進めていきます。

（取材・構成 一之瀬 隼、photo 今村 拓馬）

関連リンク

• 石川 冬樹 - アーキテクチャ科学研究系 - 研究者紹介

記事へのご意見等はこちらへ