研究 / Research

■信頼性が十分とは言えない現在のＡＩ　

　近年、人工知能（AI）に対する注目度が急激に高まっています。話題になっているChatGPTなど、プロンプトに応答してテキストや画像を作り出してくれる生成AIは、誤情報やバイアスに左右されてとんでもない答えを返してくることがよくあります。今のレベルでは、とうてい「信頼できるAI」とは言えません。

　これまでのAI研究の大きな流れとしては、以前は記号で表現された知識を扱う記号的AIの研究が盛んでしたが、現在の主流はニューラルネットワークを中心とする機械学習によるAIに移っています。その過程で、記号世界を扱う「知識表現・推論」と数値・ベクトル空間を扱う「機械学習」に分離され、それぞれの分野で独立して研究が行われる状況になっています。

　計算機科学からのアプローチにより、1980年代から一貫してAIの研究に携わってきた私としては、人が見て明らかに不適切であるような結果をAIが出力するような現状を一刻も早く改善したいと思っています。そのためには、AIの信頼性を向上させないといけませんが、不適切だったり首尾一貫しない回答をしないこと以外にも、想定外の変化やノイズに対する耐性（ロバスト性）などの要素も信頼性を得るためには考えていく必要があります。

■知識表現・推論と機械学習を統合する意義

　私は、現在分離された状態になっている知識表現・推論と機械学習を融合することで、AIの信頼性を向上させることができると考えました。現在の研究を一言で表現すると「認識・学習・推論という一連の知能を共通の土台で扱うための基盤を提供」することになります。ここで「共通の土台」として考えているのが、代数的構造（行列・テンソル）を用いて論理式・制約を表現する代数的手法になります。

　本来は記号処理（アルゴリズム）を使って解くべき推論問題を数値計算に置き換えることで、ロバストかつスケーラブルな技術に進化させることが期待されます。私たちの代数的手法は、記号とサブ記号をともに扱う「ニューロシンボリックAI」と呼ばれる技術分野に属してはいますが、論理プログラムをテンソル表現する点でオリジナルのアプローチに基づいています。

　こうした私たちの研究を国際会議で発表する機会も増えており、2024年度には3つの国際会議で招待講演の依頼を受けています。開発した研究成果は、論文発表以外にデータやプログラムもオープンソース化して公開していますが、これまで解けなかった問題が徐々に解けるようになり注目度も上がってきていることから、研究成果に確かな手ごたえを感じています。

■国際的な連携で「信頼できるＡＩ」を目指す

　現在、特に開発を進めたい技術は「制約を取り入れたAI」です。ここでいう制約とは記号知識として表現することを指しますが、制約知識を機械学習や生成AIが取り入れることで、信頼性をどれだけ向上させることができるかという研究になります。

　この研究の成果の一例として、2023年に開催された自動運転における制約付き物体認識の性能を競う「ROAD-R challenge for NeurIPS」において、私たちのチームは、設定された2部門で優勝と3位という好成績を挙げることができました。このAIは、機械学習技術を駆使した物体認識技術に論理制約を要求として付加したもので、私の研究テーマである知識表現・推論と機械学習を融合させた応用例となっています。同様の考え方を生成AIにも適用できれば、生成AIの信頼性向上にもつながるはずです。

　AI研究において、日本は出遅れていると指摘する声もあります。私はこれまで、自然な流れで海外の研究機関や研究者と共同研究を行ってきました。これからも、オリジナルの研究を国際共同研究で推進して、信頼できるAIを目指していきます。それによって、日本のAI研究が国際的に認知されることになると考えています。

　AIはまだまだ未熟な点も多いかもしれませんが、各種システムの機能として実現される例が増えてきており、私たちは間接的に大きな恩恵を受けています。今後もAIが進化を続けていくことは間違いありませんので、私のようにAI基礎研究に取り組んでいる研究者を、ブームに左右されることなく見守っていただければ幸いです。

PDFをダウンロード

リンク

[NII SEEDS] ダイナミック環境で推論・意思決定するAI