コンピュータサイエンス学部 中西崇文教授の研究成果が Nature Portfolio の学術誌 Communications AI & Computing に掲載

AIの判断理由を「逆算」する新しい理論的枠組み AIME²を提案

　東京工科大学コンピュータサイエンス学部の中西崇文教授は、Explainable AI（説明可能AI：XAI）に関する新しい理論的枠組み AIME²（AIME-squared） を提案し、その研究成果が Springer Nature の Nature Portfolio が刊行する学術誌 Communications AI & Computing に掲載されました。

　近年、生成AIをはじめとする人工知能（AI）は急速に社会へ浸透する一方で、「AIがなぜその判断を行ったのか」を人間が理解できる形で説明することの重要性が高まっています。医療、金融、製造、教育など、AIの判断が社会的な意思決定に利用される場面では、AIの説明可能性は信頼性を支える重要な技術となっています。
　従来の説明可能AIでは、AIの判断理由を「どの特徴量が重要であったか」という特徴量重要度として表現する手法が広く利用されています。
　本研究では、AIの説明を「AIの出力結果から、その判断に影響した入力特徴を逆方向に再構成する」という視点から捉え直し、その考え方を数学的に整理した新しい理論的枠組み AIME² を提案しました。従来手法が「どの特徴量が重要だったか」を示すことを主眼としてきたのに対し、本研究では「AIの説明そのものをどのように表現するか」という視点から理論を構築しています。
　AIME²では、説明を単なる特徴量重要度ではなく、説明作用素（Explainability Operator） として表現する考え方を導入しています。これにより、AIの説明を出力ごと・クラスごとに扱うことができ、局所的な説明と全体的な説明を共通の数理的枠組みの中で考えることを可能にします。
　また、本研究では、この説明作用素という視点から、従来の説明可能AI手法についても代数的な観点から整理を試みています。これは既存手法を置き換えたり、単一の理論へ統合したりすることを目的とするものではなく、AIの説明をどのような対象として表現するかという新しい理論的視点を提示するものです。
　本研究は、中西教授がこれまで提案してきた Approximate Inverse Model Explanations（AIME） の理論的基盤を整理・発展させたものであり、今後の説明可能AI研究やAIの信頼性向上、AI for Scienceなどへの応用が期待されます。

　中西教授は次のように述べています。
　「Explainable AIは、単に『どの特徴量が重要だったか』を示すだけではなく、『AIの説明を何として表現するのか』という視点も重要になると考えています。本研究では、AIの説明を『説明作用素（Explainability Operator）』として捉える新しい理論的枠組みを提案しました。既存の説明可能AI手法を否定するものではなく、Explainable AIを理解するための新しい数理的視点を提示することを目指しています。」

■論文情報
論文タイトル：AIME2: Toward a Unified Algebraic Theory of Explainability via Approximate Inverse Operators
掲載誌：Communications AI & Computing（Nature Portfolio）
著者：中西 崇文（東京工科大学 コンピュータサイエンス学部 教授）
DOI：https://doi.org/10.1038/s44488-026-00004-0