【世界初】望む結果までの手順を「説明可能な」AI、富士通研と北大が開発

2021/2/5(金)

健康診断を例にした
AIによる自動判断の流れ

富士通研究所と北海道大学は共同で、AIが自動判断した結果を基に、望む結果を得るために必要な手順を自動で提示できる技術を世界で初めて開発した。

判断の根拠を提示

現在、顔認証や自動運転など高度なタスクが求められるAIシステムに広く用いられている深層学習技術は、大量のデータに基づいたさまざまな判断を予測モデルと呼ばれる一種のブラックボックス的な規則を用いて自動的に行う。

しかし、社会の重要な判断や提案をAIが担うためには、AIシステムの透明性と信頼性の担保が課題となる。このような社会と技術の動向から、データに基づいて自動的に判断するだけでなく、個々の判断理由を提示する「説明可能なAI」と呼ばれる新しいAI技術の研究が盛んになっているという。

上図を参考にすると、AIは入力データの属性を基に健康リスクが高いと判定しているため、健康リスクが低いという望む判断結果を得るためには、これらの属性の値を変えればよいと言える。

リスク改善に必要な手順の提示、および提示までの課題

AIによる自動判断において、望む結果を得るためには、変更が必要な属性を提示するだけでなく、その変更が現実的かつできるだけ小さい労力で変更できる属性を提示することが必要だ。

健康診断の例でいうと、AIによる判断結果をリスク高の現状からリスク低に変えたい場合、筋肉量を増やせば少ない労力で変更ができそうだが、体重を変えずに筋肉量だけを増やすことは非現実的であるため、実際には体重と筋肉量を増やすことが現実的な解であると言える。

また、体重や筋肉量などの属性の間には、筋肉を増やすと体重も重くなるというような因果関係などの相互作用も多く、変更にかかる総労力は、各属性の変更順序に依存するため、属性の適切な変更順序を提示する必要がある。

下の図では、現状から変更2に到達するために、体重と筋肉量のどちらを先に変えればよいかは自明ではないため、膨大な変更点の候補の中から実現の可能性や順序を考慮した上で、適切な変更の方法を見つけることが課題となっている。

属性の変更
(富士通研究所・北海道大学プレスリリースより)

AIの判断にも透明性が必要に

これまで富士通研究所と、北海道大学大学院情報科学研究院の有村研究室は、機械学習とデータマイニングに関する共同研究により、AIの判断理由を人間に説明できる新しいAI技術を開発し、人間にとって役立つ知識の発見につなげてきた。

人の意思決定を支援するためのAI技術としてこれまでに開発されてきたLIME^※1やSHAP^※2といったAI技術は、AIがなぜこのように判断したかを説明することで、その判断結果に納得性を与える技術だった。

※1 LIME：AIの説明技術の一つ。解釈可能なシンプルなモデルによって説明する。
※2 SHAP：AIの説明技術の一つ。モデルにおける説明変数の寄与度を示すことにより説明する。
(いずれも富士通研究所と北海道大学のプレスリリースより引用)

今回、両者による共同研究において開発した新技術は、「もしこれをしていれば結果はこうなっていた」という反実仮想説明の考えに基づき、属性変更におけるアクションとその実施順序を手順として提示するものだ。

過去の事例の分析を通して非現実的な変更を避けつつ、筋肉量が増えれば体重も増えるというような、属性値の変更がほかの属性値に与える因果関係などの影響をAIが推定する。推定結果に基づいて実際に利用者が変更しなければならない量を計算することで、適切な順序、かつ一番少ない労力で最適な結果が得られるアクションの提示を可能とした。

例えば、健康診断で望む結果にするために変更する入力属性とその順序において、リスクを低くするためには、筋肉量をプラス1kg、体重をプラス7kg変更しなければならないと仮定。加えて、筋肉量と体重の間の相互作用を事前に分析することにより、筋肉量を1kgプラスすれば体重は6kgプラスされるというような関係が因果関係の分析により推定できたとする。

その場合、体重の変化量として必要なプラス7kgのうち、筋肉量の変更の後に必要となる変化量はプラス1kgとなる。つまり、実際に変化させなければならない変更量は、筋肉量プラス1kgと体重プラス1kgであると言えるため、下の図のように先に体重を変化させるよりも筋力を増やしたほうが少ない労力で望む結果を得ることができる。

属性間の相互作用と変化量
(富士通研究所・北海道大学プレスリリースより)

反実仮想説明AI技術の効果

今回、共同開発した反実仮想説明AI技術を用いて、この分野で主に用いられる糖尿病、ローンの与信審査、ワインの評価の3種類のデータセットにて検証を行った。

機械学習の主要なアルゴリズムであるロジスティック回帰^※3、ランダムフォレスト^※4、多層パーセプトロン^※5の3つのアルゴリズムと開発技術を組み合わせてAIにより自動で判断し、AIによる判断結果が望ましくない場合に、望む結果を得るためのアクションの提示を目的とした検証を行った。

※3 ロジスティック回帰：機械学習アルゴリズムの一種。超平面にロジスティック関数を組み合わせた確率モデル。
※4 ランダムフォレスト：機械学習アルゴリズムの一種。多数の決定木分類器で多数決を行って安定した判断をする予測モデル。
※5 多層パーセプトロン：機械学習アルゴリズムの一種。多層のニューラルネットワークを学習するモデル。
(いずれも富士通研究所と北海道大学のプレスリリースより引用)

その結果、今回の開発技術が、全てのデータセットおよび機械学習アルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための適切なアクションと実施順序を取得できたことを確認した。特にローンの与信審査のケースでは、半分以下の労力を実現したという。

今回の技術を活用することで、AIによる自動判断において望ましくない結果が予想された場合に、その結果を望む結果に変えるために必要なアクションを提示することが可能となる。これにより、AIの用途を判断だけでなく人の意思行動の支援に拡げることができ、AIの適用先のさらなる拡大が期待できる。

今後

今後、富士通研究所は、個別の因果関係を発見する技術と組み合わせることで、より適切なアクションを提示できるよう継続して取り組む。そして独自開発したFUJITSU AI Technology Wide Learningによるアクション抽出技術を本技術により拡張し、富士通のAI技術FUJITSU Human Centric AI Zinraiを支える新たな機械学習技術として2021年度の実用化を目指す。

また北海道大学は、アクションの提示に限らず、多様な現場のデータから人間の意思決定に役立つ知識や情報を抽出するためのAI技術の確立を目指す。

(出典：富士通研究所・北海道大学　プレスリリースより)

LIGARE編集部h.s