脳活動を解読するブラックボックスの動作を深層学習で説明する新手法
2022年4月22日
岡山大学
慶應義塾大学
立教大学
◆ポイント
- 深層神経回路は高い精度で脳活動から行動を解読出来ますが、その動作の説明は困難です。
- 本研究では、深層神経回路による脳活動解読を直感的に説明する新しい手法を提案しました。
- 提案手法を応用して、深層神経回路が解読に使う脳活動の特徴を抽出することに成功しました。
岡山大学学術研究院自然科学学域（理・生物）の松井鉄平准教授と立教大学大学院人工知能研究科の瀧雅人准教授、生理学研究所のトラン・ファム(Trung Quang Pham)特任助教、株式会社アラヤの近添淳一主任研究員、慶應義塾大学（理工学部）の地村弘二准教授の共同研究グループは、脳活動を解読する深層神経回路の動作を直感的に説明する新しい手法を開発しました。 これらの研究成果は3月16日、スイスの神経科学雑誌「Frontiers in Neuroinformatics」のResearch Articleとして掲載されました。 MRIや脳波により計測した脳活動データから、その人が何をやっていたのかを推定する脳活動解読は、BMIへの応用を見据えて広く研究されている技術です。最近では、脳活動解読に深層学習を用いた研究が活発に行われています。しかし、深層神経回路によるデータの処理は非常に複雑で、「与えられたデータに対して解読器が何故その回答をするのか」を直感的に説明することが困難です。今回の研究では、この問題に対する新しいアプローチとして、深層生成モデルという深層学習のもう一つの技術と反実仮想説明という手法を組み合わせた手法を提案しました。 本研究成果は、認知症や精神神経疾患の脳画像診断に深層学習を応用していく際に、医師や患者がAIの動作を理解しつつ使用するための基礎技術として役立つと期待されます。
図1. 提案手法によって脳活動解読器の動作の説明を与えた例。A）運動課題を遂行中の脳活動データに対して、深層神経回路の解読器は「記憶課題」と間違えた答えを出した。複雑な解読器が何故誤作動したのかを説明することは、このままでは難しい。B）解読器が間違えた脳活動データを生成器に入力し、それを元に仮想的な脳活動データを生成する。解読器はこの仮想的脳活動データを「運動課題」と正しく判断する。C）仮想的脳活動データと実際の脳活動データを比較することにより解読器の「説明」が得られる。赤い脳部位が弱かったことや、青い脳部位がより強かったことが、解読器が回答を間違えた理由と考えられる。
◆研究者からひとこと
| ずっと人間や動物の脳を研究してきた神経科学者として、最近の深層学習の爆発的な発展には、とても刺激を受けています。今回は深層学習の技術を神経科学に応用してみましたが、生物の脳と深層学習を比較することで知性の本質を明らかにすることにもチャレンジしていきたいと思っています。 |  長尾特任講師 |
■論文情報
論文名：Counterfactual Explanation of Brain Activity Classifiers Using Image-To-Image Transfer by Generative Adversarial Network
掲 載 紙：Frontiers in Neuroinformatics
著 者：Teppei Matsui, Masato Taki, Trung Quang Pham, Junichi Chikazoe, Koji Jimura
DOI： https://doi.org/10.3389/fninf.2021.802938
URL： https://www.frontiersin.org/articles/10.3389/fninf.2021.802938/full
■研究資金
本研究は、文部科学省科研費新学術領域研究（「脳情報動態を規定する多領野連関と並列処理」、課題番号20H05052）、日本医療研究開発機構AMED（「戦略的国際脳科学研究推進プログラム先進的個別研究開発課題」、課題番号JP20dm0307031；「革新的技術による脳機能ネットワークの全容解明プロジェクト」、課題番号JP21dm0207086）、ＪＳＴさきがけ（「革新的コンピューティング技術の開拓」、課題番号19205833）、文部科学省科研費学術変革領域Ｂ（「脳神経マルチセルラバイオコンピューティング」、課題番号21H0516513；「情動情報解読による人文系学問の再構築」、課題番号21H05060）の支援を受けて実施しました。
＜詳しい研究内容について＞
脳活動を解読するブラックボックスの動作を深層学習で説明する新手法
＜お問い合わせ＞
岡山大学学術研究院自然科学学域（理・生物）
准教授 松井 鉄平
（電話番号）086-251-7860