G検定

2021年第3回G検定 振り返り 第4問(説明可能AI、XAI)

シラバス分野:ディープラーニングの社会実装に向けて XAIからの出題です。

XAIの必要性

XAIエクスプレイナブルAI)とは、予測結果や推定結果を得るまでのプロセスが説明可能になっているAIモデルのこと。

ディープニューラルネットワークなど従来のAIは、入力から予測結果が得られるまでのプロセスがブラックボックスで、人間が解釈できないことが多かった

しかしAIの社会的応用が促進される中で、「中身がわからないと安心して利用できない」という要望が表明されるケースが増加。

そのため、説明・解釈可能性を備えたAIを考案し、実用化することが社会実装上の大きな課題として議論されている。

説明可能性と性能はトレードオフ関係

モデルの説明可能性とそのモデルの性能は、一般的にトレードオフ関係にある。

モデルの性能向上のためには、当然ながら多数のパラメータをチューニングして利用することが必要

パラメータが膨大に存在するようなモデルになるほど、人間がその予測過程を説明することは困難

いかに両立し、落とし所を見つけるか

モデルの説明可能性を重視するあまりパラメータを削減すれば、今度はモデルの性能が低下してしまいます。

モデルの説明可能性とモデルの性能いかに両立し、落とし所を見つけるかというのが、現在のAI社会における大きな課題

  • この記事を書いた人

NISHIBIZ

・JDLA G検定 2021 #3 合格者
・令和3年度 中小企業診断修得者
記事は資格取得情報(ディープラーニング検定と中小企業診断士試験)他、
時事/雑学とエンタメ(テレビ・アニメ・音楽)。
Apple Musicを愛用。NISHIBIZでプレイリスト「私的ベスト」検索。
音楽の嗜好はエレクトロ/エモ

-G検定