G検定

2021年第3回G検定 振り返り 第1問(VGG、ResNet、スキップ構造)

2021年11月21日

シラバス分野:ディープラーニングの手法 CNNからの出題です。

CNNとはなんの略語?

⇒ Convolutional Neural Network

⇒ 日本語にすると畳み込みニューラルネットワーク

画像認識のために考えられたモデルです。

ILSVRC~コンピュータによる画像認識の競技会

ILSVRCというコンピュータによる画像認識技術の競技会があります。

優勝したモデルを追っていくと、画像認識技術の進化がわかります。

開催 出来事
ILSVRC2012 ジェフリー・ヒントン率いるチームのAlexNetが優勝。ILSVRCでディープラーニングが使われた最初のモデル。
ILSVRC2014 GoogLeNetが優勝。VGG-16が2位
ILSVRC2015 ResNetが優勝。エラー率3.6%で、人間のエラー率4%を抜く!

VGGとGoogLeNetの問題点

  • VGGとGoogLeNetは、10~20層
  • さらに「超」深層になると識別精度が落ちるという問題が発生

理由:通常のニューラルネットワークで層を深くしていった時と同様に、誤差が逆伝播しにくくなり、学習がうまくいかない。⇒勾配消失

ResNetは152層!

そこで更に深いネットワークを実現するために、Skip connectionが考えられました。

Skip connection = 層を飛び越えた結合

この結合が導入されたネットワークがResNet

Skip connectionを導入することで、

  • 層が深くなっても、層を飛び越える部分は伝播しやすい
  • 様々な形のネットワークのアンサンブル学習になっている

となったことが、学習がうまくいく理由です。

  • この記事を書いた人

NISHIBIZ

・JDLA G検定 2021 #3 合格者
・令和3年度 中小企業診断修得者
記事は資格取得情報(ディープラーニング検定と中小企業診断士試験)他、
時事/雑学とエンタメ(テレビ・アニメ・音楽)。
Apple Musicを愛用。NISHIBIZでプレイリスト「私的ベスト」検索。
音楽の嗜好はエレクトロ/エモ

-G検定