ディープラーニングの要素技術
全 435 問・解説・間違えた問題の解き直しは登録不要・無料。模試・「今日の復習」などは Premium (月480円)全 435 問に加えて、「今日の復習」・本番形式の模試・記録の全科目の正答率・広告非表示をご利用中です
- 正解済みまだ正解していませんQ1初級
ニューラルネットワークの全結合層の説明として、最も適切なものはどれか。
解説: 肢1が正解です。全結合層は、入力のすべての値と出力の各ユニットを重みで結び、重み付きの和にバイアスを加える変換です。教科書 Dive into Deep Learning (Zhang ら) は、各出力がすべての入力に依存する層を全結合層と呼び、O = XW + b の形で表して…
関連キーワード: 全結合層・重み・線形関数・バイアス・活性化関数
- 正解済みまだ正解していませんQ2中級
入力が784次元、隠れ層が100ユニット、出力層が10ユニットの全結合のニューラルネットワーク (入力層→隠れ層→出力層) がある。隠れ層と出力層の各ユニットはバイアスを1つずつ持つ。学習するパラメータ (重みとバイアス) の総数として、最も適切なものはどれか。
解説: 肢2が正解です。全結合層のパラメータ数は「入力の数 × 出力の数 (重み) + 出力の数 (バイアス)」です。Dive into Deep Learning (Zhang ら) も、隠れ層の重みを 入力の次元 × 隠れユニット数 の行列、バイアスを隠れユニット数の分として表してい…
関連キーワード: 全結合層・パラメータ数・バイアス・多層パーセプトロン
- 正解済みまだ正解していませんQ3初級
畳み込みニューラルネットワークの畳み込み層に関する説明として、最も適切なものはどれか。
解説: 肢1が正解です。畳み込み層では、フィルタ (カーネル) を入力の上で少しずつずらし、各位置で入力の小領域との積和にバイアスを加えます。1枚のフィルタから1枚の特徴マップができるので、出力のチャネル数はフィルタの枚数に等しくなります (スタンフォード大学の講義資料 CS231n の…
関連キーワード: 畳み込み層・畳み込み操作・フィルタ・特徴マップ・カーネル
- 正解済みまだ正解していませんQ4中級
縦横33×33の入力に、縦横5×5のフィルタで畳み込みを行う。入力の周囲には幅2のゼロパディングを付け、ストライドは2とする。出力の特徴マップの縦 (横) の大きさとして、最も適切なものはどれか。
解説: 肢3が正解です。出力の大きさは (W − F + 2P) ÷ S + 1 で求めます (W: 入力の大きさ、F: フィルタの大きさ、P: パディングの幅、S: ストライド。CS231n の式)。 (33 − 5 + 2 × 2) ÷ 2 + 1 = 32 ÷ 2 + 1 = 17…
関連キーワード: 畳み込み層・ストライド・パディング・特徴マップ
- 正解済みまだ正解していませんQ5上級
縦横32×32・3チャネルのカラー画像に、縦横5×5のフィルタを8枚使う畳み込み層を適用する。各フィルタはバイアスを1つ持つ。この畳み込み層が学習するパラメータ (重みとバイアス) の数として、最も適切なものはどれか。
解説: 肢4が正解です。畳み込み層のフィルタは入力のすべてのチャネルにまたがるので、1枚あたりの重みは 縦 × 横 × 入力チャネル数 です (CS231n)。 1枚あたり: 5 × 5 × 3 = 75 (重み) + 1 (バイアス) = 76 8枚分: 76 × 8 = 608 入力…
関連キーワード: 畳み込み層・パラメータ数・フィルタ・重みの共有
- 正解済みまだ正解していませんQ6中級
畳み込み層のストライドとパディングに関する説明として、最も不適切なものはどれか。
解説: 肢1が不適切です。畳み込み層の重みの数は「フィルタの縦 × 横 × 入力チャネル数 × フィルタの枚数」(とバイアス) で決まり、ストライドにもパディングにも依存しません (CS231n)。ストライドはフィルタをずらす間隔です。肢2は適切で、たとえば縦横29の入力に3×3のフィル…
関連キーワード: ストライド・パディング・畳み込み層・パラメータ数
- 正解済みまだ正解していませんQ7上級
スマートフォンで動かす画像認識モデルや、画素ごとに領域を分けるセグメンテーションのモデルでは、通常の畳み込みを変えた手法が使われる。Dilated Convolution (Atrous Convolution) と Depthwise Separable Convolution に関する説明として、最も適切なものはどれか。
解説: 肢4が正解です。MobileNets を提案した論文 (Howard ら, 2017) は、通常の畳み込みを、入力のチャネルごとに1枚のフィルタを当てる畳み込み(depthwise convolution)と、その出力を1×1の畳み込みで混ぜる畳み込み(pointwise con…
関連キーワード: Dilated Convolution・Atrous Convolution・Depthwise Separable Convolution・MobileNet・受容野
- 正解済みまだ正解していませんQ8初級
バッチ正規化 (Batch Normalization) の説明として、最も適切なものはどれか。
解説: 肢2が正解です。バッチ正規化を提案した論文 (Ioffe と Szegedy, 2015) は、学習中に前の層のパラメータが変わると各層への入力の分布が変わる現象を内部共変量シフトと呼び、ミニバッチごとに層への入力を正規化してモデルの一部に組み込むことで、大きな学習率を使えるよう…
関連キーワード: バッチ正規化・正規化層・内部共変量シフト・ミニバッチ
- 正解済みまだ正解していませんQ9上級
画像の特徴マップ (データの件数N・チャネルC・縦H・横Wの4次元) に対する正規化の手法について、平均と分散を計算する範囲に関するAからDまでの記述のうち、適切なものをすべて挙げた組合せはどれか。 A バッチ正規化は、チャネルごとに、ミニバッチ内のすべてのデータと縦横のすべての位置にわたって平均と分散を計算する。 B レイヤー正規化は、データ1件ごとに、すべてのチャネルと縦横のすべての位置にわたって平均と分散を計算する。 C インスタンス正規化は、チャネルごとに、ミニバッチ内のすべてのデータにわたって平均と分散を計算する。 D グループ正規化は、データ1件ごとに、チャネルをいくつかのグループに分け、グループごとに縦横の位置も含めて平均と分散を計算する。
解説: 肢4が正解です。グループ正規化を提案した論文 (Wu と He, 2018) は、4つの手法を平均と分散を計算する軸で比べています。Aは適切で、バッチ正規化はチャネルごとに (N, H, W) の軸で計算します。Bは適切で、レイヤー正規化はデータ1件ごとに (C, H, W) の…
関連キーワード: バッチ正規化・レイヤー正規化・インスタンス正規化・グループ正規化・正規化層
- 正解済みまだ正解していませんQ10初級
畳み込みニューラルネットワークの最大値プーリングと平均値プーリングに共通する説明として、最も適切なものはどれか。
解説: 肢3が正解です。プーリング層は、特徴マップの小領域 (たとえば2×2) の値を、最大値や平均値といった決まった計算で1つにまとめ、縦横の大きさを縮めます。CS231n は、プーリング層は入力に対して固定の関数を計算するので学習するパラメータを持たないと説明しています。肢1は誤りで…
関連キーワード: プーリング層・最大値プーリング・平均値プーリング・ダウンサンプリング
- 正解済みまだ正解していませんQ11中級
次の文の( )に入る語句として、最も適切なものはどれか。 「畳み込み層の出力に、縦横の小領域ごとに最大値をとるプーリングを行うと、入力の( )に対して出力が変わりにくくなる。」
解説: 肢4が正解です。プーリングは小領域の値を1つにまとめるので、入力がわずかに平行移動しても、まとめた出力の多くは変わりません。教科書 Deep Learning (Goodfellow ら) の 9.3 節は、プーリングが表現を入力の小さな平行移動に対しておおよそ不変にすると説明し…
関連キーワード: プーリング層・不変性・最大値プーリング・平行移動
- 正解済みまだ正解していませんQ12中級
画像分類のネットワークの層を増やしていったところ、ある深さを超えると訓練データに対する誤差まで大きくなった。この問題への対処として ResNet が導入したスキップ結合 (ショートカット接続) の説明として、最も適切なものはどれか。
解説: 肢2が正解です。ResNet を提案した論文 (He ら, 2015) は、層を深くすると訓練誤差まで悪化する劣化 (degradation) の問題を示し、数層分の変換を入力との差分 (残差関数) として学ばせ、入力をそのまま出力に足すショートカット接続を使いました。入力をその…
関連キーワード: スキップ結合・ResNet・残差学習・ショートカット接続
- 正解済みまだ正解していませんQ13初級
1日ごとに長さの違う機器の稼働ログ (時系列) を、1つのモデルで扱いたい。RNN (リカレントニューラルネットワーク) がこうした系列を扱える理由として、最も適切なものはどれか。
解説: 肢1が正解です。RNN は、時刻 t の隠れ状態を、時刻 t の入力と時刻 t − 1 の隠れ状態から同じ関数・同じパラメータで計算し、これを時刻ごとに繰り返します。教科書 Deep Learning (Goodfellow ら) の第10章は、この重みの共有によって、系列の長さ…
関連キーワード: 回帰結合層・RNN・隠れ状態・時系列データ
- 正解済みまだ正解していませんQ14上級
LSTM (Long Short-Term Memory) に関する説明として、最も不適切なものはどれか。
解説: 肢3が不適切です。LSTM を提案した論文 (Hochreiter と Schmidhuber, 1997) では、乗算型のゲートのユニットが、記憶セルの中の誤差の流れ (constant error carrousel, CEC) への出入りを開けたり閉じたりすることを学習しま…
関連キーワード: LSTM・回帰結合層・CEC・ゲート機構
- 正解済みまだ正解していませんQ15中級
GRU (Gated Recurrent Unit) の説明として、最も適切なものはどれか。
解説: 肢1が正解です。Cho らの論文 (2014) は、RNN エンコーダ・デコーダとともに、リセットゲートと更新ゲートを持つ新しい隠れユニットを提案し、LSTM に着想を得ながら計算も実装もずっと簡単だと述べています。このユニットは後に Chung らの論文 (2014) などで …
関連キーワード: GRU・LSTM・ゲート機構・RNN
- 正解済みまだ正解していませんQ16中級
RNN の学習に関する次の文の( A )( B )に入る語の組合せとして、最も適切なものはどれか。 「出力を次の時刻の入力に戻すモデルの学習で、1つ前の時刻の出力の代わりに正解の値を次の時刻の入力として与える方法を( A )という。また、時間方向に展開したネットワークに誤差逆伝播法を適用して勾配を求める方法を( B )という。」
解説: 肢3が正解です。教科書 Deep Learning (Goodfellow ら) の第10章は、学習時に1つ前の時刻の正解の出力を次の時刻の入力として与える手順を教師強制 (teacher forcing)、時間方向に展開した計算グラフに誤差逆伝播法を適用する方法を BPTT (…
関連キーワード: 教師強制・BPTT・RNN・誤差逆伝播法
- 正解済みまだ正解していませんQ17初級
音声認識で、ある時点の音がどの音素かを判断するには、その後に続く音も手がかりになることがある。このような場合に使われる双方向RNNの説明として、最も適切なものはどれか。
解説: 肢2が正解です。教科書 Deep Learning (Goodfellow ら) の第10章は、双方向 RNN を、系列の先頭から時間の順に進む RNN と、末尾から時間を逆にたどる RNN を組み合わせたものとし、各時刻の出力が過去と未来の両方の入力に依存できると説明しています…
関連キーワード: 双方向RNN・RNN・音声認識・時系列データ
- 正解済みまだ正解していませんQ18中級
機械翻訳のSeq2Seq (エンコーダ・デコーダ) モデルと、そこに加えられた Source-Target Attention に関する説明として、最も適切なものはどれか。
解説: 肢4が正解です。Seq2Seq の論文 (Sutskever ら, 2014) は、LSTM で入力系列を固定次元のベクトルに変換し、別の LSTM でそのベクトルから出力系列を生成しました。Bahdanau らの論文 (2014) は、この固定長のベクトルが性能向上のボトルネッ…
関連キーワード: Seq2Seq・Source-Target Attention・エンコーダ・デコーダ・Attention
- 正解済みまだ正解していませんQ19上級
Transformer を提案した論文 (Vaswani ら, 2017) の内容として、最も適切なものはどれか。
解説: 肢2が正解です。この論文は、クエリ・キー・バリューをヘッドごとに異なる学習済みの線形変換で射影し、h 個のヘッドで Attention を並列に計算して結合 (Concat) する Multi-Head Attention を用い、異なる表現の部分空間の情報に同時に注目できるとし…
関連キーワード: Transformer・Multi-Head Attention・Self-Attention・位置エンコーディング・マスク
- 正解済みまだ正解していませんQ20中級
Transformer の原論文の big モデルでは、埋め込みの次元 d_model = 1024 を h = 16 個のヘッドに等分し、各ヘッドのキーの次元を d_k = d_model ÷ h とする。Scaled Dot-Product Attention では、クエリとキーの内積を √d_k で割る。この割る数として、最も適切なものはどれか。
解説: 肢4が正解です。 d_k = 1024 ÷ 16 = 64 √d_k = √64 = 8 Transformer を提案した論文 (Vaswani ら, 2017) は、d_k が大きいとクエリとキーの内積の値が大きくなり、ソフトマックス関数の勾配が極端に小さい領域に入ってしまう…
関連キーワード: Transformer・Scaled Dot-Product Attention・クエリ・キー
もっと見る(残り 37 問)
- 正解済みまだ正解していませんQ21中級
Attention におけるクエリ (Query)・キー (Key)・バリュー (Value) の役割の説明として、最も不適切なものはどれか。
解説: 肢3が不適切です。Transformer を提案した論文 (Vaswani ら, 2017) は、Attention を、クエリとキー・バリューの組から出力を求める関数とし、出力はバリューの重み付きの和で、各バリューの重みはクエリと対応するキーの適合度から計算するとしています。S…
関連キーワード: クエリ・キー・バリュー・Self-Attention・Attention
- 正解済みまだ正解していませんQ22中級
オートエンコーダに関する説明として、最も不適切なものはどれか。
解説: 肢1が不適切です。オートエンコーダは、入力を符号化して中間の表現を作り、そこから入力を再構成するように学習するネットワークで、目標は入力そのものなので、クラスの正解ラベルは要りません。肢2は適切で、教科書 Deep Learning (Goodfellow ら) の第14章は、中…
関連キーワード: オートエンコーダ・積層オートエンコーダ・事前学習・次元削減
- 正解済みまだ正解していませんQ23初級
VAE (変分オートエンコーダ) を発展させた VQ-VAE の特徴として、最も適切なものはどれか。
解説: 肢3が正解です。VQ-VAE を提案した論文 (van den Oord ら, 2017) は、VAE との違いを2点挙げています。エンコーダが連続ではなく離散の符号を出力すること、事前分布を固定せずに学習することです。離散の潜在表現を得るため、ベクトル量子化の考え方を取り入れ、…
関連キーワード: VQ-VAE・VAE・潜在変数・ベクトル量子化
- 正解済みまだ正解していませんQ24初級
画像分類の学習データが少ないため、データ拡張を行う。次の文の( )に入る手法として、最も適切なものはどれか。 「( )は、2枚の画像の画素値を無作為に決めた比率で足し合わせて画像全体を混ぜ、それぞれの正解ラベルも同じ比率で混ぜた新しい学習データを作る。」
解説: 肢2が正解です。Mixup を提案した論文 (Zhang ら, 2017) は、2つの学習データとそのラベルの組を凸結合 (比率を足して1になる重み付きの和) で混ぜて学習させる方法を示しました。比率はベータ分布から無作為に取ります。肢1の CutMix も2枚の画像とラベルを比…
関連キーワード: データ拡張・Mixup・CutMix・Cutout・RandAugment
- 正解済みまだ正解していませんQ25上級
画像分類のCNNで、最後の畳み込み層の出力が縦7×横7×512チャネルの特徴マップになる。この後にグローバルアベレージプーリング (GAP) を置き、続けて10クラスのスコアを出力する全結合層を1つ置く。全結合層はクラスごとにバイアスを1つ持つ。GAPと全結合層が学習するパラメータ (重みとバイアス) の数の合計として、最も適切なものはどれか。
解説: 肢1が正解です。GAPは各チャネルの特徴マップ (7×7) の値の平均を1つとる処理で、Network In Network の論文 (Lin ら, 2013) のとおり、最適化するパラメータを持ちません。出力は512個の値になります。 GAP: 0 全結合層: 512 × 10…
関連キーワード: グローバルアベレージプーリング・全結合層・パラメータ数・Network In Network
- 正解済みまだ正解していませんQ26初級
畳み込みニューラルネットワークで使われる1×1の畳み込み (フィルタの縦横が1×1の畳み込み) の説明として、最も適切なものはどれか。
解説: 肢3が正解です。畳み込み層のフィルタは入力のすべてのチャネルにまたがるので、1×1の畳み込みは、画素の位置ごとにチャネル方向の重み付きの和をとる計算になり、出力のチャネル数はフィルタの枚数で決まります (CS231n)。Network In Network の論文 (Lin ら,…
関連キーワード: 1×1畳み込み・畳み込み層・チャネル・Network In Network・GoogLeNet
- 正解済みまだ正解していませんQ27初級
画像分類のCNNで使われる全結合層に関する説明として、最も適切なものはどれか。
解説: 肢2が正解です。スタンフォード大学の講義資料 CS231n は、よくある CNN の構成を、畳み込み層と ReLU とプーリング層を繰り返して縦横を縮めた後に全結合層を置き、最後の全結合層がクラスのスコアを出力する形として示しています。同じ資料は、全結合層と畳み込み層はどちらも内…
関連キーワード: 全結合層・畳み込み層・CNN・クラス分類
- 正解済みまだ正解していませんQ28上級
入力32チャネル・出力64チャネル・フィルタの縦横3×3の通常の畳み込み層を、MobileNets (Howard ら, 2017) と同じ Depthwise Separable Convolution (入力のチャネルごとに行う畳み込みと、1×1の畳み込みの組) に置き換える。バイアスは考えない。置き換えた後の重みの数として、最も適切なものはどれか。
解説: 肢1が正解です。MobileNets の論文は、入力のチャネルごとにフィルタを1枚ずつ当てる畳み込み (depthwise) と、その出力を組み合わせる1×1の畳み込み (pointwise) に分けています。 depthwise: 3 × 3 × 32 = 288 (入力チャネ…
関連キーワード: Depthwise Separable Convolution・MobileNet・パラメータ数・1×1畳み込み
- 正解済みまだ正解していませんQ29初級
縦横3×3の畳み込み層を2層重ねた構成 (層の間にプーリングは無く、ReLUを挟む) と、縦横5×5の畳み込み層1層を比べた説明として、最も不適切なものはどれか。なお、どの層もストライドは1で、入力と出力のチャネル数は C、バイアスは考えない。
解説: 肢3が不適切です。VGG の論文 (Simonyan と Zisserman, 2014) は、プーリングを挟まずに3×3の畳み込み層をストライド1で重ねると、受容野が2層で5×5、3層で7×7になり、大きなフィルタの1層と同じ範囲を見られるとしたうえで、重ねる利点を2つ挙げてい…
関連キーワード: VGG・受容野・畳み込み層・パラメータ数
- 正解済みまだ正解していませんQ30中級
Transformer (Vaswani ら, 2017) のエンコーダを構成する1つの層の説明として、最も適切なものはどれか。
解説: 肢4が正解です。Transformer の論文の3.1節は、エンコーダの各層が、Multi-Head の Self-Attention と、位置ごとの全結合のフィードフォワードネットワークの2つのサブ層からなり、各サブ層の周りに残差接続を置いてからレイヤー正規化をかける (出力は…
関連キーワード: Transformer・残差接続・レイヤー正規化・フィードフォワードネットワーク・Self-Attention
- 正解済みまだ正解していませんQ31中級
畳み込み層の性質に関する次の文の( A )( B )に入る語の組合せとして、最も適切なものはどれか。 「畳み込み層では、同じフィルタを入力の各位置で使い回す( A )によって、入力の画像をずらすと出力の特徴マップも同じだけずれる性質が生じる。この性質を、平行移動に対する( B )という。」
解説: 肢2が正解です。教科書 Deep Learning (Goodfellow ら) の9.2節は、畳み込みでは特別な形の重みの共有 (パラメータ共有) によって、層が平行移動に対する等変性 (equivariance) を持つと説明しています。関数が等変であるとは、入力が変わると出…
関連キーワード: 畳み込み層・等変性・パラメータ共有・不変性
- 正解済みまだ正解していませんQ32中級
レイヤー正規化を提案した論文 (Ba ら, 2016) が、バッチ正規化と比べた利点として述べている内容として、最も適切なものはどれか。
解説: 肢4が正解です。この論文は、バッチ正規化の効果がミニバッチの大きさに左右され、RNN への適用のしかたも明らかでないことを問題とし、1つの層のユニットへの入力の和から、1件の学習事例の中で平均と分散を計算するレイヤー正規化を提案しました。そのため学習時と推論時にまったく同じ計算を…
関連キーワード: レイヤー正規化・正規化層・バッチ正規化・RNN
- 正解済みまだ正解していませんQ33中級
バッチ正規化 (Ioffe と Szegedy, 2015) を入れたネットワークの、学習時と推論時の計算に関する説明として、最も不適切なものはどれか。
解説: 肢3が不適切です。バッチ正規化を提案した論文 (Ioffe と Szegedy, 2015) は、ミニバッチに依存した正規化は学習を効率よくするものの、推論時には出力が入力だけで決まることが望ましいとして、学習後はミニバッチではなく母集団の統計量を使うとしています。教科書 Div…
関連キーワード: バッチ正規化・正規化層・移動平均・推論
- 正解済みまだ正解していませんQ34中級
単純な再帰型ニューラルネットワークの構造に関する次の文の( A )( B )に入る語の組合せとして、最も適切なものはどれか。 「ゲートを持たない単純な再帰型ネットワークのうち、1つ前の時刻の隠れ層の値を、次の時刻の隠れ層の計算に入力として加えるものを( A )ネットワークという。これに対し、( B )ネットワークは出力層から次の時刻へ値を戻す再帰の構造をとる。」
解説: 肢2が正解です。教科書 Speech and Language Processing (Jurafsky と Martin, 第3版草稿の2026年8月19日版) の第14章は、1つ前の時刻の隠れ層の値を次の時刻の隠れ層の計算に入力として加える単純な再帰型ネットワークをエルマンネ…
関連キーワード: エルマンネットワーク・ジョルダンネットワーク・RNN・回帰結合層
- 正解済みまだ正解していませんQ35中級
RNN を時間方向に展開して長い系列を学習するとき、勾配消失や勾配爆発が起こりやすい理由の説明として、最も適切なものはどれか。
解説: 肢3が正解です。教科書 Deep Learning (Goodfellow ら) の10.7節は、RNN が時刻ごとに同じ関数を何度も合成することに原因があるとし、活性化関数を省いた h(t) = Wᵀh(t − 1) で考えると、h(t) には W を t 回掛けることになり、…
関連キーワード: 勾配消失問題・勾配爆発問題・RNN・BPTT
- 正解済みまだ正解していませんQ36上級
LSTM の層が、入力8次元・隠れ状態16次元で構成されている。入力ゲート・忘却ゲート・出力ゲートと、記憶セルに加える候補を計算する入力ノードの4つは、それぞれ入力に掛ける重み行列、1つ前の時刻の隠れ状態に掛ける重み行列、バイアスのベクトルを1つずつ持つ。この LSTM の層が学習するパラメータの数として、最も適切なものはどれか。
解説: 肢1が正解です。教科書 Dive into Deep Learning (Zhang ら) の10.1節の式では、3つのゲートと入力ノードのそれぞれが、入力 d 次元に掛ける d × h の重み、隠れ状態 h 次元に掛ける h × h の重み、h 個のバイアスを持ちます。 1組あ…
関連キーワード: LSTM・パラメータ数・ゲート機構・回帰結合層
- 正解済みまだ正解していませんQ37初級
RNN を自然言語処理に使うときの、入力と出力の対応に関する説明として、最も適切なものはどれか。
解説: 肢4が正解です。教科書 Speech and Language Processing (Jurafsky と Martin, 第3版草稿の2026年8月19日版) の第14章は、RNN の使い方を型に分けています。感情分析のような系列分類では、トークンごとの出力は使わずに系列の末…
関連キーワード: RNN・感情分析・系列ラベリング・エンコーダ・デコーダ
- 正解済みまだ正解していませんQ38上級
変分オートエンコーダ (VAE) の学習目的の問題を指摘した InfoVAE の論文 (Zhao ら, 2017) の内容として、最も適切なものはどれか。
解説: 肢2が正解です。InfoVAE の論文は、VAE の従来の学習目的 (ELBO) が、推論の分布を正しく学ぶことよりもデータの分布に当てはめることを優先しやすく、推論の分布が不正確になりうると指摘しました。また、表現力の高いデコーダと組み合わせると潜在変数が無視され、入力と潜在変…
関連キーワード: info VAE・VAE・相互情報量・潜在変数
- 正解済みまだ正解していませんQ39中級
デノイジングオートエンコーダに関する次の文の( )に入る語句として、最も適切なものはどれか。 「入力 x にノイズを加えて壊した x̃ をエンコーダに入れ、デコーダの出力が( )に近づくように学習する。」
解説: 肢1が正解です。教科書 Deep Learning (Goodfellow ら) の14.2.2節は、通常のオートエンコーダが L(x, g(f(x))) を最小にするのに対し、デノイジングオートエンコーダは、x をノイズで壊した x̃ を入力して L(x, g(f(x̃))) …
関連キーワード: デノイジングオートエンコーダ・オートエンコーダ・積層オートエンコーダ・ノイズ
- 正解済みまだ正解していませんQ40初級
画像分類の学習データを増やすデータ拡張に関する説明として、最も不適切なものはどれか。
解説: 肢3が不適切です。教科書 Deep Learning (Goodfellow ら) の7.4節は、正解のクラスを変えてしまう変換を使わないよう注意が要るとし、文字認識では b と d、6 と 9 を区別しなければならないので、左右反転や180度の回転は拡張の方法として適切でないと…
関連キーワード: データ拡張・汎化性能・過学習・ノイズ
- 正解済みまだ正解していませんQ41中級
画像のデータ拡張の手法に関するAからDまでの記述のうち、適切なものをすべて挙げた組合せはどれか。 A Random Flip は、画像を一定の確率で左右 (または上下) に反転させる。 B Random Rotation は画像を範囲の中から選んだ角度で回転させ、Random Crop は画像の無作為な位置から一部の領域を切り出す。 C Random Erasing は、一辺の長さをあらかじめ決めた正方形を無作為な位置に置いて中の画素を0にする手法で、消す領域の大きさや縦横比は変えない。 D 明るさ (Brightness) やコントラスト (Contrast) を無作為に変える拡張は、画素の位置を動かさずに画素の値を変える。
解説: Aは適切で、torchvision(画像ライブラリ)は RandomHorizontalFlip (RandomVerticalFlip) を、与えた確率で入力を左右 (上下) に反転する変換としています。Bも適切で、RandomRotation は指定の範囲から角度を選んで回転…
関連キーワード: データ拡張・Random Erasing・Cutout・Random Flip
- 正解済みまだ正解していませんQ42初級
テキスト分類の学習データを増やす EDA (Easy Data Augmentation) の説明として、最も適切なものはどれか。
解説: 肢4が正解です。EDA の論文 (Wei と Zou, 2019) は、テキスト分類のデータ拡張として、同義語への置き換え (ストップワード以外の単語を無作為に選んで同義語にする)、無作為な挿入、無作為な入れ替え、無作為な削除の4つの簡単な操作を示し、CNN と RNN の両方で…
関連キーワード: データ拡張・noising・EDA・テキスト分類
- 正解済みまだ正解していませんQ43中級
CutMix で、縦横32×32画素の画像A (ラベル「犬」) の一部を、画像B (ラベル「猫」) の同じ位置から切り取った縦横16×16画素の領域で置き換えた。CutMix の考え方に従うと、新しく作った学習データのラベルのうち「猫」の比率として、最も適切なものはどれか。
解説: 肢1が正解です。CutMix を提案した論文 (Yun ら, 2019) は、ある画像の矩形の領域を取り除いて別の画像から切り取った領域で埋め、正解ラベルも貼り付けた領域の面積に比例して混ぜます。 貼り付けた面積の割合: (16 × 16) ÷ (32 × 32) = 256 ÷…
関連キーワード: データ拡張・CutMix・正解ラベル・Mixup
- 正解済みまだ正解していませんQ44初級
CNN で特徴マップの縦横を縮める方法について、All Convolutional Net の論文 (Springenberg ら, 2014) が示した内容として、最も適切なものはどれか。
解説: 肢4が正解です。この論文 (Springenberg ら) は、畳み込み層と最大値プーリング層を交互に重ね、最後に少数の全結合層を置くという多くの CNN の構成要素が本当に必要かを見直し、最大値プーリングはストライドを大きくした畳み込み層に置き換えても、いくつかの画像認識のベン…
関連キーワード: プーリング層・ストライド・畳み込み層・All Convolutional Net
- 正解済みまだ正解していませんQ45初級
畳み込み層を適用できるデータの説明として、最も適切なものはどれか。
解説: 「時間と周波数の2次元に変換した音声や、CT画像のような3次元の体積データにも適用できる」が適切です。Goodfellow らの教科書『Deep Learning』第9章は、畳み込みネットワークを格子状に並んだデータを扱うものとし、例として1次元の音声の波形、フーリエ変換で時間と…
関連キーワード: 畳み込みニューラルネットワーク (CNN)・畳み込み操作・カーネル・畳み込み層
- 正解済みまだ正解していませんQ46初級
バッチ正規化に関する次の文の( A )( B )に入る語句の組合せとして、最も適切なものはどれか。 「バッチ正規化では、ミニバッチの平均と分散で正規化した値に、学習するパラメータ γ と β による( A )を施す。層への入力を単に正規化すると、たとえばシグモイド関数への入力が線形に近い範囲に収まるなど、層が表せるものが変わるおそれがあるため、この変換によって( B )も表せるようにしている。」
解説: 「A:拡大縮小と平行移動 B:恒等変換」が適切です。Ioffe と Szegedy のバッチ正規化の論文は、正規化した値に γ を掛けて β を足す変換 (scale and shift) を加え、γ と β をほかのパラメータと一緒に学習するとしています。シグモイド関数の入力が…
関連キーワード: バッチ正規化・ミニバッチ学習・正規化層・恒等変換
- 正解済みまだ正解していませんQ47中級
Ulyanov らは、画風変換 (スタイル変換) を高速に行う生成ネットワークのバッチ正規化の層を、インスタンス正規化の層に置き換えた。この研究の説明として、最も適切なものはどれか。
解説: 「内容画像ごとのコントラストの情報を正規化で取り除き、生成を簡単にして画質を高めた」が適切です。Ulyanov らの論文は、画風変換の結果のコントラストは内容画像のコントラストにほとんど左右されないという観察から、生成器のバッチ正規化をインスタンス正規化に置き換え、画像1枚ごとの…
関連キーワード: インスタンス正規化・バッチ正規化・正規化層・画風変換
- 正解済みまだ正解していませんQ48中級
物体検出やセグメンテーションのように、メモリの制約から小さなバッチで学習することが多いタスクについて、グループ正規化 (Group Normalization) をバッチ正規化と比べた説明として、最も適切なものはどれか。
解説: 「バッチの次元を使わずに統計量を計算するので、…バッチ正規化より向く」が適切です。Wu と He のグループ正規化の論文は、バッチ正規化はバッチが小さくなると統計量の推定が不正確になって誤差が急に増え、メモリの制約で小さなバッチを使う物体検出・セグメンテーション・動画での利用が妨…
関連キーワード: グループ正規化・バッチ正規化・ミニバッチ学習・物体検出
- 正解済みまだ正解していませんQ49中級
ResNet を提案した論文 (He ら) で用いられたショートカット接続の説明として、最も適切なものはどれか。
解説: 「入力をそのまま渡すショートカットは重みを持たず、…1×1の畳み込みで次元を合わせる」が適切です。He らの ResNet の論文は、恒等写像のショートカット接続は追加のパラメータも計算量も持たないとし、次元が増える所では、増えた次元を0で埋める方法 (パラメータなし) と、1×…
関連キーワード: ResNet・特徴マップ・スキップ結合・ショートカット接続
- 正解済みまだ正解していませんQ50中級
長い系列で RNN を学習するとき、一定の時刻数で逆伝播を打ち切る BPTT (truncated BPTT) が使われる。この方法の説明として、最も適切なものはどれか。
解説: 「最初の時刻まで勾配をさかのぼる計算は重く、不安定になりやすいので、打ち切って真の勾配を近似する」が適切です。Zhang らの『Dive into Deep Learning』は、系列の最初までさかのぼる計算は遅いうえ、初期条件のわずかな違いが結果を大きく変えて勾配が発散しうるの…
関連キーワード: BPTT・リカレントニューラルネットワーク (RNN)・勾配爆発問題・回帰結合層
- 正解済みまだ正解していませんQ51上級
出力を次の時刻の入力に戻す RNN を教師強制で学習し、その後、自分の出力を次の時刻の入力に戻しながら系列を生成させる。このときの問題とその対策に関する説明として、最も適切なものはどれか。
解説: 「学習時と生成時で受け取る入力がかなり異なりうるので、生成した値と正解の値を無作為に選んで入力に使う方法がある」が適切です。Goodfellow らの『Deep Learning』第10章は、教師強制で学習したネットワークを、出力を入力に戻す閉ループで使うと、学習時と使うときの入…
関連キーワード: 教師強制・リカレントニューラルネットワーク (RNN)・回帰結合層
- 正解済みまだ正解していませんQ52中級
Sutskever ら (2014) は、LSTM を使った Seq2Seq で英語からフランス語への機械翻訳を行い、文の単語の順序を入れ替える工夫を取り入れた。この工夫に関する説明として、最も適切なものはどれか。
解説: 「入力文の単語の順序を逆にすると、入力と出力の間に短い依存関係が多く生まれ…」が適切です。Sutskever らの論文は、入力文の語順を逆にし (訳文はそのまま)、入力文の先頭の単語を訳文の先頭の単語のすぐ近くに置くことで、短い依存関係が多く生まれて最適化がやさしくなり、性能が大…
関連キーワード: Seq2Seq・LSTM・機械翻訳
- 正解済みまだ正解していませんQ53中級
Transformer の原論文 (Vaswani ら, 2017) の Scaled Dot-Product Attention では、クエリとキーの内積を、キーの次元 d_k の平方根 √d_k で割ってからソフトマックス関数に入れる。論文が挙げるこの割り算の理由として、最も適切なものはどれか。
解説: 「d_k が大きいと内積の絶対値が大きくなり、ソフトマックス関数の勾配がごく小さくなりやすい」が適切です。Vaswani らの論文は、d_k が小さいと内積による注意と加法的な注意の性能は同程度だが、d_k が大きいと割り算をしない内積の注意は加法的な注意に劣ったとし、その原因を…
関連キーワード: Transformer・クエリ・キー・Attention
- 正解済みまだ正解していませんQ54上級
Transformer の原論文 (Vaswani ら, 2017) は、系列の長さを n、各位置の表現の次元を d として、層の種類ごとに1層あたりの計算量を比べている。その内容として、最も適切なものはどれか。
解説: 「Self-Attention の計算量は n の2乗×d に比例し、n が d より小さければ再帰層より速い」が適切です。Vaswani らの論文の表1は、計算量を Self-Attention が n の2乗×d、再帰層が n×d の2乗のオーダーとし、本文は、機械翻訳の文の…
関連キーワード: Self-Attention・Transformer・リカレントニューラルネットワーク (RNN)
- 正解済みまだ正解していませんQ55中級
入力を出力に写す (再構成の誤差を小さくする) ように学習させるオートエンコーダについて、符号 (中間の表現) の次元と、エンコーダ・デコーダの表現力に関する説明として、最も不適切なものはどれか。
解説: 不適切なのは「正則化を加えずに符号の次元を入力以上にし…有用な特徴を捉えやすくなる」です。Goodfellow らの教科書『Deep Learning』第14章は、エンコーダとデコーダの表現力が大きすぎると、データの分布について有用な情報を取り出さずに入力を写す学習になりうるとし…
関連キーワード: 次元削減・オートエンコーダ・正則化
- 正解済みまだ正解していませんQ56上級
変分オートエンコーダ (VAE) を提案した Kingma と Welling の論文で、学習のときに最大化する変分下界と、そこに含まれる KL 情報量 (KL ダイバージェンス) の項に関する説明として、最も適切なものはどれか。
解説: 「KL 情報量にマイナスを付けた項と、再構成の対数尤度の期待値の項からなり…」が適切です。Kingma と Welling の論文は、変分下界をこの2つの項に分けて書き、KL の項は近似事後分布を事前分布に近づける正則化、もう一方の項はオートエンコーダでいう再構成の誤差の符号を変…
関連キーワード: 変分オートエンコーダ (VAE)・カルバック・ライブラー情報量 (KL)・オートエンコーダ
- 正解済みまだ正解していませんQ57初級
画像のデータ拡張の手法である RandAugment (Cubuk ら) の説明として、最も適切なものはどれか。
解説: 「変換の数 N と、どの変換にも共通の強さ M を決めればよく…」が適切です。Cubuk らの論文は、従来の自動データ拡張が小さな代理タスクで別に探索する段階を必要とし、計算が重く、モデルやデータの大きさに合わせて強さを変えられない点を問題とし、探索空間を N と M の2つに絞…
関連キーワード: データ拡張・RandAugment
この科目の学習ポイントを読む
ぴよパスではG検定(ジェネラリスト検定)の問題を8カテゴリに分けています。ディープラーニングの要素技術にはオリジナル予想問題を57問収録し、サイト内のG検定(ジェネラリスト検定)全435問の約13%を占めます。この割合は本試験の出題比率ではありません。このカテゴリの収録テーマには畳み込み層・RNN・パラメータ数・バッチ正規化などがあります。本試験の情報は合格率76.97%(2026年第5回・オンライン試験と会場試験の合計。受験者14,908名・合格者11,475名)・試験時間100分・受験料13,200円です。
回答後に解説を読み、分からなかった用語や手順をテキストで確かめてから解き直す使い方ができます。関連する用語や条件は、人工知能とその動向・機械学習の概要・ディープラーニングの概要などのカテゴリでも確認できます。模擬試験はPremiumの機能です。問題数・科目構成・制限時間は模試の開始画面で確認してください。
ディープラーニングの要素技術の出題傾向 — 収録全57問の分析
ぴよパスに収録しているG検定(ジェネラリスト検定)「ディープラーニングの要素技術」のオリジナル練習問題 全57問を集計した、実データに基づく傾向まとめです
難易度の構成
初級18問・中級27問・上級12問の全57問構成です。
頻出テーマ (出題数の多い順)
- 畳み込み層10問
- RNN8問
- パラメータ数7問
- バッチ正規化7問
- 正規化層6問
つまずきやすいポイント (解説からの抜粋)
入力データの前処理の正規化と混同しないようにします。
Q8 バッチ正規化 (Batch Normalization) の説明として、最も適切なものはど… で確認する
次の科目へ
ディープラーニングの応用例66 問Premium 限定
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。
145問の模擬試験を始めるディープラーニングの要素技術 — よくある質問
この科目の問題数・学習順序・出題比率・合格ラインの目安をまとめました
- G検定(ジェネラリスト検定)のディープラーニングの要素技術は何問用意されていますか?
- ぴよパスではG検定(ジェネラリスト検定)のディープラーニングの要素技術に全57問のオリジナル練習問題を用意しています。G検定(ジェネラリスト検定)の収録全435問のうち約13%です。回答後に解説を確認できます。初級・中級・上級のバッジは問題の難易度の目安で、解いた人の習熟度を示すものではありません。
- ディープラーニングの要素技術はどんな順序で学習するのがおすすめですか?
- テキストで学んだ範囲や、確認したい用語の問題から取り組めます。迷う場合は一覧の先頭から数問解き、解説を読んでも分からない箇所をテキストで確認してください。問題番号は一覧内の順番です。ぴよパスではG検定(ジェネラリスト検定)の問題を8カテゴリ(ディープラーニングの要素技術 / 人工知能とその動向・機械学習の概要・ディープラーニングの概要・ディープラーニングの応用例)に分けているので、関連する内容は別のカテゴリでも確認できます。
- ディープラーニングの要素技術の問題数は、通常演習と模試でどう違いますか?
- ディープラーニングの要素技術は、ぴよパスでG検定(ジェネラリスト検定)の問題を分けている8カテゴリの一つです。ぴよパスに収録しているディープラーニングの要素技術の問題数は57問 / 全435問で、収録全体の約13%にあたります。ぴよパスの模擬試験の基本設定では、ディープラーニングの要素技術を全145問中19問(約13%)出題します。これは模試の配分であり、本試験の出題比率を示すものではありません。
- ディープラーニングの要素技術で合格ラインを割らないためのコツはありますか?
- G検定(ジェネラリスト検定)の合格基準は「合格ラインと得点は公表されていません(JDLAの公式FAQ『合格ラインおよび得点については開示しておりません』)」です。科目別の条件は「技術分野・法律・倫理分野ごとの足切りの有無も公表されていません」です。サイト内のカテゴリ分けと本試験の科目区分は一致しない場合があります。ディープラーニングの要素技術の正答率だけで合否を判断せず、間違えた問題の内容と、本試験で適用される基準を確認してください。