G検定（ジェネラリスト検定） ディープラーニングの応用例 練習問題 第62問: 対照学習による自己教師あり学習の枠組みSimCLR（Chen ほか, arXiv 2020年）の論文で示された知見として、最も不適切なものはどれか。

「教師あり学習で使うより弱いデータ拡張のほうが、教師なしの対照学習ではよい表現が得られた」が不適切です。SimCLRの論文（Chen ほか）は、教師なしの対照学習は教師あり学習より強いデータ拡張から恩恵を受けると報告しており、向きが逆です。

「複数のデータ拡張を組み合わせること」が有効な予測課題を作るうえで決定的に重要だった点は、論文の主な知見の1つです。「学習可能な非線形の変換（射影ヘッド）」を表現と損失の間に入れると表現の質が大きく上がり、学習後は射影ヘッドを外して手前の表現を使います。

「大きなバッチサイズと長い学習」から教師ありの場合より大きな恩恵を受ける点も、論文の知見です。対照学習では、大きなバッチが多くの負例を与える点もあわせて押さえましょう。