G検定（ジェネラリスト検定） AI倫理・AIガバナンス 練習問題 第9問: ある会社が過去10年分の採用データを使って書類選考を支援するモデルを作った。学習の前に性別の列は削除していたが、運用前の検証で、特定の性別の応募者に低い評価が付

正解: 1. 性別と関連の強い別の特徴量（代理変数）を通じて、過去の選考の偏りを学習した可能性がある。

肢1が正解です。Barocas・Hardt・Narayananの教科書『Fairness and Machine Learning』は、特徴量が多いと、削除した属性がほかの特徴量の組合せから高い精度で推測でき（冗長な符号化）、属性を消しても実質的に同じ分類器ができると説明しています。AI事業者ガイドライン（第1.2版）も、センシティブ属性を取り除いたデータでも関連する情報から属性が類推される場合を潜在的なバイアスの例に挙げています。肢2は誤りで、過去の選考そのものに偏りがあれば、データが多くても偏りは消えません。肢3は代理変数の存在を見落としています。肢4も誤りで、顔の性別分類を調べた研究（Buolamwini・Gebru, 2018）のように、全体の精度が高くても集団ごとの誤り率に大きな差が出ることがあります。なお、この事例は説明のための架空のものです。

関連キーワード: 代理変数・センシティブ属性・データの偏り・アルゴリズムバイアス