G検定（ジェネラリスト検定） AI倫理・AIガバナンス 練習問題 第11問: AIの予測が特定の集団に不利に働く問題への対処の説明として、最も適切なものはどれか。

正解: 3. 学習前のデータの加工、学習時の公平性の制約、学習後の予測の調整という段階ごとの方法があり、人の判断を介在させることも検討される。

肢3が正解です。『Fairness and Machine Learning』は、公平性の基準を満たす手法を、特徴量を加工する前処理、学習の最適化に制約を組み込む方法、学習済みの分類器を調整する後処理の3つに分けています。AI事業者ガイドライン（第1.2版）の「公平性」の項も、適切なタイミングで人間の判断を介在させる利用を検討するとしています。肢1は、しきい値の調整を前処理としている点が誤りで、これは後処理です。肢2も誤りです。学習の過程に手を入れられない場面で使えるのは後処理で、学習時の方法には元のデータと学習の仕組みに手を入れられることが必要です。肢4は、バイアスを完全には排除できないことを踏まえ、運用中もバイアスの発生をモニタリングするというガイドラインの考え方に反します。どの段階で手を入れるかによって、名前も使える場面も変わる、と押さえましょう。

関連キーワード: 公平性・アルゴリズムバイアス・前処理・後処理・人間の判断の介在