現実との分布のズレ データの偏り データの集め方の偏り サンプリングバイアス 直接的な差別の原因 センシティブ属性 代わりになる強い相関 代理変数 データの偏りは学習データが 現実世界の分布とズレ 特定の特徴 極端に多いか少ない状態 データの偏りは 最初からズレている サンプリングバイアスは 収集プロセスの偏り 母集団から無意識に抜き出す 取り方のミス センシティブ属性は 人種や性別などの機微な属性 AIの公平性を損なう要因 性別 年齢 人種 宗教 入力として慎重に扱うべき項目 代理変数はセンシティブ属性 そのものではないが それと強い相関をもつ別の変数 属性を消しても間接的に 差別を起こす原因 郵便番号や居住地域が 人種や所得を予測できてしまう 隠れたセンシティブ属性 それが代理変数 現実との分布のズレ データの偏り 集め方の偏り サンプリングバイアス 直接的な差別の原因 センシティブ属性 代理変数が残ると 間接的な差別が起きる
