補償機率

補償機率[1](英語:Equalized odds[2]),又稱均等化赔率差异性错误处理,是机器学习中衡量公平性的一种方法。如果受保护组和未受保护组的被试者的真阳率和假阳率相等[3],满足以下公式,则分类器满足这一定义:

舉一個例子,可以為性別、種族等我們希望沒有偏見的特徵,而為該人是否能夠勝任學位,輸出則為學校決定是否給予該人入讀學位。在這語境下,獲得同樣考試成績的美國黑人的大學入讀率比白人的大學入讀率高也可以符合補償機率的條件。

最初,这个概念是针对二元类的定义。2017年,Blake Woodworth进一步将该概念推廣为多类[4]

參考條目

參考文獻

  1. ^ 陳婉容; 朱孝文. 不看膚色就沒有歧視?「種族中立」為何會變成「色盲種族主義」. 關鍵評論. 2020-04-17 [2020-12-26]. (原始内容存档于2021-01-29). 
  2. ^ Hardt, Moritz. Equality of Opportunity in Supervised Learning. Neural Information Processing Systems. 10/7/2016 [2020-12-26]. (原始内容存档于2021-03-12). 
  3. ^ Fairness in ML 2: Equal opportunity and odds (PDF). https://www2.cs.duke.edu/. Duke Computer Science. [2020-12-26]. (原始内容存档 (PDF)于2020-11-27). 
  4. ^ Woodworth, Blake. Learning Non-Discriminatory Predictors Blake. Proceedings of Machine Learning Research. 2017, 65: 1-34 [2020-12-26]. (原始内容存档于2020-07-27).