補償概率

補償概率[1](英語:Equalized odds[2]),又稱均等化賠率差異性錯誤處理,是機器學習中衡量公平性的一種方法。如果受保護組和未受保護組的被試者的真陽率和假陽率相等[3],滿足以下公式,則分類器滿足這一定義:

舉一個例子,可以為性別、種族等我們希望沒有偏見的特徵,而為該人是否能夠勝任學位,輸出則為學校決定是否給予該人入讀學位。在這語境下,獲得同樣考試成績的美國黑人的大學入讀率比白人的大學入讀率高也可以符合補償概率的條件。

最初,這個概念是針對二元類的定義。2017年,Blake Woodworth進一步將該概念推廣為多類[4]

參考條目

參考文獻

  1. ^ 陳婉容; 朱孝文. 不看膚色就沒有歧視?「種族中立」為何會變成「色盲種族主義」. 關鍵評論. 2020-04-17 [2020-12-26]. (原始內容存檔於2021-01-29). 
  2. ^ Hardt, Moritz. Equality of Opportunity in Supervised Learning. Neural Information Processing Systems. 10/7/2016 [2020-12-26]. (原始內容存檔於2021-03-12). 
  3. ^ Fairness in ML 2: Equal opportunity and odds (PDF). https://www2.cs.duke.edu/. Duke Computer Science. [2020-12-26]. (原始內容存檔 (PDF)於2020-11-27). 
  4. ^ Woodworth, Blake. Learning Non-Discriminatory Predictors Blake. Proceedings of Machine Learning Research. 2017, 65: 1-34 [2020-12-26]. (原始內容存檔於2020-07-27).