1. 程式人生 > 實用技巧 >bais mintigation post-processing for individual and group fairness

bais mintigation post-processing for individual and group fairness

為個人和群體的公平性的後處理偏見消除(post-processing)這篇論文理解的不是很清晰,沒有給詳細的方法介紹,沒有程式碼。

資料處理的階段一般分為三種:pre-processing,in-processing,post-processing,本篇論文是post-processing

後處理演算法的優點是它們不需要訪問訓練過程,因此適合於執行時環境。此外,後處理演算法以黑箱方式操作,這意味著它們不需要訪問模型的內部,它們的衍生物等,因此適用於任何機器學習模型(或模型的合併)

現有的所有後處理演算法都是針對組公平性的。本文的主要貢獻是提出了一種兼顧群體公平性和個體公平性的後處理偏差緩解演算法。此外,與之前的工作不同,論文中的方案在訓練偏差緩解演算法時,不需要在驗證樣本中使用任何ground truth類標籤。在作者提出的方法中,選擇了具有或可能具有個體公平問題的樣本,這樣就能夠同時解決群體和個體的公平問題。

後處理演算法,特別是那些可以將分類器作為一個完整的黑盒是必要的。與之前的工作相比,作者提出的演算法不僅解決了獨立的和組的公平性,而且是一個純執行時的方法,因為它不需要ground truth類標籤的驗證集。