เทคนิคการปรับปรุงทั้งความเป็นธรรมและความแม่นยำในปัญญาประดิษฐ์

สำหรับผู้ปฏิบัติงานที่ใช้โมเดลแมชชีนเลิร์นนิงเพื่อช่วยในการตัดสินใจ การรู้ว่าเมื่อใดควรเชื่อถือการคาดการณ์ของแบบจำลองนั้นไม่ใช่เรื่องง่ายเสมอไป โดยเฉพาะอย่างยิ่งเนื่องจากโมเดลเหล่านี้มักจะซับซ้อนมากจนการทำงานภายในของพวกเขายังคงเป็นปริศนา บางครั้งผู้ใช้ใช้เทคนิคที่เรียกว่าการถดถอยแบบเลือกเฟ้น ซึ่งตัวแบบจะประเมินระดับความเชื่อมั่นในการทำนายแต่ละครั้ง และจะปฏิเสธการคาดคะเนเมื่อความเชื่อมั่นต่ำเกินไป จากนั้นมนุษย์จะสามารถตรวจสอบกรณีเหล่านี้ รวบรวมข้อมูลเพิ่มเติม และตัดสินใจเกี่ยวกับแต่ละกรณีด้วยตนเอง นักวิจัยจาก MIT และ MIT-IBM Watson AI Lab ได้ค้นพบว่าเทคนิคนี้อาจส่งผลตรงกันข้ามกับกลุ่มคนที่มีบทบาทต่ำต้อยในชุดข้อมูล เมื่อความเชื่อมั่นของตัวแบบเพิ่มขึ้นตามการถดถอยแบบเลือก โอกาสในการทำนายที่ถูกต้องก็เพิ่มขึ้นเช่นกัน แต่สิ่งนี้ไม่ได้เกิดขึ้นกับทุกกลุ่มย่อยเสมอไป...