อคติในโมเดลการเรียนรู้ของเครื่อง โดยเฉพาะอย่างยิ่งในระบบการสร้างภาษา เช่น GPT-2 สามารถขยายอคติทางสังคมได้อย่างมาก อคติเหล่านี้มักเกิดจากข้อมูลที่ใช้ในการฝึกโมเดลเหล่านี้ ซึ่งสามารถสะท้อนถึงทัศนคติแบบเหมารวมและความไม่เท่าเทียมทางสังคมที่มีอยู่ได้ เมื่ออคติดังกล่าวฝังอยู่ในอัลกอริธึมการเรียนรู้ของเครื่อง อคติดังกล่าวสามารถแสดงออกได้หลายวิธี ซึ่งนำไปสู่