【Now新聞台】美國網上零售巨頭亞馬遜數年前開發人工智能程式,希望更有效挑選求職者,但公司發現這個程式出現歧視女性傾向,最終決定終止使用。
亞馬遜近年規模持續擴張,全球員工數目過去三年增加超過三倍達到57萬多人。公司為了加快聘請員工效率,2014年開始製作應用人工智能技術的程式分析求職者履歷。
程式以公司之前十年收到的履歷表作學習對象,之後為求職者評分,一分最低、五分最高,但亞馬遜其後發現程式在評估軟件開發及工程部門的求職者時,出現歧視女性的情況。
好像履歷中出現「執行」或「取得」,這些男性求職者履歷中較常出現的動詞,系統會為求職者打高分。相反履歷若出現「女性」字眼就會被系統扣分。亞馬遜發現,有來自女子大學的求職者遭到不公平對待。
亞馬遜內部分析發現,由於科網界過去一段時間都是「陽盛陰衰」,履歷表多數來自男性,結果分析系統學會了偏好男性求職者。
雖然亞馬遜其後修改程式令它變得更性別平等,但由於不能排除系統不再學會新的歧視手段,亞馬遜最終在2017年初解散系統的負責團隊,在作出聘任決定時亦不再只參考系統建議。
人工智能近年大行其道,美國去年有調查發現多達55%受訪人事資源經理,預測人工智能系統在未來五年會廣泛應用,但亞馬遜的經驗顯示目前人工智能仍有其局限。