人工智慧臉部辨識能力其實不如你我所想的那般強大!?
本系列文章為【為了被 AI 認出，你願意戴上「白面具」嗎？臉部辨識的隱憂】的下篇，上篇請點此。
為什麼人工智慧不擅長辨識黑人女性？
▲ 科學期刊《自然》所刊之專文指出，被偏倚資料組訓練出來的演算法，通常僅會將左圖辨識成「新娘」。(圖片來自：Left：iStock/Getty；Right：Prakash Singh/AFP/Getty)
究竟為什麼 人工智慧 不擅長辨識黑人與女性呢？我們就從波拉維尼的故事說起：
在 MIT 實驗室的某日，波拉維尼拿自己的臉部照片測試了微軟、IBM 等公司的臉部辨識 服務，可是發現這些將宣稱的非常先進的技術，有的將她誤認為男性、有的對她的照片沒有任何反應，完完全全辨識不出東西，錯誤率高得令她吃驚。
一直到她戴上白人面具，AI 彷彿恢復正常般，又可以辨識了。難道是她的臉部長相太特別、剛好是 AI 辨識不出來的特例？還是……這些辨識服務本身就有漏洞？
於是，波拉維尼決定進行更廣泛的測試。她輸入了超過 1000 張照片，包括不同種族、不同性別。結果發現一個明顯的趨勢：膚色愈白，辨識確率就越高；另一方面男性的正確率遠比女性高。讓她明白為何人工智慧臉部辨識幾乎無法認出她——因為她是一位具有「雙重弱勢」黑人女性，她這類人的辨識正確度，遠遠低於白人男性。
真相其實很簡單，歸根究柢就是因為在訓練演算法時，開發團隊沒有提供多元的種族和性別資料給 AI 所導致。換句話說，AI 在「成長過程」中，認知到的世界就多由白人、男性所構成。
即使並沒有人刻意將人工智慧訓練成這樣，但它可能引發的後續問題，或許比存有種族偏見的街頭警察更加嚴重……
還沒有完善就直接上陣的演算法
這個問題多花點時間就可以修正，只要提供多元組成的資料給 AI 即可，但這些科技公司依然選擇讓不完全的臉部辨識服務上線。
而臉部辨識服務也不是唯一一個，將存有偏見疑慮的 AI 服務投入實用的案例：
2018 年紐西蘭移民署（Immigration New Zealand）實行一項實驗計畫（pilot programme），藉由國家簽證申請程序蒐集移民的年齡、性別、種族、犯罪紀錄、醫療費用欠繳紀錄等等資料，預測這些居留者如果續留，有無犯罪的可能或是否帶來更多醫療支出。一旦 AI 認為，某些移民有治安或醫療方面的疑慮，他們將無法重新申請簽證，甚至會直接被驅逐出境。
消息一出立刻引發強烈抨擊，不少民眾與人權團體質疑這套演算法帶有偏見、背後隱藏著種族歧視，並且也鬧過荒謬的烏龍──一位印度裔移民的家屬被拒絕居留，只因移民署的 AI 認為他的母親過去曾經患有乳癌，但實際上他母親不曾患過任何關於乳房組織的疾病。
科技巨頭急煞車 將道德倫理納入考量
波拉維尼的研究成果公開後，IBM 於 2018 年投入解決 AI 歧視的問題、2020 年甚至直接宣布「不再開發、提供授權或研究臉部識別技術」；微軟則採納報告以改善誤差，並表示未來開發演算法時會納入道德倫理的考量。
▲ 波拉維尼之研究成果
2018 年微軟在官方網站上公布人工智慧開發應考量的六大倫理原則：公平性、可信賴性與安全性、隱私與安全、包容性、透明以及課責。並透露微軟已成立「人工智慧與工程及研究倫理委員會」，負責研究人工智慧產品研發對人類和社會的影響。
IBM 2020 年 4 月新上任的執行長 Arvind Krishna 撰寫一封公開信致函美國國會：「IBM 堅決反對且不會容許任何技術（包括其他業者的人臉辨識技術）用於大規模監控、種族歧視、違反基本人權與自由，或不符合我們價值觀與《信任與透明度準則》的行為。」
反觀亞馬遜，一開始不斷否認自家臉部識別平台 Rekognition 存有缺陷，甚至指波拉維尼的研究為「詆毀」，直到 2020 年年中因非裔男子喬治‧弗洛伊德之死，讓美國種族膚色衝突白熱化，亞馬遜才宣布將暫停讓美國執法部門使用 Rekognition 一年，以避免更嚴重的爭議。
臉部辨識技術雖然為人們的生活增添許多便利，但同時公共安全與個人隱私之間的取捨、種族性別的偏見爭議，都為這個自發展初期即飽受爭議的 AI 技術，更蒙上一層陰影。
相關文章:
愛沙尼亞即將任用 AI 法官！人工智慧走入司法領域就一定公正嗎？
【疫情下的人工智慧】拉開「社交距離」後，機器人如何幫我們維繫心理連結？
每個成功的人工智慧背後，都有一群來自「國家級貧困縣」的訓練師-薪水嚇死人
