BM宣布退出人臉識別業務：人臉識別和公眾隱私，種族歧視等的矛盾
2020/6/9 21:48:32??????點擊：
美國人越來越反感人臉識別了。
具體來說，黑人 George Floyd 之死，也讓美國社會繼續反思警察執法問題，并由此引申到警察在執法中所采用的技術——其中最被嚴重詬病的，就是人臉識別。
在人臉識別再次成為眾矢之的的情況下，科技行業也有了一些動靜。
南都訊 記者馮群星 非裔美國人喬治·弗洛伊德（George Floyd）之死正在引發一系列的連鎖反應。當地時間6月8日，IBM官網公布了首席執行官阿里德·克里希納（Arvind Krishna）致美國國會的一封信，宣布不再提供通用的人臉識別或分析軟件。另據外媒報道，IBM表示也不會再繼續開發或者研究相關技術。
當地時間5月25日，在美國明尼蘇達州明尼阿波利斯鮑德霍恩社區，非裔美國人喬治·弗洛伊德被白人警察德里克·肖萬（Derek Michael Chauvin）逮捕。肖萬單膝跪在弗洛伊德脖頸處超過8分鐘，弗洛伊德被跪壓期間失去知覺并在急救室被宣告死亡。這一事件讓美國社會長期存在的種族歧視問題再次浮上水面，引發了美國大規模的游行和示威活動。
克里希納在信中表示，喬治·弗洛伊德及多位非裔美國人的死亡提醒美國人，“與種族歧視的斗爭一如既往得緊迫”。因此，IBM希望與國會合作，從技術使用、警察改革等關鍵領域著手，推動實現公平正義和種族平等。
“IBM不再提供通用的人臉識別或分析軟件。IBM堅決反對并且絕不容忍將任何技術（包括其他供應商提供的人臉識別技術）用于大規模監視、種族歧視、侵犯基本人權和自由，或用于任何與我們的價值觀、與我們的信任與透明度原則不符的目的。我們認為，現在是時候開始關于國內執法機構是否能使用，以及如何使用人臉識別技術的全國性討論。”克里希納寫道。
他表示，人工智能是一種強大的工具，可以幫助執法機構保護民眾的安全。但是，人工智能的供應商和用戶負有共同的責任，即確保人工智能應用，尤其是執法機構的人工智能應用不存在歧視。有關歧視的測試結果應該被公開和審核。“最后，國家應該出臺政策，鼓勵和推動警方使用一些能提高執法透明度與可信性的技術，比如執法記錄儀和現代的數據分析技術。”
據AI前哨站梳理，克里希納的擔心并非杞人憂天。多項研究顯示，美國各大公司的人臉識別算法在面對黑人時均存在準確率低的問題。這也是人臉識別在美國一直飽受詬病的原因之一。
2018年，美國一個民間組織使用535位美國國會議員的照片測試了亞馬遜的人臉識別系統，結果竟有28位國會議員被識別成罪犯。值得注意的是，這28人中有11人為有色人種，包括美國著名的民權領袖、眾議員約翰·劉易斯（John Lewis）。由于亞馬遜的人臉識別系統被美國執法機構廣泛使用，這一測試結果加深了人們對算法歧視的擔憂。“我們需要用技術來幫人們解決問題，而不是加重有色人種所面臨的不公。黑人和棕色人種已經成為歧視性判決系統的受害者。”劉易斯在隨后的一份聲明中寫道。
2019年底，美國國家標準技術研究院（National Institute of Standards and Technology，以下簡稱NIST）在調研了189種人臉識別算法后也發現，現有的人臉識別算法仍然無法排除種族、性別等因素的影響。
根據NIST的研究，在一對一的匹配中，大多數算法對亞裔和非裔美國人的誤報率超過白人，不同算法的誤報率差異從10倍到100倍不等；不同地區的算法也有差異，美國公司開發的一對一匹配算法對亞裔、非裔美國人和土著群體的誤報率尤其高。而在一對多的匹配中，針對非裔美國女性的誤報率普遍更高。研究人員指出，這可能會導致錯誤的犯罪指控。
事實上，IBM曾經試圖解決“算法歧視”的問題，并在2018年發布了可用于人臉識別算法訓練的公開數據集。但2019年，有網友發現該數據集抓取了近100萬張來自圖片社區Flickr的照片。這些照片被抓取主要是因為標記了知識共享許可協議（Creative Commons license）。IBM辯稱數據集并非商用，但許多上傳照片的用戶以及被拍攝者認為不能在未經其同意的情況下將其數據用于訓練。今年初，一些伊利諾伊州用戶以IBM侵犯隱私為由提起了訴訟。
據路透社、The Verge等媒體報道，IBM此前的人臉識別業務并未帶來可觀的營收。有知情人士在接受路透社采訪時表示，IBM將不再以應用程序編程界面或任何其他形式開發、創造、研究或銷售人臉識別產品，但會根據此前的客戶有需要的情況下提供支持。該人士補充說，IBM將繼續研究計算機視覺技術，但僅限于視覺對象檢測，而不是用于人臉識別和分析。
- 上一篇：2020年門禁發展趨勢分析 把握安全與便捷的平衡 2020/6/9
- 下一篇：貴陽市公共停車場建設點位選址建議的公告,公眾決定停車場位置 2020/6/9
滬公網安備 31011402002854號