fbpx

微軟淘汰情緒辨識人工智慧系統 原因出在人權

微軟淘汰情緒辨識人工智慧系統 原因出在人權
                                       

在 2015 年,微軟旗下的 Project Oxford 團隊發表了當時最新的臉部辨識技術,其中最特別的是可以分析臉部的情緒 Emotion AI,也就是知道照片中的表情是開心、生氣、又或是緊張、驚訝。但近期卻傳出準備將這項功能淘汰,原因就出在”人權”上。

0ecd5f5bc0c4025cd24cc21f0840de6b

 

就在 6/21 時,微軟 Azure AI 集團首席產品經理 Sarah Bird 公開發表了一篇文章,這篇文章提到從今開始停用具有情緒狀態判定與性別、年齡、鬍鬚、髮型與是否化妝的臉部辨識功能,並說明對於臉部辨識對於臉部表情的定義並不精確,也無法清楚表情與心情間的關聯,而這項功能也可能被濫用,造成人們受到刻板印象的偏見,甚至造成歧視或不公平的待遇。權衡利弊下,因而做出停止服務的決定,對於現有使用者,將可使用到 2023 年 6 月  30 日。

其實微軟並不是唯一一家有投入臉部情緒辨識系統的公司,包含亞馬遜、IBM、intel、Google…都積極投入這區塊,它們以臉部表情與肢體動作,用以理解受測者的情緒。這項用途對於廣告商是非常實用的,他可安裝在播放廣告的螢幕上,用以辨識當觀看者看到所播放時的情緒,加上年齡、性別…與其他特徵,就可以了解這廣告對那些族群是有吸引力的。而在零售業中,可在進入門口時進行辨識,就可利用訊息推播方式將有可能吸引這位顧客的產品資訊傳送到他的手機上。甚至居家學習或上班時,老師與主管都可利用這項功能,來辨識你目前的工作學習狀態。

不過這項技術其實爭議不斷,除了在特徵辨識的準確度欠佳,可能因而提供錯誤資訊,進而推送可能冒犯的訊息外。因為人類表情的複雜程度非常高,只靠臉部表情是無法辨識心情。例如有著職業笑容的百貨服務人員,你可能不會知道他心裡面其實非常傷心,這連身為人類的我們都很難理解,更何況是機器。若這項技術用於海關,將其錯誤情緒與特徵辨識為負面時,這也會讓通關旅客受到不公平的待遇。

另外在隱私部分也備受爭議,當你在觀看有著表情偵測廣告、或是進入賣場時,你其實並不知道有台攝影機正對著你拍攝並分析資訊,甚至開始追查你的購物經歷。在並未被告知下,你已經被做完一輪身家調查,而且即將用在他們營業用途上。這些屬於個人隱私的資訊卻當成別人賺錢的工具,這就與 Facebook 或是 Google 用你的搜尋資訊來推送廣告一樣,一定會有非常多人對這樣的行為不滿,若 Facebook 該被撻伐,那這些臉部辨識技術是不是也應該受到同樣待遇?

 

後記

人工智慧技術越來越強大同時,雖然帶給人們更多便利,但對於道德與隱私上的界線也越來越模糊,要怎麼畫清楚這條線對於科技公司相對重要。這次微軟劃清楚了,將道德感擺在前面商業利益前面的作法是值得稱許的,但在謹守道德界線時,又該怎麼讓技術更往前一步呢?這絕對是對這些公司最大的挑戰。

 

資料來源:microsoft

網路快訊

Kisplay為Saydigi.com總編輯,喜好各式各樣科技生活新鮮事,也樂於以輕鬆自然方式將新知傳達給讀者,讓科技話題與生活品味永遠圍繞在彼此身邊。

■作者:Kisplay
■主題:3C、生活品味
■連絡方式:Kisplay@gmail.com
■FaceBook:https://www.facebook.com/iamKisplay/

More in 網路快訊

2022 第 33 屆金曲獎頒獎典禮 LIVE 直播懶人包

高伯任2022-06-26

中華電信 Hami Pay 汽燃費享 3% 回饋

Candice Chao2022-06-25

紀念《安妮日記》作者 安妮法蘭克 (Anne Frank)

點子生活2022-06-24

三星發表新一代兩億畫素感光元件 ISOCELL HP3 能讓手機機身變得更輕薄!

Candice Chao2022-06-24

Netflix 廣告方案確定 2022 年底前上線

高伯任2022-06-24

2022 台灣 5G 體驗洞察報告出爐 中華電信拿下最快 5G 平均下載速度奬!

Candice Chao2022-06-24