1. 跳轉至内容
  2. 跳轉至主選單
  3. 跳轉到更多DW網站

人工智慧正在成為你的老闆,危險何在?

Ella Joyner
2023年1月29日

人工智慧工具已經廣泛使用於零工經濟,並且正在迅速進入其他領域。這對你的工作來說意味著什麼?

人工智慧招聘中存在種族主義、能力歧視或性別歧視的風險?
人工智慧招聘中存在種族主義、能力歧視或性別歧視的風險?圖片來源: julien Tromeur/PantherMedia/IMAGP

(德國之聲中文網)33歲的羅德裡格斯(Renan Rodrigues)在瑞士快遞公司Smood擔任送餐司機大約一年半之後,「機器人」走馬上任。根據他的描述,這個由算法驅動的應用程式,為他和他的同事安排送貨和值班。

羅德裡格斯告訴德國之聲,從他2020 年開始在那裡工作以來,Smood公司就一直在使用此類軟體。 據他說,「機器人」開始完全負責安排他的日常工作日,似乎不再可能需要人類經理了。

這個「機器人”應用程式的目標是以最有效的方式組織送貨。羅德裡格斯承認,從僱主的角度來看這是有效的。他說,當他剛開始在位於瑞士小鎮伊韋爾東(Yverdon-les-Bains)的這家公司工作時,通常每小時送貨兩次左右。到他離開時,已經達到四、五次了。

「我很快明白,就人類的層面來說,這將是一場災難。」羅德裡格斯告訴德國之聲。他看到「機器人」使得員工互相競爭。速度最快、表現最好的司機得到更多送貨數量。他說,最終他發現自己的工作量變少了。他的零工合同並沒有保證他的最低工作時數或固定的月薪,他發現自己的收入很難預期。

「對我來說,最糟糕的是告訴我,當我被GPS系統跟蹤時,有一個秒錶隨時隨地都在運行,監測我的速度等等。」他說。這造成了他所謂的「社會壓力」。取餐時,他不會和餐館老闆打招呼,而是大聲叫他們快點,跑進去後,很快跑出來。「這對人來說是可悲的。」

與機器人打交道

羅德裡格斯和他的同事們稱之為「機器人」的東西,也被叫做算法管理,就是使用計算機程序作出工作決策。它是一种人工智慧(AI)。根據歐盟委員會的說法,人工智慧是指「通過分析環境並採取行動——具有一定程度的自主性——以實現特定目標而顯示出智慧型表現的系統」。

算法管理的使用尤其與零工經濟(gig economy)相關,例如Uber和Deliveroo這樣的公司,其員工通常是自由職業者或零工時合同工。

事實上,人工智慧工具正在迅速進入經濟的各個領域。 對於白領辦公室工作,它們可以用於招聘或績效跟蹤。專業服務咨詢公司普華永道(PwC)在 2022 年對 1,000 家公司進行的一項調查發現,在過去 12 個月中,六分之一到四分之一的公司在招聘或保留員工方面使用了人工智慧。 在使用人工智慧最先進的公司中,約 40% 的公司使用它來改善員工體驗和技能獲取,或提高生產力。

公司可以通過多種方式使用有關員工或求職候選人的數據,正如西班牙銀行 BBVA 的非營利組織 OpenMind 去年發布的一份報告所強調的那樣:「人力資源專業人員用它決定招聘也就是雇傭誰,考核工人的工作和晉級,確定人們何時可能離職,以及選擇未來的領導人。人員分析也被用來管理工人的績效。」

以美國公司HireVue為例,據其網站介紹,該公司擁有800多個客戶,包括亞馬遜、G4S和聯合利華等大型跨國公司。該公司聲稱,通過影片求職面試,它可以大大加快招聘速度,為求職者提供更大的靈活性,讓招聘更加公平。它還說,算法可以被訓練來消除人類招聘人員中常見的無意識的種族和性別偏見。HireVue援引英國客戶Co-Operative Bank的例子說,算法工具有助於將偏向男性的性別偏見從70/30的比例降至50/50,實現了性別均等。

然而,近年來,一些專家和記者指出,在人工智慧招聘中存在再現種族主義、能力歧視或性別歧視的風險。美國去年的一項研究發現,经过人工智慧訓練的機器人一再歧視女性和非白人。

美國平等就業機會委員會甚至發布了關於使用工作场所人工智慧的指南,警告說「使用這些工具可能會使求職者和殘障員工處於不利地位」。例如,他們可能在一個需要高度鍵盤靈活性的測試中獲得低分。

正在進行的法律改革

 在歐盟,有兩項正在進行中的關鍵立法,將會影响人工智慧在工作中的部署方式。歐盟委員會強調,一般來说,人工智慧可以為公民和企業帶來好處,但它也對人們的基本權利構成風險。

 根據擬议的人工智慧法案,就業、工人管理和個體經營被特別提到是高風險的用途。對於此类人工智慧工具的製造商和購買者,法律應規定產品上市前的具體義務,主要是合格評定。

這種測試將仔細檢查用於训练人工智慧系統的數據集的品質(訓練不足的系統可能會產生有偏見的結果),對買家的透明度規定和人類監督的水準。一旦產品進入市场,人工智慧開發者也將承擔監督義務。

 歐洲工會研究所的卡斯蒂洛(Aida Ponce Del Castillo)表示,從工人的角度來看,人工智慧立法沒有具體規範你的老闆如何使用它。「這是一個錯失的機會。」這位研究人員告訴德國之聲,義務落在技術的賣方身上。根据人工智慧法案,某些技術將被徹底禁止——比如與中國政府相關的「社會評分」系統——但這還不是對工作場所的具體規範。

卡斯蒂洛說,第二項即將出台的相關立法是平台工作指令。它有一章專門針對算法管理,但顧名思義,它只涵蓋了歐盟平台行業估計的 2800 萬工人。 根據歐盟委員會的說法,擬議的法律「提高了數字勞動平台使用算法的透明度,確保人工監督他們對工作條件的尊重,並賦予對自動化決策提出異議的權利」。

卡斯蒂洛說,這些法律草案——兩者仍在通過歐盟立法程序的過程中——應該為工人提供工具來挑戰他們的老板对人工智慧的有潛在問題的使用。但她提醒說,不必完全禁止它們。她認為有兩件事應該被禁止,一是情緒解讀技術(這是最具爭议的人工智慧使用之一,許多專家懷疑情緒是否簡單或普遍到可以測量),二是暫停Uber司機等零工的賬戶。

 「我不想说人工智慧不好。我已經將 20 年的生命獻給了這方面的技術研究。」 卡斯蒂洛說,這始終關係到管理人的風險。

 作為前送貨司機,羅德裡格斯對「機器人」的看法非常明確:他認為應該對公司可以做什麼和不能做什麼進行更多的監管。他承認,他最終被Smood公司解僱了。但羅德裡格斯解釋說他並不介意,因為他已經獲得了一份夢想的工作的培訓合同,準備成為一名火車司機。

© 2023年德國之聲版權聲明:本文所有內容受到著作權法保護,如無德國之聲特別授權,不得擅自使用。任何不當行為都將導致追償,並受到刑事追究。

跳轉至下一欄 DW熱門報導

DW熱門報導

跳轉至下一欄 更多DW報導