歐盟出台全球首部人工智慧法
2024年3月14日![Stempel mit Aufschrift KI-Verordnung](https://static.dw.com/image/68158578_800.webp)
(德國之聲中文網)汽車導航、自動翻譯以及智慧型手機的臉部解鎖,我們日常生活中,人工智慧已經無所不在。歐盟期望通過一部"歷史性"的法律文件,讓人工智慧的使用變得更為安全。
周三,歐盟議會多數通過了一項涉及人工智慧的新法律。歐盟議會稱,這是全球範圍內,第一部對人工智慧技術進行規範的法律文件。今後人工智慧系統將被劃分成不同的風險等級,風險系數越高,應用人工智慧的門檻也就越高。
一般來說,人工智慧是指借助軟體對大量數據過濾分析,並得出結論的機器學習過程。目前,人工智慧已經得到廣泛應用,比如,借助人工智慧對CT圖像進行評估,其準確度和速度都絕非人工可以比擬的。
布魯塞爾認為,相關法律的出台具有"歷史意義",而經濟界則擔心,這一法規可能會對企業的創新精神構成障礙。那麼這部法律具有都有哪些內容呢:
哪些情況下,禁用人工智慧?
今後基於人的政治理念、宗教信仰、性取向以及膚色,而進行人群劃分的人工智慧系統將被禁止。在中國已經被廣泛使用的、基於個人行為或個人特徵的所謂社會信用系統,在歐盟則被禁止。
企業不得使用人工智慧技術觀察員工的情緒變化。該技術也不得用於違背當事人意願對其施加影響。此外,也不得因年齡、殘疾或經濟狀況等原因,對當事人進行歧視性對待。
使用人臉識別技術,都有哪些限制?
只有法官發布相應指令的前提下,警方和安全機構才可以在公共場合使用以人工智慧為基礎的人臉識別技術。德國已經在柏林火車站等地開展相關的試驗。
警方在追捕重案嫌疑人或通緝已經判決的罪犯時,可以用人工智慧技術對錄製好的影片資料進行分析。而在搜尋販賣犯罪或性暴力受害者時,警方也可以對即時監控影片使用人工智慧。此外,在遇到"具體及緊急的恐怖襲擊危險"時,警方也可使用人臉識別技術。
哪些人工智慧應用屬於"高風險"?
歐盟新法認定,安全機構在使用人工智慧時,原則上存在侵犯人權的"高風險"。同樣,在敏感基礎設施和人事管理方面,應用人工智慧也屬於高風險。此外,有可能會對選舉發生影響的人工智慧應用,也被劃歸"高風險"類別。
在上述領域,必須由一名專人對人工智慧作出的決策進行最後把關。另外,這項法律還規定,相關機構必須設立技術文本檔案以及風險管控機制。使用人工智慧的部門還應開闢相應投訴渠道,保障當事人權益。
如何確保人工智慧系統的品質?
今後,軟體開發人員必須對基於人工智慧的文字、圖片和影片進行明確的標注。這條規定同樣也適用於臉書、Instagram和X等平台上發表的貼文。不過,專家們認為,實際執行這一條款難度將會很大。
新的人工智慧系統需要用適當規模的資料庫進行研發和訓練。因此,相關的人工智慧軟體獲准進入市場前,有關當局應為人工智慧領域的初創公司提供方便,讓他們擁有符合現實情況的試驗環境。此外,人工智慧法還將強化專利產權的保護。
人工智慧法對工業界將產生哪些影響?
各工業協會擔心,歐盟制定的新法為研發新型人工智慧應用設置了難以踰越的障礙。德國工業聯合會發出警告稱,這項新法規將使歐洲企業同中美公司競爭時處於不利地位。
企業將面臨何種處罰?
違反人工智慧法的行為將面臨巨額罰款。對於使用非法軟體的公司,歐盟可以對其處以多至3500萬歐元的罰金,或要求其上繳全球年營業額的7%。 對於其他違法行為,相關企業也需繳納多至1500萬歐元,或全年營業額的3%。
新法何時生效?
2026年初,歐盟人工智慧法將正式生效。新法正式生效前,歐盟希望各企業能在自願基礎之上,執行相關的規定。批評者則擔心,兩年之後,歐盟現在制定的新法可能已經落後於技術的發展。
(德新社,法新社)
© 2024年德國之聲版權聲明:本文所有內容受到著作權法保護,如無德國之聲特別授權,不得擅自使用。任何不當行為都將導致追償,並受到刑事追究。