企業在法規生效時需要了解的事項

下週將標誌著人工智慧（AI）法規的新時代，因為歐盟（EU）人工智慧法案的首批義務將開始生效。

雖然所有的遵循要求要到2025年中才會生效，但歐盟人工智慧法案的初始階段將於2月2日開始，並包含對特定AI應用的重大禁令。全球在歐盟運營的企業現在必須遵守嚴格的規範和高風險的規則。

這些新規定禁止部署或使用幾種高風險的AI系統。這些包括社交評分、情感識別、公共場所的即時遠端生物識別識別等在法律上被認為不可接受的情境。

如果企業違反這些規則，可能會面臨高達全球年營業額7%的罰款，因此組織必須了解並遵守這些限制。

早期遵循的挑戰

「它終於來了，」來自Informatica的氣候、可持續發展和AI首席策略師Levent Ergin說。「雖然我們仍然在分階段進行，但企業為歐盟人工智慧法案所做的艱苦準備將面臨最終考驗。」

Ergin強調，儘管大多數遵循要求要到2025年中才會生效，但最早的禁令已經設定了決定性的基調。

「對企業來說，2025年的壓力是雙重的。他們必須展示AI投資的具體回報，同時應對數據質量和法規不確定性的挑戰。事實上，89%的大型企業報告指出，對其生成AI計劃的期望存在衝突。同時，48%的企業表示，技術限制是將AI試點轉為生產的主要障礙，」他指出。

Ergin認為，遵循法規和成功的關鍵在於數據治理。

「如果沒有穩健的數據基礎，組織將面臨停滯的風險，這會限制他們釋放AI的全部潛力。畢竟，確保強大的數據治理不就是歐盟人工智慧法案的核心原則之一嗎？」

為了適應，企業必須優先加強其數據質量的管理。

「加強數據質量和治理不再是選擇，而是至關重要的。為了確保遵守法規並證明AI的價值，企業必須投資於確保數據的準確性、全面性、整合性、時效性和良好的治理，」Ergin說。

「這不僅僅是滿足法規要求；而是讓AI能夠帶來實際的商業成果。隨著82%的歐盟公司計劃在2025年增加其生成AI的投資，確保他們的數據準備好使用AI將成為成功與否的關鍵。」

歐盟人工智慧法案沒有國界

歐盟人工智慧法案的跨境適用性意味著非歐盟的組織也不能掉以輕心。Norton Rose Fulbright的合夥人Marcus Evans解釋，該法案的適用範圍遠超過歐盟的邊界。

「人工智慧法案將具有真正的全球適用性，」Evans說。「因為它不僅適用於在歐盟內使用AI的組織，或那些提供、進口或分銷AI至歐盟市場的公司，還包括其輸出在歐盟內使用的AI提供和使用。因此，例如，一家在歐盟進行招聘的公司，即使它位於其他地方，也將受到這些新規則的約束。」

Evans建議企業首先審計其AI的使用情況。「在這個階段，企業必須首先了解AI在其組織中的使用情況，以便然後評估是否有任何使用案例可能觸發禁令。在這一初步清單的基礎上，然後可以引入更廣泛的治理過程，以確保AI的使用被評估，保持在禁令之外，並符合人工智慧法案。」

儘管組織努力使其AI實踐與新法規對齊，仍然面臨其他挑戰。遵守要求需要解決數據保護、知識產權（IP）和歧視風險等其他法律複雜性。

Evans強調，提高組織內部的AI素養也是一個關鍵步驟。

「任何在適用範圍內的組織還必須採取措施，確保其員工以及其他任何與其代表操作和使用AI系統的人員，都具有足夠的AI素養，」他表示。

「AI素養在遵循人工智慧法案中將發揮重要作用，因為參與治理和使用AI的人必須理解他們正在管理的風險。」

鼓勵負責任的創新

歐盟人工智慧法案被譽為負責任的AI發展的一個里程碑。通過禁止有害的做法並要求透明度和問責制，該法規旨在平衡創新與倫理考量。

「這一框架是朝著建立更負責任和可持續的人工智慧未來邁出的關鍵一步，」來自EY Global的AI部門負責人Beatriz Sanz Sáiz說。

Sanz Sáiz認為，該法案能夠促進信任，同時為變革性的技術進步提供基礎。

「它有潛力促進對AI發展的進一步信任、問責和創新，並加強技術持續建立的基礎，」Sanz Sáiz堅稱。

「我們必須專注於消除偏見，並優先考慮公平、公正和隱私等基本權利。負責任的AI發展是加速創新的重要一步。」

歐盟人工智慧法案下的禁令是什麼？

為了確保遵守，企業需要清楚了解哪些活動屬於歐盟人工智慧法案的嚴格禁令。當前禁止的活動清單包括：

• 有害的潛意識、操控性和欺騙性技術
• 對脆弱性的有害利用
• 不可接受的社會評分
• 個人犯罪風險評估和預測（有些例外）
• 無針對性地抓取互聯網或監視器材料以開發或擴展面部識別數據庫
• 在工作場所和教育等領域的情感識別（有些例外）
• 生物識別分類以推斷敏感類別（有些例外）
• 在公共可訪問空間的即時遠端生物識別識別（RBI）用於執法目的（有些例外）

委員會即將發布的指南將幫助企業確定哪些「AI系統」屬於這些類別，這對於尋求確保遵守並降低法律風險的企業至關重要。此外，企業應預期在國家和歐盟層面獲得進一步的澄清和資源，例如即將由AI辦公室主辦的網路研討會。

AI法規的新格局

歐盟人工智慧法案的早期實施僅是這一極具挑戰性和雄心勃勃的法規努力的開始。隨著AI在商業策略中扮演著越來越重要的角色，組織必須學會駕馭新規則，並不斷適應未來的變化。

目前，企業應專注於了解其AI使用範圍、加強數據治理、培訓員工以提升AI素養，並採取主動的遵循方式。這樣，他們可以在快速發展的AI領域中立於不敗之地，釋放技術的全部潛力，同時維護倫理和法律標準。

(照片由Guillaume Périgois提供)

另見：ChatGPT Gov旨在現代化美國政府機構

想了解更多關於行業領袖的AI和大數據嗎？查看在阿姆斯特丹、加州和倫敦舉行的AI與大數據博覽會。這一綜合活動與其他主要活動共同舉辦，包括智能自動化會議、BlockX、數字轉型周和網絡安全與雲博覽會。

在這裡探索其他即將舉行的企業技術活動和網路研討會。