商業需知：法規生效前的準備事項

下星期將是人工智慧 (AI) 監管的新時代，因為歐盟人工智慧法案 (EU AI Act) 的第一階段要求將開始生效。

雖然完整的合規要求要到2025年中才會實施，但EU AI Act的初步階段將於2月2日開始，這包括對某些AI應用的重大禁止。全球在歐盟運營的企業現在必須面對規範要求，這些要求非常嚴格，風險也很高。

這些新規定禁止部署或使用幾種高風險的AI系統，包括社會評分、情感識別、公共空間的即時遠程生物識別等被認定為不可接受的情況。

如果企業違反這些規則，可能會面臨高達全球年度營收7%的罰款，因此了解和遵守這些限制對於組織而言是非常重要的。

早期合規挑戰

「終於來了，」資訊科技公司 (Informatica) 的氣候、可持續性和人工智慧首席策略師 Levent Ergin 說。「雖然我們仍在分階段進行，但企業為EU AI Act所做的努力將面臨最終考驗。」

Ergin強調，儘管大多數合規要求要到2025年中才會生效，但早期的禁止措施已經設定了決定性的基調。

「對企業來說，2025年的壓力是雙重的。他們必須展示AI投資的實際回報，同時還需要應對數據質量和監管不確定性的挑戰。現在已經形成完美風暴，89%的大型企業在歐盟報告他們對生成性AI的期望存在衝突。與此同時，48%的人表示技術限制是將AI測試推向生產的主要障礙，」他表示。

Ergin認為，合規和成功的關鍵在於數據治理。

「沒有堅實的數據基礎，組織就會面臨停滯，限制他們發揮AI的全部潛力。畢竟，確保強大的數據治理難道不是EU AI Act建立的核心原則之一嗎？」

為了適應，企業必須優先加強對數據質量的重視。

「加強數據質量和治理已經不再是可選的，而是至關重要的。為了確保合規並證明AI的價值，企業必須投資於確保數據的準確性、完整性、整合性、及時性和良好管理，」Ergin說。

「這不僅僅是滿足監管要求；這是讓AI帶來真正商業成果的關鍵。隨著82%的歐盟企業計畫在2025年增加對生成性AI的投資，確保數據為AI準備好將成為成功與否的分水嶺。」

EU AI Act沒有國界

EU AI Act的域外適用性意味著非歐盟組織同樣不會被豁免。Norton Rose Fulbright的合夥人Marcus Evans解釋，這項法案的適用範圍超出了歐盟的邊界。

「AI Act將具有真正的全球適用性，」Evans說。「因為它不僅適用於在歐盟內使用AI的組織，或提供、進口或分銷AI到歐盟市場的組織，還適用於其輸出用於歐盟的AI供應和使用。因此，例如，一家在歐盟進行招聘的公司——即使它的總部在其他地方——仍然會受到這些新規則的約束。」

Evans建議企業首先對其AI使用情況進行審計。「在這個階段，企業必須首先了解AI在他們組織中的使用情況，以便他們能夠評估是否有任何用例可能觸發禁止。建立在初步清單的基礎上，可以引入更廣泛的治理流程，以確保AI的使用經過評估，保持在禁止之外，並遵守AI Act。」

雖然組織在努力使其AI實踐與新規定保持一致，但還有其他挑戰。合規需要解決其他法律複雜性，如數據保護、智慧財產權 (IP) 和歧視風險。

Evans強調，提高組織內的AI素養也是一個關鍵步驟。

「任何在範圍內的組織都必須採取措施，以確保其員工——以及任何代表他們操作和使用AI系統的人——擁有足夠的AI素養，」他表示。

「AI素養在AI Act合規中將發揮至關重要的作用，因為參與治理和使用AI的人必須了解他們所管理的風險。」

鼓勵負責任的創新

EU AI Act被譽為負責任AI發展的重要里程碑。通過禁止有害的做法，並要求透明度和問責制，這項法規旨在平衡創新與倫理考量。

「這一框架是建立更負責任和可持續的人工智慧未來的重要一步，」EY Global的AI部門領導人Beatriz Sanz Sáiz說。

Sanz Sáiz相信，這項立法促進了信任，同時為變革性技術進步提供了基礎。

「它有潛力促進AI發展中的進一步信任、問責制和創新，並加強技術持續建立的基礎，」Sanz Sáiz堅信。

「我們必須專注於消除偏見，並優先考慮公平、公正和隱私等基本權利。負責任的AI發展是進一步加速創新的重要一步。」

EU AI Act下禁止的活動有哪些？

為了確保合規，企業需要明確哪些活動屬於EU AI Act的嚴格禁止之列。目前禁止的活動清單包括：

• 有害的潛在操控和欺騙技術
• 對弱勢群體的有害剝削
• 不可接受的社會評分
• 個人犯罪風險評估和預測（有一些例外）
• 不針對性地從互聯網或閉路電視材料中收集資料以開發或擴展面部識別數據庫
• 在工作場所和教育等領域的情感識別（有一些例外）
• 生物識別分類以推斷敏感類別（有一些例外）
• 在公共可接觸空間進行的即時遠程生物識別識別（RBI）用於執法目的（有一些例外）

委員會即將發布的指導意見將對哪些「AI系統」屬於這些類別至關重要，幫助企業確保合規並降低法律風險。此外，企業應預期在國家和歐盟層面上獲得進一步的澄清和資源，例如即將舉辦的AI辦公室網絡研討會。

AI監管的新局面

EU AI Act的早期實施只是這一極其複雜和雄心勃勃的監管努力的開始。隨著AI在商業策略中扮演越來越重要的角色，組織必須學會導航新規則，並不斷適應未來的變化。

目前，企業應專注於了解其AI使用範圍、加強數據治理、教育員工以提高AI素養，並採取主動的合規措施。這樣，他們就能在快速變化的AI環境中成為領導者，發揮技術的全部潛力，同時遵守道德和法律標準。

(照片來源：Guillaume Périgois)

還可以查看：ChatGPT Gov旨在現代化美國政府機構

想了解更多來自行業領袖的AI和大數據資訊嗎？查看將在阿姆斯特丹、加州和倫敦舉行的AI與大數據博覽會。這是一個全面的活動，與其他領先的活動共同舉辦，包括智能自動化大會、BlockX、數位轉型週和網絡安全與雲博覽會。

在這裡探索其他即將舉行的企業科技活動和網絡研討會。