準備起飛：澳大利亞金融服務中生成式人工智慧採用的監管觀點

澳洲金融服務監管機構——澳大利亞審慎監管局（APRA）在成員特蕾絲·麥卡錫·霍基（Therese McCarthy Hockey）於2024年AFIA風險峰會上的發言中，提供了迄今為止對生成式人工智慧的最重要指導。這份指導為銀行、保險公司和退休金基金加速採用這一變革性技術提供了綠燈，但同時提醒金融服務行業需要有足夠的防護措施，以確保生成式人工智慧的好處不會以社會無法接受的代價為代價。

亞馬遜網路服務（AWS）致力於負責任地開發人工智慧，並強烈支持APRA的訊息，推動生成式人工智慧的採用並實施適當的防護措施。AWS在生成式人工智慧的研究和創新方面處於前沿，許多金融服務客戶已經在利用我們的人工智慧（AI）、機器學習（ML）和生成式人工智慧服務的好處。AWS致力於負責任地開發和使用人工智慧，以幫助我們的客戶實現商業目標，同時滿足並力求超越他們的監管機構的期望。

人工智慧、機器學習和生成式人工智慧的綠燈

APRA的指導，如APRA成員特蕾絲·麥卡錫·霍基在2024年AFIA風險峰會上的發言所述，為APRA監管實體採用人工智慧、機器學習和生成式人工智慧技術提供了明確的路徑。霍基女士表示，APRA內部以及政府各部門對企業實現技術驅動創新的好處持有“強烈支持”，她強調有效使用生成式人工智慧所能帶來的顯著優勢，例如提高生產力、成本效益、更加個性化的客戶體驗，以及將寶貴資源轉移到更高層次需求的能力。

“在APRA和所有政府及監管機構內部，對通過創新實現可見改善的支持是強烈的。”——APRA成員特蕾絲·麥卡錫·霍基在2024年AFIA風險峰會上的發言

AWS的金融服務客戶開始使用更先進的人工智慧來滿足多種需求，如客戶服務、市場營銷、應用開發、詐騙檢測和合規性。APRA提到的具體使用案例包括使用生成式人工智慧快速審查長文件，根據政策要求等標準進行比對，使用生成式人工智慧驅動的編碼工具更快地生成更好的代碼，以及創建生成式人工智慧機器人模擬客戶對產品和服務的測試。這是對較不複雜人工智慧形式的延伸，APRA提到的互聯網聊天機器人和自然語言處理就是已經通過自動化和加快手動或耗時流程實現效率的例子。

APRA和其他金融服務監管機構也在內部進行人工智慧的實驗。在霍基女士的演講中，她提到APRA本身正在持續使用文本分析工具來審查對APRA風險文化調查的回應，結果幫助APRA風險專家將重點指向最需要的地方。APRA還在實驗使用自然語言處理工具來審查受監管實體的事件報告數據，並突出值得進一步調查的事件。這有助於減少APRA員工所需的人力並提高監管效率。最後，APRA正與澳大利亞證券和投資委員會（ASIC）和澳大利亞儲備銀行（RBA）合作，進行概念驗證，以減少三個機構在常規實體監督職責中需要審查的大量文件的比較、分析和總結工作。

風險必須被理解和管理

APRA提倡對這些技術進行審慎的實驗性探索。與雲採用的情況一樣，擁有更成熟風險和數據管理能力的組織將能夠比那些沒有的組織更快地行動。

“APRA對我們監管的實體的訊息是，堅強的董事會監督、穩健的技術平台和強大的風險管理對於希望開始實驗利用人工智慧的新方法的公司至關重要。”——APRA成員特蕾絲·麥卡錫·霍基在2024年AFIA風險峰會上的發言

APRA目前的監管框架適用

APRA還特別指出，其現有的審慎框架對於人工智慧、機器學習和生成式人工智慧的增長應用仍然是適用的。

APRA的主要關注點在於治理，提到了三個關鍵領域：

董事會是否具備足夠的能力來制定適當的人工智慧策略並做出明智的風險管理決策？他們能否有效挑戰管理層？目前有什麼樣的學習和發展計劃，董事會是否能在需要時獲得外部技能和建議？
風險文化成熟度如何？風險管理思維是否在所有三道防線中嵌入並有效運作？有哪些控制和監測措施可以幫助防止員工未經授權使用人工智慧、機器學習和生成式人工智慧工具？
數據的質量和可靠性是否足夠？人工智慧的輸出直接取決於輸入的質量。APRA指出，數據管理是許多受監管實體尚需改進的領域。

APRA還專注於問責制，提醒受監管實體，與任何形式的外包或使用第三方服務一樣，受監管實體對其部署的人工智慧、機器學習和生成式人工智慧計劃的結果保留問責權。必須始終有一位人員參與其中：一位負責驗證人工智慧按預期運作的人。人員參與的程度可以有所不同——例如，APRA並不建議在詐騙檢測服務做出的每一個人工智慧決策中都應有一名人員參與，但必須有一位對其運行的算法、操作和結果負責的人。

AWS如何幫助客戶在本地和全球負責任地使用人工智慧

自一開始，AWS就將負責任的人工智慧創新置於優先地位，將安全、公平、穩健、安全性和隱私嵌入我們的開發過程中，並不斷教育我們的員工。我們透過設計服務來延伸此承諾，幫助客戶以安全和負責任的方式從人工智慧中獲取商業價值。

AWS與經濟合作與發展組織（OECD）人工智慧工作組、人工智慧夥伴關係、負責任人工智慧研究所，以及全球大學的戰略夥伴關係等組織合作。在澳大利亞，AWS與國家人工智慧中心、CSIRO、澳大利亞資訊產業協會和澳大利亞科技委員會等關鍵機構合作，提供有關負責任的人工智慧採用的見解，最大限度地提高人工智慧技術為國家帶來的好處。最近由國家人工智慧中心開發的自願人工智慧安全標準是澳大利亞組織可遵循的明確指導的開始，AWS正與澳大利亞及其他政府就負責任使用生成式人工智慧進行接觸。

最近，AWS通過使用生成式人工智慧實時分析和響應大量數據，支持全球金融服務客戶在風險管理、金融犯罪預防和網絡安全等關鍵領域。Verafin（納斯達克公司）使用Amazon Bedrock改進反洗錢和詐騙預防流程。這種人工智慧的應用提高了金融犯罪管理計劃的有效性。Mastercard利用AWS的人工智慧和機器學習服務來檢測和防止詐騙，同時提供盡可能無縫的客戶體驗。

生成式人工智慧在現代化遺留系統中的角色越來越受到重視，尤其是在那些正在進行轉型計劃以減少技術負債和增強流程韌性的澳大利亞金融服務客戶中。CommBank、PEXA和澳洲國立銀行（NAB）利用生成式人工智慧技術提高建設和修改應用程序的速度、質量和安全性。

如何在組織內實施負責任的人工智慧

AWS的負責任人工智慧的核心維度與APRA及全球監管機構的主要監管考量相一致：

公平性——考慮對不同利益相關者群體的影響
可解釋性——理解和評估系統輸出
隱私和安全性——適當獲取、使用和保護數據和模型
安全性——防止有害系統輸出和濫用的工作
控制性——擁有監控和引導人工智慧系統行為的機制
真實性和穩健性——即使面對意外或對抗性輸入也能實現正確的系統輸出
治理——將最佳實踐納入人工智慧供應鏈，包括供應商和部署者
透明度——使利益相關者能夠就其與人工智慧系統的參與做出明智的選擇

請注意，負責任的人工智慧是一個不斷發展的領域。客戶可以在我們的負責任人工智慧網頁上隨時了解該領域的最新發展。

人工智慧、機器學習和生成式人工智慧的雲採用框架提供了廣泛的指導，並作為幫助客戶滿足，並在許多情況下超越，監管期望的起點和指導。

我們在生成式人工智慧服務中整合了功能，以促進組織應用負責任的人工智慧政策。例如，Amazon Bedrock Guardrails可以幫助金融服務組織以幾個關鍵方式遵守APRA對人工智慧使用的指導：

內容過濾——Guardrails允許組織配置內容過濾器，以阻止人工智慧模型輸入和輸出的有害或不當內容。這有助於人工智慧應用程序遵守APRA對負責任人工智慧使用的期望。
主題限制——組織可以定義在人工智慧互動中應避免的具體主題。例如，銀行聊天機器人可以被配置為不提供投資建議，從而符合監管限制。
敏感信息保護——Guardrails可以檢測並編輯人工智慧輸入和輸出的個人身份信息（PII）。這有助於保護客戶隱私並協助遵守數據保護要求。
自定義詞彙過濾器——公司可以設置要阻止的詞或短語的列表，幫助維持適當的溝通。
上下文基礎檢查——此功能幫助檢測和過濾模型響應中的人工智慧幻覺，當提供參考來源和用戶查詢時，提高人工智慧生成響應的準確性和可靠性。這與APRA專注於確保人工智慧系統提供準確和可信信息的重點一致。
可自定義政策——Guardrails允許組織根據其特定需求和監管要求量身定制人工智慧保護措施，幫助其符合APRA的原則性方法。
一致的保護措施——Guardrails可以應用於多個人工智慧模型和應用程序，使組織在負責任的人工智慧使用上採取標準化的方法。
透明度和測試——測試防護措施和迭代配置的能力支持APRA對人工智慧系統進行盡職調查和適當監控的期望。

我們有一份詳細的用戶指南，說明如何實施、配置和測試Amazon Bedrock Guardrails。

AWS AI服務卡還提供有關AWS人工智慧服務的詳細信息，包括預期用例、限制和負責任的人工智慧設計選擇。這種透明度幫助金融機構理解並負責任地使用人工智慧技術。

APRA現有的審慎標準並未為管理人工智慧/機器學習和生成式人工智慧風險設置具體規則。相反，APRA概述了期望的風險管理結果，讓每個受監管實體自行評估人工智慧部署風險並實施適當的控制措施。AWS提供《澳大利亞金融服務法規和指導用戶指南》，以幫助客戶滿足APRA的要求。

最終，APRA監管實體中人工智慧、機器學習和生成式人工智慧的採用速率將由各個實體的風險承受能力和風險管理能力決定。APRA公開鼓勵其監管實體——我們的金融服務客戶——考慮到人工智慧、機器學習和生成式人工智慧的實驗和採用，直接聯繫APRA並展開對話。APRA是一個經驗豐富、知識淵博且平易近人的監管機構，能夠為受監管實體提供有價值的見解和指導。