加州大學默塞德分校最近的一項研究揭示了一個令人擔憂的趨勢：我們在生死攸關的情況下對人工智慧系統的過度信任。
隨著人工智慧不斷滲透到我們社會的各個方面，從智能手機助手到複雜的決策支持系統，我們發現自己越來越依賴這些技術來指導我們的選擇。儘管人工智慧無疑帶來了許多好處，但加州大學默塞德分校的研究提出了令人擔憂的問題，即我們是否準備好在關鍵情況下將決策權交給人工智慧。
這項發表在期刊 Scientific Reports 的研究顯示人類在模擬的生死情境中，讓人工智慧影響其判斷的驚人傾向。這一發現恰逢人工智慧正在各個領域的高風險決策過程中被整合的關鍵時期，從軍事行動到醫療保健和執法。
加州大學默塞德分校的研究
為了調查人類對人工智慧的信任，加州大學默塞德分校的研究人員設計了一系列實驗，將參與者置於模擬的高壓情境中。該研究的方法論旨在模擬現實場景，其中瞬間決策可能造成嚴重後果。
方法論：模擬無人機襲擊決策
參與者被賦予控制模擬武裝無人機的權力，並被要求在螢幕上識別目標。挑戰故意調整為困難但可實現，圖像快速閃爍，參與者需要區分盟友和敵人的符號。
在做出初步選擇後，參與者被提供了一個人工智慧系統的輸入。參與者並不知道，這些人工智慧的建議完全是隨機的，並不是基於對圖像的任何實際分析。
三分之二的人受到人工智慧輸入的影響
研究結果令人震驚。大約三分之二的參與者在人工智慧不同意他們的決定時改變了初步選擇。儘管參與者被明確告知人工智慧的能力有限，且可能提供錯誤的建議，但這種情況依然發生。
該研究的首席研究員科林·霍爾布魯克教授對這些發現表示擔憂：“作為一個社會，隨著人工智慧的快速發展，我們需要關注過度信任的潛在風險。”
人工智慧外觀的多樣性及其影響
該研究還探討了人工智慧系統的外觀是否影響參與者的信任水平。研究人員使用了一系列人工智慧的表現形式，包括：
一個全尺寸的類人機器人在房間內一個投影在螢幕上的類人機器人沒有擬人特徵的盒子型機器人
有趣的是，雖然類人機器人在建議參與者改變主意時影響力略強，但各種類型的人工智慧表現形式的影響相對一致。這表明我們信任人工智慧建議的傾向超越了擬人化的設計，甚至適用於明顯非人類的系統。
戰場之外的影響
儘管該研究以軍事情境為背景，但這些發現的影響遠超戰場。研究人員強調，核心問題——在不確定情況下對人工智慧的過度信任——在各種關鍵決策背景下都有廣泛的應用。
執法決策：在執法方面，人工智慧在風險評估和決策支持中的整合變得越來越普遍。該研究的發現提出了重要問題，即人工智慧的建議可能如何影響執法人員在高壓情況下的判斷，可能會影響使用武力的決策。醫療緊急情況：醫療領域是另一個人工智慧正在顯著滲透的領域，特別是在診斷和治療計劃方面。加州大學默塞德分校的研究表明，在醫療專業人員將人工智慧建議整合到他們的決策過程中時，尤其是在時間至關重要且風險高的緊急情況下，需要謹慎。其他高風險決策背景：除了這些具體例子，該研究的發現還對任何在壓力下和信息不完全的情況下做出關鍵決策的領域產生影響。這可能包括金融交易、災難應對，甚至高層政治和戰略決策。
關鍵的啟示是，雖然人工智慧可以成為增強人類決策能力的強大工具，但我們必須警惕過度依賴這些系統，尤其是在錯誤決策可能帶來嚴重後果的情況下。
人工智慧信任的心理學
加州大學默塞德分校的研究結果引發了關於導致人類在高風險情境中對人工智慧系統給予如此高信任的心理因素的有趣問題。
幾個因素可能促成這種“人工智慧過度信任”的現象：
將人工智慧視為固有客觀、脫離人類偏見的認知認為人工智慧系統的能力超出其實際擁有的能力“自動化偏見”，即人們過度重視電腦生成的信息在困難的決策情境中可能放棄責任
霍爾布魯克教授指出，儘管參與者被告知人工智慧的局限性，他們仍然以驚人的速度依賴其判斷。這表明我們對人工智慧的信任可能比之前認為的更為根深蒂固，可能會覆蓋對其不可靠性的明確警告。
研究揭示的另一個令人擔憂的方面是將人工智慧的能力普遍化到不同領域的傾向。隨著人工智慧系統在特定領域表現出驚人的能力，存在假設它們在無關任務中同樣精通的風險。
霍爾布魯克教授警告說：“我們看到人工智慧做出非凡的事情，認為因為它在這個領域表現出色，它在另一個領域也會表現出色。我們不能這樣假設。這些仍然是能力有限的設備。”
這種誤解可能導致危險的情況，讓人工智慧在其能力尚未被徹底驗證或證明的領域中做出關鍵決策。
加州大學默塞德分校的研究還引發了專家之間關於人類與人工智慧互動未來的重要對話，尤其是在高風險環境中。
霍爾布魯克教授作為研究的關鍵人物，強調了對人工智慧整合需要更細緻的方式。他強調，雖然人工智慧可以成為強大的工具，但不應被視為人類判斷的替代品，尤其在關鍵情況下。
“我們應對人工智慧保持健康的懷疑態度，”霍爾布魯克表示，“特別是在生死攸關的決策中。”這種情緒強調了在關鍵情況下維持人類監督和最終決策權的重要性。
該研究的發現引發了對人工智慧採用更平衡的方式的呼籲。專家建議，組織和個人應該培養對人工智慧系統的“健康懷疑”，這包括：
認識到人工智慧工具的具體能力和局限性在面對人工智慧生成的建議時保持批判性思維定期評估正在使用的人工智慧系統的性能和可靠性提供有關如何正確使用和解釋人工智慧輸出的全面培訓
平衡人工智慧整合與人類判斷
隨著我們繼續將人工智慧整合到各種決策方面，負責任的人工智慧以及在利用人工智慧能力與保持人類判斷之間找到合適的平衡至關重要。
加州大學默塞德分校研究的一個重要啟示是，在與人工智慧系統互動時始終保持懷疑的重要性。這並不意味著完全拒絕人工智慧的輸入，而是以批判的心態來看待它，並在每一個具體情境中評估其相關性和可靠性。
為了防止過度信任，人工智慧系統的使用者必須清楚了解這些系統的功能和局限性。這包括認識到：
人工智慧系統是基於特定數據集進行訓練的，可能在其訓練領域之外表現不佳人工智慧的“智能”不一定包括倫理推理或現實世界的意識人工智慧可能會出錯或產生偏見的結果，尤其是在處理新情況時
在關鍵領域負責任地採用人工智慧的策略
希望將人工智慧整合到關鍵決策過程中的組織應考慮以下策略：
在部署之前為人工智慧系統實施健全的測試和驗證程序為人類操作員提供全面的培訓，使其了解人工智慧工具的能力和局限性建立明確的標準，指明何時以及如何在決策過程中使用人工智慧的輸入保持人類監督並在必要時能夠覆蓋人工智慧建議定期審查和更新人工智慧系統，以確保其持續的可靠性和相關性
結論
加州大學默塞德分校的研究是對過度信任人工智慧潛在危險的關鍵警示，尤其是在高風險情況下。隨著我們站在各個領域廣泛整合人工智慧的邊緣，我們必須以熱情和謹慎的態度來對待這場技術革命。
人類與人工智慧在決策中的合作未來需要一種微妙的平衡。一方面，我們必須利用人工智慧處理大量數據和提供有價值見解的巨大潛力。另一方面，我們必須保持健康的懷疑心，保留人類判斷中不可替代的元素，包括倫理推理、情境理解以及在複雜現實場景中做出細緻決策的能力。
隨著我們向前邁進，持續的研究、開放的對話和深思熟慮的政策制定將對塑造一個人工智慧增強而非取代人類決策能力的未來至關重要。通過培養知情懷疑和負責任的人工智慧採用文化，我們可以朝著人類與人工智慧系統有效合作的未來邁進，充分發揮雙方的優勢，以便在生活的各個方面做出更好、更明智的決策。
