OpenAI 資助杜克大學一項價值 100 萬美元的人工智慧與道德研究

OpenAI 正在向杜克大學 (Duke University) 的研究團隊提供 100 萬美元的資助，研究人工智慧 (AI) 如何預測人類的道德判斷。

這項計劃突顯了科技與倫理交集日益受到關注的重要性，並提出了關鍵問題：AI 能否處理道德的複雜性，還是道德決策應該由人類來做？

杜克大學的道德態度與決策實驗室 (Moral Attitudes and Decisions Lab，簡稱 MADLAB)，由倫理學教授沃爾特·辛諾特-阿姆斯特朗 (Walter Sinnott-Armstrong) 和共同研究者雅娜·沙伊赫·博格 (Jana Schaich Borg) 領導，負責這個“製作道德 AI”項目。該團隊構想了一個“道德 GPS”，一種可以指導倫理決策的工具。

他們的研究涵蓋計算機科學、哲學、心理學和神經科學等多個領域，旨在了解道德態度和決策是如何形成的，以及 AI 如何能夠對這一過程有所貢獻。

AI 在道德中的角色

MADLAB 的工作研究 AI 如何預測或影響道德判斷。想像一下，一個算法在評估道德困境，例如在自駕車中決定兩個不利結果之間的選擇，或提供關於商業道德的指導。這些情境強調了 AI 的潛力，但也提出了根本性問題：誰來決定這些工具所依據的道德框架，AI 是否可以被信任來做出有倫理意義的決策？

OpenAI 的願景

這筆資助支持開發能預測人類道德判斷的算法，涉及醫療、法律和商業等領域，這些領域經常面臨複雜的倫理取捨。雖然有希望，但 AI 仍然在理解道德的情感和文化細微差異方面面臨挑戰。目前的系統在識別模式方面表現出色，但缺乏進行倫理推理所需的深刻理解。

另一個擔憂是這項技術的應用方式。雖然 AI 可以協助做出拯救生命的決策，但在防禦策略或監控中的使用則引發道德困境。如果不道德的 AI 行為有助於國家利益或符合社會目標，那麼這些行為是否可以被辯解？這些問題強調了將道德嵌入 AI 系統的困難。

挑戰與機會

將倫理融入 AI 是一個艱巨的挑戰，需要跨學科的合作。道德並不是普遍的；它受到文化、個人和社會價值觀的影響，這使得將其編碼到算法中變得困難。此外，如果沒有透明度和問責制等保障措施，就有可能延續偏見或促進有害的應用。

OpenAI 對杜克大學研究的投資標誌著理解 AI 在倫理決策中角色的一步。然而，這個過程遠未結束。開發者和政策制定者必須共同努力，確保 AI 工具與社會價值觀相符，強調公平和包容，同時解決偏見和意外後果。

隨著 AI 在決策中變得越來越重要，其倫理影響也需要引起重視。像“製作道德 AI”這樣的項目為應對複雜的科技與責任之間的平衡提供了一個起點，旨在塑造一個科技服務於更大公共利益的未來。

(照片來源：Unsplash)

參考閱讀：AI 管理：分析新興的全球法規

想了解更多來自行業領導者的 AI 和大數據資訊嗎？參加在阿姆斯特丹 (Amsterdam)、加州 (California) 和倫敦 (London) 舉辦的 AI 與大數據博覽會 (AI & Big Data Expo)。這個全面的活動與其他頂尖活動共同舉辦，包括智能自動化大會 (Intelligent Automation Conference)、BlockX、數位轉型週 (Digital Transformation Week) 和網絡安全與雲博覽會 (Cyber Security & Cloud Expo)。

在此探索其他即將舉辦的企業科技活動和網絡研討會。