AI濫用帶來「極端風險」

前谷歌 (Google) 執行長艾瑞克·施密特 (Eric Schmidt) 警告說，人工智慧 (AI) 的濫用會帶來“極大的風險”，並可能造成災難性的傷害。

在接受英國廣播公司 (BBC) 第四台的《今日節目》訪問時，施密特提醒，極端分子和像北韓 (North Korea)、伊朗 (Iran) 和俄羅斯 (Russia) 這樣的“流氓國家”可能會將人工智慧武器化，對無辜的人造成傷害。

施密特擔心，快速發展的人工智慧可能會被利用來製造武器，包括生物攻擊。他強調道：“我真正擔心的不是大多數人談論的人工智慧，而是極端的風險。”

施密特用一個令人不安的比喻提到，911恐怖攻擊的幕後主謀奧薩馬·賓·拉登 (Osama bin Laden)：“我總是擔心奧薩馬·賓·拉登的情況，會有一些真正邪惡的人接管我們現代生活的某個方面，並利用它來傷害無辜的人。”

他強調人工智慧的發展速度，以及它可能被有惡意的國家或團體利用的潛力。

施密特警告說：“想想北韓、伊朗，甚至俄羅斯，他們有一些邪惡的目標……他們可能會濫用它，造成真正的傷害。”

監管與創新並行

施密特呼籲各國政府密切監控私營科技公司在人工智慧研究方面的進展。他指出，科技領袖通常了解人工智慧對社會的影響，但他們的價值觀可能與公職人員不同。

他說：“我與科技領袖的經驗是，他們確實了解自己所造成的影響，但他們可能會做出與政府不同的價值判斷。”

施密特還支持前美國總統喬·拜登 (Joe Biden) 去年推出的出口管制措施，以限制高級微晶片的銷售。這項措施旨在減緩地緣政治對手在人工智慧研究方面的進展。

全球在防止人工智慧濫用方面的分歧

這位科技老將在巴黎發表上述言論，當時他參加了為期兩天的人工智慧行動峰會，該峰會於週二結束。

這次峰會有57個國家參加，並宣布了一項關於“包容性”人工智慧發展的協議。簽署國包括中國 (China)、印度 (India)、歐盟 (EU) 和非洲聯盟 (African Union)。

然而，英國 (UK) 和美國 (US) 拒絕簽署這份公報。英國政府表示，該協議缺乏“實際的清晰度”，未能解決關於國家安全的關鍵“更難問題”。

施密特警告過度的監管可能會阻礙這一變革性領域的進步。美國副總統JD·范斯 (JD Vance) 也表示，過於嚴格的監管“會在這個行業剛起飛時就將其扼殺”。

這種不願意支持廣泛國際協議的態度反映了對人工智慧治理的不同看法。歐盟推崇更嚴格的人工智慧框架，優先考慮消費者保護，而美國和英國則選擇更靈活和以創新為驅動的策略。

施密特指出歐洲嚴格監管的後果，預測該地區將錯失在人工智慧領域的先鋒角色。

他表示：“在我看來，人工智慧革命是自電力以來最重要的革命，不會在歐洲發明。”

優先考慮國家和全球安全

施密特的評論正值對人工智慧雙重用途潛力的日益關注——它既可以用於有益的目的，也可以用於有害的目的。

從深度偽造技術到自主武器，人工智慧如果缺乏防範措施，可能會帶來許多風險。包括施密特在內的領導者和專家們正在倡導一種平衡的方法，既促進創新，又正面應對這些危險。

雖然國際合作仍然是一個複雜且具爭議的問題，但總體共識是明確的：如果沒有保障措施，人工智慧的發展可能會帶來意想不到的，甚至是災難性的後果。

(圖片由Guillaume Paumier根據CC BY 3.0授權提供。從原始版本裁剪為橫向。)

想了解更多來自行業領袖的人工智慧和大數據資訊嗎？查看即將在阿姆斯特丹 (Amsterdam)、加州 (California) 和倫敦 (London) 舉行的人工智慧與大數據博覽會 (AI & Big Data Expo)。這個綜合性活動與其他領先活動同時舉行，包括智能自動化會議 (Intelligent Automation Conference)、BlockX、數位轉型週 (Digital Transformation Week) 和網路安全與雲端博覽會 (Cyber Security & Cloud Expo)。

探索由TechForge提供的其他即將舉行的企業科技活動和網路研討會。