同一枚硬幣的兩面：打擊詐騙的雙重面向

人工智慧如何被用來對抗詐騙，同時也用來策劃越來越複雜的詐騙行為

今年年初，香港的一家跨國公司發生了一起事件，對打擊詐騙的專業人士發出了重要的警告。在這起前所未有的事件中，該公司遭遇了一次利用人工智慧策劃的詐騙，損失約為2,550萬美元。

一名員工在不知情的情況下參加了一場假視頻會議，罪犯利用人工智慧創造了模仿公司其他專業人士的聲音和影像，包括財務總監。在會議中，給出了進行多筆銀行交易的指示，並且這些指示被遵循了。詐騙和損失直到這名員工與他真正的上司交談時才被發現，這時他才意識到自己被欺騙了。

這個案例成為了對人工智慧在詐騙中被不當使用的危險的重大警示，也突顯了需要更嚴格的安全措施。此外，這一情況強調了人工智慧在數位安全中扮演的雙重角色：一方面，它使得詐騙行為越來越複雜，另一方面，它也是識別、預防和減輕這些活動的關鍵工具。

人工智慧作為犯罪的助手

人工智慧被廣泛用於支持網路犯罪活動。麥卡菲（McAfee）的一項研究《網路犯罪的隱藏成本》顯示，網路犯罪預計到2025年將每年增長15%，達到105億美元。這一增長的很大一部分可以歸因於人工智慧的日益使用，成為實施犯罪活動的真正助手。

人工智慧被用來進行詐騙的一種方式是生成虛假內容，例如在香港事件中使用的深度偽造技術（deepfakes）。通過使用生成式人工智慧，這種技術能夠從學習中創造出新的和原創的東西，生成逼真的人像和音頻。這使得創建合成身份和模擬企業通訊變得更加容易。

不幸的是，像電話詐騙這樣的案例已經變得非常普遍，罪犯利用有關網上購物的詳細信息說服受害者進行付款，這樣的詐騙方式成功率很高。這種方法的可行性得益於人工智慧生成令人信服內容的能力。

利用人工智慧自動化詐騙的情況也在增加，通過創建攻擊腳本等功能。

在這個新的網路犯罪行業中，還出現了提供人工智慧工具的付費服務，例如Fraud GPT，該工具生成惡意代碼和假網站進行網路釣魚。此外，像Worm GPT這樣的工具被用來生成自動化的惡意軟體腳本並執行攻擊。

顯然，人工智慧已經成為一個重大的安全風險，因為罪犯擁有龐大的技術武器庫，可以自動化和大規模地進行詐騙。那麼，現在的重點是：我們該如何應對這一情況？

用人工智慧反擊詐騙者

儘管人工智慧被罪犯廣泛採用，但它也被用作檢測和預防詐騙的解決方案。許多在這方面走在前面的公司選擇結合機器學習和自然語言處理技術，並進行人工驗證。

在這種方法中，機器學習模型可以用來根據歷史數據識別異常和詐騙模式，而自然語言處理可以分析文本和對話，以尋找詐騙活動的指標。但是，走這條路的公司需要記住，這些系統必須由人類監督，以驗證決策並避免錯誤。

另一種可能的策略是使用合成數據來訓練詐騙預防模型。生成類似真實的數據可以提高檢測模型的準確性，這在真實的詐騙數據稀缺時尤其有用。此外，合成數據還可以用來模擬場景，測試系統對新類型詐騙的抵抗力。

儘管有機會，但在預防詐騙方面採用人工智慧解決方案仍面臨挑戰。例如，在巴西和拉丁美洲，使用合成數據來豐富預測模型的做法仍然非常初步，並且有多種因素解釋了這種不成熟。該地區的許多公司仍在用傳統人工智慧解決即時問題，更不用說使用生成式人工智慧了。然而，這些組織往往相信這項技術能像魔法一樣解決他們的問題，而不是投資於內部培訓以應對人工智慧，包括生成式人工智慧，這對推進採用並沒有幫助。

除了這些障礙，還需要強調的是，即使公司擁有先進的人工智慧工具，它們仍然需要建立健全的治理體系，以確保這項技術的負責任和道德使用。

在這些決策中，常識是關鍵：不應完全依賴人工智慧，必須在關鍵階段有人工驗證和批准的流程。

在接下來的幾個月中，可能出現的趨勢是加強使用合成數據來預防詐騙、模擬場景和預測可能的詐騙，以及豐富數據集以訓練預測模型。此外，像衛星信息這樣的新數據來源也可能被整合到這些檢測和預防工作中。

被人工智慧改變的詐騙場景要求公司準備好解決方案，不僅能檢測到詐騙，還能保護自己免受這些攻擊。在這個過程中，必須記住，為了利用這項技術的好處，需要投資於團隊的培訓。同時，建立健全的治理體系、關注新數據來源以及不斷發展的高級數據分析技術也至關重要。這是一個不簡單的戰鬥計劃，但完全可以制定並付諸實施。

你也可以查看我關於統一智慧的文章。