美國國防部正在投資於深偽技術檢測

打擊深偽技術的重要一步

巴斯塔曼特（Bustamante）表示：「這項工作在加強我們的信息優勢方面邁出了重要一步，因為我們正在對抗複雜的虛假信息活動和合成媒體威脅。」Hive（蜂巢）在36家公司中被選中，與美國國防部（DOD）測試其深偽檢測和歸因技術。這份合約可能使國防部能夠大規模檢測和反制人工智慧（AI）欺騙。

保護我們的安全

Hive AI的首席執行官郭凱文（Kevin Guo）表示，對抗深偽技術是「生存的問題」。他說：「這是網絡戰爭的演變。」

技術的運作方式

Hive的技術已經在大量內容上進行訓練，其中一些是AI生成的，另一些則不是。它能夠識別AI生成內容中人眼看不見的信號和模式，但AI模型卻能檢測到。

郭凱文說：「事實上，每一張由這些生成器生成的圖片，如果你知道該去哪裡找，都會有這種模式。」Hive團隊不斷跟蹤新的模型並相應更新其技術。

應用潛力

根據國防部的聲明，通過這項計劃開發的工具和方法有潛力被廣泛應用，不僅能解決防禦特定的挑戰，還能保護民間機構免受虛假信息、詐騙和欺騙的侵害。

專家的評價

布法羅大學（University at Buffalo）計算機科學與工程教授呂思維（Siwei Lyu）表示，Hive的技術在檢測AI生成內容方面表現出色。他並未參與Hive的工作，但已經測試過其檢測工具。

芝加哥大學（University of Chicago）教授趙本（Ben Zhao）也獨立評估了Hive AI的深偽技術，他同意這一點，但指出這項技術並非萬無一失。

趙本說：「Hive的確比大多數商業機構和我們嘗試的一些研究技術要好，但我們也顯示出，繞過它並不難。」團隊發現對手可以以某種方式篡改圖片，從而繞過Hive的檢測。