當AI生成的媒體在我們生活中變得無處不在時會發生什麼？這與我們之前的經驗有何關聯，並且它如何改變我們？
這是我正在撰寫的兩部分系列文章的第一部分，分析人們和社區如何受到AI生成內容擴張的影響。我已經詳細談到了環境、經濟和勞動問題，以及歧視和社會偏見。但這次我想深入探討一些心理和社會影響，特別是我們與批判性思維、學習以及概念化知識的關係。
自從攝影被發明以來，詐騙行為就一直在使用它。當我們開始擁有一種被認為能展示現象和事件真實未經篩選的媒體形式時，人們就開始想出操縱這種媒體的方式，這在藝術和哲學上產生了重大的影響。（還有幽默或簡單的欺詐效果。）儘管如此，我們對照片有一種不合理的信任，我們與這種形式建立了一種在信任和懷疑之間的關係。
當我還是孩子的時候，互聯網尚未廣泛向大眾開放，確實很少有家庭能接入它，但到了我青少年的時候，這一切都完全改變了，我認識的每個人都在使用AOL即時消息。在我離開研究生院的時候，iPhone推出了，智能手機時代開始了。我重述這一切是為了指出，文化創造和消費在短短幾十年內發生了驚人的快速變化，甚至令人難以辨認。
我認為當前的時刻代表了一個全新的時代，特別是在我們消費和創造的媒體和文化內容方面，因為生成AI的推出。這有點像Photoshop逐漸普及的時候，我們開始意識到照片有時會被修飾，我們開始質疑我們是否能相信圖像的外觀。（讀者可能會發現對於“什麼是照片”的持續討論是這一問題的有趣延伸。）但即便如此，Photoshop的價格昂貴，使用它有效需要一定的技能水平，因此我們遇到的大多數照片相對真實，我認為人們普遍期望廣告和電影中的圖像不會是“真實的”。我們的期望和直覺必須隨著技術的變化而調整，而我們或多或少做到了。
如今，AI內容生成器使人們能夠民主化地人工生產或改變任何類型的內容，包括圖像。不幸的是，估計在線上有多少內容可能是AI生成的非常困難——如果你搜索這個問題，你會找到一篇來自歐洲刑警的文章聲稱這個數字到2026年會達到90%——但閱讀後你會發現這篇研究論文並沒有這樣說。你可能還會找到一些AWS研究人員的論文被引用，說57%是這個數字——但那也是一個錯誤的解讀（他們談的是文本內容被機器翻譯，而不是從頭生成的文本，更不用說圖像或視頻了）。據我所知，目前沒有可靠的科學根據的研究表明我們消費的內容中有多少可能是AI生成的——即使有，發布的那一刻它也會過時。
但如果你仔細想想，這是完全合理的。AI生成內容持續出現的一個重要原因是，現在比人類歷史上任何時期都更難確定你所看到的東西是否是人類創造的，以及那種表現是否反映了現實。當你明確不清楚如何在第一時間識別某樣東西時，你如何計算或甚至估算它的數量？
我認為我們都有過辨別來源可疑內容的生活經驗。我們看到的圖像似乎在詭異的谷地中，或者強烈懷疑某個零售網站上的產品評論聽起來過於正面和普通，便會想，這一定是用生成AI和機器人創造的。女士們，最近你們有在網上找過髮型靈感的圖片嗎？根據我個人的經歷，Pinterest或其他類似網站上50%以上的圖片顯然是AI生成的，並且有明顯的跡象：無紋理的皮膚、橡膠般的特徵、帶子和項鍊消失在虛無中、圖片中明確不包括手部、從未正面顯示雙耳等等。這些很容易被忽視，但大部分讓你質疑自己看到的是經過重度過濾的真實圖像還是完全AI生成的內容。我專注於了解這些事情，而我自己經常也不確定。我聽說，單身男性在約會應用上被基於生成AI的詐騙機器人淹沒，所以有一種檢查的方法——“土豆測試”。如果你要求機器人說“土豆”，它會忽視你，但一個真正的人可能會這樣做。我們生活中的小日常領域正在沒有我們任何同意或批准的情況下被AI內容滲透。
在這些在線空間中灑下AI的垃圾有什麼意義？最佳情況下的目標可能是讓人們點擊進入廣告存在的網站，提供足夠令人信服的廢話文本和圖像，以獲得那些珍貴的廣告曝光，從而從廣告商那裡獲得幾分錢。人工評論和在線產品的圖像被大量生成，以便直郵商和廉價商品的供應商能夠欺騙顧客購買一些比所有競爭對手便宜一點的東西，讓他們希望能拿到一個真正的商品。也許這件商品可以便宜到讓失望的買家只是接受損失，而不去麻煩要回他們的錢。
更糟糕的是，使用LLM生成文本和圖像的機器人可以用來誘導人們進入詐騙，因為唯一真正必要的資源是計算能力，因此這種詐騙的擴大成本幾乎微不足道——如果能夠每隔一段時間就偷到一個人的錢，那麼這筆花費是值得的。AI生成的內容被用於刑事濫用，包括豬肉屠宰詐騙、AI生成的兒童性虐待材料和非自願的親密圖片，這些都可能變成勒索計劃。
AI生成的圖像、視頻和文本也有政治動機——在這個美國選舉年，各種不同角度和目標的實體在世界各地生成AI圖像和視頻來支持他們的觀點，並通過生成AI機器人向社交媒體（尤其是前Twitter）散佈宣傳信息，這裡的內容管理在防止濫用、騷擾和偏見方面基本上已經停止。那些散佈這些材料的人的期望是，未經資訊的互聯網用戶將通過持續重複地接觸這些內容來吸收他們的信息，對於每一項他們意識到是人造的，將有無數項被接受為合法。此外，這些材料創造了一個信息生態系統，其中真相無法定義或證明，從而削弱了良好行為者及其試圖突破噪音的努力。
在線上，僅有少數AI生成內容會真正嘗試創造吸引人的圖像以供娛樂，或者生成相對無害的模板文本來填充公司網站，但正如我們所知，互聯網充斥著詐騙和迅速致富的計劃，而生成AI的進步使我們進入了這些領域的全新時代。（而且，這些應用對真正的創作者、能源和環境以及其他問題有巨大的負面影響。）
我意識到我正在描繪一幅相當陰暗的在線生態系統的畫面。不幸的是，我認為這是準確的，而且只會變得更糟。我並不是在爭論生成AI沒有良好的用途，但我越來越相信，對我們社會的負面影響將比正面影響更大、更直接、更有害。
我對此的想法是：我們已經達到了一個不清楚是否能信任我們所看到或所讀的內容的地步，我們常常不知道在網上遇到的實體是人類還是AI。這對我們對所遇到事物的反應有什麼影響？期待我們的思維方式不因這些經歷而改變是愚蠢的，我非常擔心我們正在經歷的變化不是向好的方向發展。
然而，模糊性是挑戰的一大部分。問題不在於我們知道我們消耗的是不可靠的信息，而在於這本質上是不可知的。我們永遠無法確定。批判性思維和批判性媒體消費習慣有幫助，但AI生成內容的擴張可能超過了我們的批判能力，至少在某些情況下是如此。這在我看來對我們對信息的信任和信心的概念有著真正的影響。
在我的下一篇文章中，我將詳細討論這可能對我們對周圍世界的思想和觀念產生什麼樣的影響，並考慮我們的社區可能會對此採取什麼行動。
