2024年最大的人工智慧失敗

AI垃圾充斥網路的每個角落

生成式人工智慧（AI）讓創造大量的文字、圖片、影片和其他類型的內容變得非常簡單。只要輸入一個提示，選擇的模型就能在幾秒鐘內產生結果，因此這些模型成為了快速且輕鬆的大規模內容創作方式。而在2024年，我們開始稱這些（通常質量不佳的）媒體為AI垃圾。

這種低風險的AI垃圾創作方式，讓它幾乎可以在網路的每個角落找到，從你收件箱裡的電子報、亞馬遜（Amazon）上販售的書籍，到網路上的廣告和文章，以及你社交媒體動態中的奇怪圖片。這些圖片越能引起情感共鳴（例如受傷的退伍軍人、哭泣的孩子、以色列和巴勒斯坦衝突中的支持信號），被分享的機會就越高，這樣會為它們聰明的創作者帶來更多的互動和廣告收入。

AI垃圾不僅令人厭煩，它的興起對於未來那些幫助創造它的模型來說，實際上是一個真正的問題。因為這些模型是基於從網路上收集的數據進行訓練的，越來越多的充滿AI垃圾的網站意味著，這些模型的輸出和性能可能會逐漸變差，這是一個非常真實的危險。

AI藝術扭曲了我們對真實事件的期待

這也是超現實AI圖片開始滲透到我們現實生活中的一年。威利的巧克力體驗（Willy’s Chocolate Experience）是一個受到羅納德·達爾（Roald Dahl）《查理與巧克力工廠》啟發的非官方沉浸式活動，因為其奇幻的AI生成行銷材料，在二月份引起了全球的關注，讓訪客誤以為這個活動會比其製作方所創造的簡陋倉庫更為宏偉。

同樣，數百人排隊在都柏林（Dublin）參加一個並不存在的萬聖節遊行。一個位於巴基斯坦的網站使用AI創建了一個城市活動的列表，並在10月31日之前在社交媒體上廣泛分享。雖然這個吸引搜尋引擎的網站（myspirithalloween.com）已經被關閉，但這兩個事件顯示了公眾對於網路上AI生成材料的錯誤信任，可能會帶來不好的後果。

Grok讓用戶能創建幾乎任何場景的圖片

大多數主要的AI圖片生成器都有一些規則，這些規則規定了AI模型可以和不可以做什麼，以防止用戶創造暴力、露骨、非法和其他有害的內容。有時這些規則只是為了確保沒有人明目張膽地使用他人的智慧財產權。但由伊隆·馬斯克（Elon Musk）的AI公司xAI製作的助手Grok，幾乎無視這些原則，這與馬斯克所謂的“覺醒AI”相悖。