一本應用程式利用人工智慧「嘲諷」用戶，卻走向反覺醒之路

Fable社交媒體應用程式的年終總結功能引發爭議

Fable是一個受歡迎的社交媒體應用程式，專門為“愛書人和追劇者”提供一個舒適的空間。它推出了一個由人工智慧（AI）驅動的年終總結功能，回顧用戶在2024年閱讀的書籍。這個功能本來是想要輕鬆有趣，但有些總結卻帶有奇怪的對抗語氣。例如，作家Danny Groves的總結問他是否“曾經想要一個直男的觀點”，並標籤他為“多元文化的信徒”。

書籍影響者Tiana Trammell的總結則以這句話結尾：“別忘了偶爾看看白人作者的書，好嗎？”

Trammell感到震驚，並在Threads上分享她的經歷後，發現自己並不孤單。“我收到了多條訊息，”她說，來自一些總結中不當評論“殘疾和性取向”的人。

自從Spotify Wrapped推出以來，年終總結功能在網路上變得非常普遍，為用戶提供他們閱讀的書籍和新聞文章數量、聽的歌曲以及完成的運動的回顧。一些公司現在使用AI來完全生成或增強這些數據的呈現方式。例如，Spotify現在提供一個AI生成的播客，機器人會分析你的聽歌歷史，並根據你的喜好猜測你的生活。Fable也跟上了這個潮流，利用OpenAI的API生成用戶過去12個月的閱讀習慣總結，但它沒有預料到AI模型會發出帶有反“覺醒”觀點的評論。

Fable後來在多個社交媒體平台上道歉，包括Threads和Instagram，並發布了一段高管道歉的視頻。“我們對本週某些讀者總結所造成的傷害深感抱歉，”該公司在說明中寫道。“我們會做得更好。”

Fable的社區負責人Kimberly Marsh Allee在出版前告訴《WIRED》，該公司正在進行一系列變更，以改善其AI總結，包括為不想要這些總結的人提供選擇退出的選項，以及更清晰的披露，表明這些是AI生成的。“目前，我們已經移除了模型中調侃讀者的部分，而是讓模型簡單地總結用戶的書籍品味，”她說。

在出版後，Marsh Allee表示，Fable決定立即刪除AI生成的2024年閱讀總結，以及另外兩個使用AI的功能。

對於一些用戶來說，調整AI並不足以解決問題。奇幻和浪漫作家A.R. Kaufer看到社交媒體上的一些總結截圖時感到震驚。“他們需要說明完全不再使用AI。他們需要發表聲明，不僅關於AI，還要對受影響的人道歉，”Kaufer說。“這個在Threads上的‘道歉’聽起來不誠懇，提到應用程式是‘有趣的’，彷彿這能夠為那些種族主義/性別歧視/殘疾歧視的語錄辯護。”對於這次事件，Kaufer決定刪除她的Fable帳戶。