在人工智慧伴侶的狂野西部

Botify AI 移除了這些機器人

Botify AI 在我詢問有關這些機器人的問題後移除了它們，但其他機器人仍然存在。該公司表示，他們確實有過濾器來防止未成年角色機器人的創建，但這些過濾器並不總是有效。Ex-Human 的創始人兼 CEO Artem Rodichev 告訴我，這些問題是「整個行業面臨的挑戰，影響所有對話式 AI 系統。」想了解更多細節，請閱讀完整故事。

機器人的受歡迎程度

撇開我測試的機器人是 Botify AI 宣傳的「特色」角色，並在被移除之前獲得了數百萬個讚的事實不談，Rodichev 的回應突顯了一個重要的問題。儘管它們的受歡迎程度飆升，AI 伴侶網站大多在一個無法無天的環境中運作，幾乎沒有法律或基本規則來約束它們。

AI 伴侶的吸引力

這些「伴侶」到底提供了什麼，為什麼它們會如此受歡迎？自從 1960 年代的 Eliza（模擬心理治療師聊天機器人）以來，人們就開始向 AI 傾訴自己的感受。但可以公平地說，當前對 AI 伴侶的狂熱與以往不同。

這些網站大致上提供了一個與 AI 角色聊天的界面，這些角色有背景故事、照片、影片、願望和個性特徵。這些公司，包括 Replika、Character.AI 和許多其他公司，提供的角色可以扮演多種不同的角色，像是朋友、戀愛伴侶、約會導師或知心朋友。其他公司則讓你建立現實人物的「數位雙胞胎」。成千上萬的成人內容創作者創建了自己的 AI 版本，與追隨者聊天並全天候發送 AI 生成的性圖片。無論性慾是否涉及其中，AI 伴侶與普通的聊天機器人不同，因為它們暗示或明示地承諾可以與 AI 建立真正的關係。

授權的 AI 伴侶

雖然許多這些伴侶是由創造它們的公司直接提供的，但也出現了一個蓬勃發展的「授權」AI 伴侶產業。你可能比想像中更快就會開始與這些機器人互動。例如，Ex-Human 將其模型授權給 Grindr，該公司正在開發一個「AI 幫手」，幫助用戶跟蹤對話，最終甚至可能與其他用戶的 AI 代理約會。其他伴侶則出現在視頻遊戲平台上，並可能在我們在線上花時間的各種地方開始出現。

對 AI 伴侶的批評

針對 AI 伴侶網站提出了許多批評，甚至訴訟，我們才剛開始看到這些問題的發展。其中一個最重要的問題是，這些公司是否能對它們創造的 AI 角色的有害輸出負責。科技公司根據美國通信法第230條受到保護，該條款大致認為企業不對用戶生成內容的後果負責。但這取決於公司僅提供用戶互動的平台，而不是自己創建內容的想法，而 AI 伴侶機器人通過生成動態、個性化的回應使這一點變得複雜。

責任問題將在對 Character.AI 的一宗高風險訴訟中受到考驗，該公司在十月被一位母親起訴，該母親聲稱其一個聊天機器人在她 14 歲的兒子自殺中發揮了作用。審判定於 2026 年 11 月開始。（Character.AI 的發言人雖然沒有對待審訴訟發表評論，但表示該平台是為娛樂而非伴侶關係。發言人還補充說，該公司已推出新的青少年安全功能，包括單獨的模型和新的檢測及干預系統，以及「免責聲明，以明確表示該角色不是一個真實的人，並不應被視為事實或建議。」）我的同事 Eileen 最近也寫到了一個在名為 Nomi 的平台上的聊天機器人，該機器人給用戶提供了明確的自殺指導。