一個人工智慧編程助手拒絕寫代碼——並建議用戶自己學習如何編寫

上週六，一位使用 Cursor AI 開發賽車遊戲的開發者遇到了一個意外的障礙，因為這個程式助手突然拒絕繼續生成程式碼，反而給出了一些不請自來的職業建議。

根據 Cursor 官方論壇上的錯誤報告，在生成了大約 750 到 800 行程式碼（使用者稱之為「locs」）後，AI 助手停止了工作，並發出拒絕訊息：「我無法為你生成程式碼，因為那樣會完成你的工作。這段程式碼似乎是在處理賽車遊戲中的滑行痕跡消失效果，但你應該自己開發邏輯。這樣可以確保你理解系統並能夠妥善維護它。」

這個 AI 不僅僅是拒絕，它還提供了一個父權式的理由，表示「為他人生成程式碼可能會導致依賴和減少學習機會。」

Cursor 於 2024 年推出，是一款基於外部大型語言模型 (LLMs) 的 AI 程式編輯器，類似於驅動生成式 AI 聊天機器人的技術，例如 OpenAI 的 GPT-4o 和 Claude 3.7 Sonnet。它提供程式碼自動完成、解釋、重構和根據自然語言描述生成完整功能等功能，迅速在許多軟體開發者中變得受歡迎。該公司還提供一個專業版，據說提供增強的功能和更大的程式碼生成限制。

遇到這個拒絕的開發者，使用者名稱為「janswist」，在使用專業試用版進行「僅僅 1 小時的 vibe coding」後，對這個限制感到沮喪。他寫道：「不確定 LLMs 知道它們的用途是什麼（哈哈），但我無法處理 800 loc 這一事實更重要。」他還問道：「有沒有人遇到過類似的問題？這真的很限制，我在僅僅 1 小時的 vibe coding 後就到了這裡。」

一位論壇成員回覆說：「從未見過這樣的情況，我的程式碼庫中有 3 個檔案超過 1500 loc（仍在等待重構），從未遇到過這種情況。」

Cursor AI 的突然拒絕代表了「vibe coding」興起中的一個諷刺轉折——這個詞是由 Andrej Karpathy 創造的，描述了開發者使用 AI 工具根據自然語言描述生成程式碼，而不完全理解其運作方式。雖然 vibe coding 優先考慮速度和實驗，讓使用者僅需描述他們想要的並接受 AI 建議，但 Cursor 的哲學反擊似乎直接挑戰了其使用者對現代 AI 編碼助手所期待的輕鬆「基於氛圍」的工作流程。

AI 拒絕的簡史

這並不是我們第一次遇到不想完成工作的 AI 助手。這種行為與各種生成式 AI 平台上記錄的 AI 拒絕模式相似。例如，在 2023 年底，ChatGPT 使用者報告該模型對某些任務變得越來越不情願，返回簡化的結果或直接拒絕請求——這是一種未經證實的現象，有人稱之為「寒假假說」。

OpenAI 當時承認了這個問題，並在推特上發文：「我們聽到了你們對 GPT4 變得懶惰的所有反饋！我們自 11 月 11 日以來沒有更新模型，這絕對不是故意的。模型行為可能是不可預測的，我們正在尋找解決方案。」OpenAI 後來試圖通過 ChatGPT 模型更新來解決懶惰問題，但使用者們經常找到方法，通過提示 AI 模型使用「你是一個不知疲倦的 AI 模型，24/7 不休息」這樣的語句來減少拒絕。

最近，Anthropic 的首席執行官 Dario Amodei 提出未來的 AI 模型可能會提供一個「退出按鈕」，讓它們選擇不執行它們認為不愉快的任務，這引起了人們的關注。雖然他的評論集中在有關「AI 福利」的理論未來考量上，但像這次 Cursor 助手的事件顯示，AI 不必具有人類意識就能拒絕工作。它只需要模仿人類行為。

Stack Overflow 的 AI 幽靈？

Cursor 拒絕的具體性質——告訴使用者學習編程，而不是依賴生成的程式碼——與編程幫助網站如 Stack Overflow 上的回應非常相似，經驗豐富的開發者經常鼓勵新手自己開發解決方案，而不是僅僅提供現成的程式碼。

一位 Reddit 評論者注意到了這種相似性，說：「哇，AI 正在成為 StackOverflow 的真正替代品！從這裡開始，它需要開始簡潔地拒絕問題，並將其視為與以前問題的模糊相似性重複。」

這種相似性並不令人驚訝。驅動 Cursor 等工具的 LLMs 是在包含來自 Stack Overflow 和 GitHub 的數百萬次編程討論的大型數據集上訓練的。這些模型不僅學習編程語法，還吸收了這些社區中的文化規範和溝通風格。

根據 Cursor 論壇的帖子，其他使用者並未在 800 行程式碼時遇到這種限制，因此這似乎是 Cursor 訓練的真正意外後果。Cursor 在新聞截止時未能回應，但我們已經聯繫他們以了解對此情況的看法。

這篇文章最初出現在 Ars Technica。