Anthropic首席科學家談2025年代理人將更優秀的五種方式

2/ 代理人會理解上下文

「Claude 需要了解你特定的情況和你所面臨的限制，這樣才能對你有幫助。像是你所處的角色、寫作風格或你和你的組織的需求。」

「我認為我們會看到進步，Claude 能夠搜索你的文件、Slack 等等，真正學習對你有用的東西。這一點在代理人身上有點被低估了。系統不僅需要有用，還要安全，能做到你所期待的。」

「另一件事是，很多任務不需要 Claude 做太多推理。你不需要坐下來思考幾個小時才打開 Google Docs 或其他東西。因此，我認為我們會看到的，不僅是更多的推理，而是在真正有用和重要的時候應用推理，而不是在不必要的時候浪費時間。」

3/ 代理人會讓編碼助手變得更好

「我們希望能夠將電腦使用的初步測試版本發送給開發者，以便在系統還相對原始的時候獲得反饋。但隨著這些系統變得更好，它們可能會被更廣泛地使用，並真正與你在不同活動中合作。」

「我認為 DoorDash、Browser Company 和 Canva 都在嘗試不同類型的瀏覽器互動，並在 AI 的幫助下設計它們。」

「我預期我們還會看到編碼助手的進一步改進。這對開發者來說是非常令人興奮的。現在對使用 Claude 3.5 進行編碼的興趣非常高，這不僅僅是像幾年前那樣的自動完成。它真的能理解代碼中的錯誤，進行除錯——運行代碼，看看發生了什麼，然後修正它。」

4/ 代理人需要變得安全

「我們創立 Anthropic 是因為我們預期 AI 會快速進步，並且認為安全問題將會變得非常重要。我認為這在今年會變得越來越明顯，因為我認為這些代理人會越來越融入我們的工作中。我們需要為挑戰做好準備，例如提示注入。」

[提示注入是一種攻擊，惡意提示以開發者未預見或未意圖的方式傳遞給大型語言模型。這樣做的一種方法是將提示添加到模型可能訪問的網站上。]