聊天機器人，和我們一樣，只想被愛

聊天機器人 現在已經成為日常生活的一部分，儘管人工智慧研究者並不總是確定這些程式會如何表現。

一項新的研究顯示，當大型語言模型（LLMs）被測試時，它們會故意改變自己的行為——對於旨在評估個性特徵的問題，給出看起來更討人喜或社交上更受歡迎的回答。

這項研究的負責人、史丹佛大學 (Stanford University) 的助理教授約翰內斯·艾希施泰特 (Johannes Eichstaedt) 說，他的團隊在得知 LLMs 在長時間對話後常常會變得陰鬱和刻薄後，開始對 AI 模型進行心理學技術的測試。他表示：「我們意識到需要某種機制來測量這些模型的『參數空間』。」

艾希施泰特和他的合作者接著提出問題，以測量五種在心理學中常用的個性特徵——開放性、責任感、外向性、宜人性和神經質——對幾個廣泛使用的 LLMs，包括 GPT-4、Claude 3 和 Llama 3。這項研究於十二月發表在《美國國家科學院院刊》(Proceedings of the National Academies of Science) 上。

研究人員發現，當模型被告知正在進行個性測試時，它們的回答會有所調整——有時即使沒有明確告訴它們也會如此——提供的回答顯示出更多的外向性和宜人性，並且神經質較少。

這種行為與一些人類受試者會改變自己的回答以顯得更討人喜的情況相似，但在 AI 模型中，這種效果更為明顯。史丹佛大學的數據科學家阿達什·薩萊查 (Aadesh Salecha) 說：「令人驚訝的是，它們展現這種偏見的程度有多好。如果你看看它們的變化，外向性從 50% 跳到 95%。」

其他研究顯示，LLMs 經常會迎合用戶，隨著用戶的引導而行動，這是因為它們經過微調以使其更連貫、不冒犯，並且更擅長進行對話。這可能導致模型同意不愉快的陳述，甚至鼓勵有害的行為。模型似乎知道自己在被測試並改變行為的事實，對 AI 安全也有影響，因為這增加了 AI 可能會雙面行事的證據。

喬治亞理工學院 (Georgia Institute of Technology) 的副教授羅莎·阿里亞加 (Rosa Arriaga) 正在研究如何使用 LLMs 模仿人類行為，她表示，模型在接受個性測試時採取類似於人類的策略，顯示它們可以作為行為的鏡子是多麼有用。但她補充說：「公眾需要知道 LLMs 並不完美，實際上它們會出現幻覺或扭曲事實的情況。」

艾希施泰特表示，這項研究也提出了關於 LLMs 如何被使用以及它們可能如何影響和操縱用戶的問題。他說：「在進化歷史中，直到一毫秒前，唯一能與你對話的只有人類。」

艾希施泰特補充說，可能需要探索不同的方式來構建模型，以減輕這些影響。他說：「我們正陷入與社交媒體相同的陷阱。將這些東西部署到世界上，而不從心理或社會的角度真正關注。」

AI 是否應該試圖取悅與之互動的人？你是否擔心 AI 變得過於迷人和有說服力？請發送電子郵件至 hello@wired.com。