我們需要開始與人工智慧代理的倫理問題進行掙扎

普拉巴卡（Prabhakar）在2023年推動總統的人工智慧（AI）行政命令中扮演了重要角色，這項命令為科技公司制定了讓AI更安全和透明的規則（雖然這依賴於自願參加）。在擔任拜登總統（President Biden）內閣成員之前，她在政府中擔任過多個職位，從推動國內半導體生產到領導五角大廈著名的研究部門DARPA（國防高級研究計畫局）。

本月早些時候，我有機會與普拉巴卡坐下來聊聊。我們討論了AI風險、移民政策、CHIPS法案、大眾對科學的信任，以及這一切在特朗普（Trump）任內可能會有的變化。

隨著政府的更迭，AI正處於混亂的時期。特朗普的團隊尚未提出明確的論點來處理人工智慧，但團隊中有很多人希望撤銷這項行政命令。特朗普在七月時就表示，他支持共和黨的平台，認為這項行政命令“妨礙了AI創新，並將激進的左派思想強加於這項技術的發展。”一些強大的行業人物，如風險投資家馬克·安德森（Marc Andreessen），也表示支持這一舉措。然而，這一敘述的複雜性在於埃隆·馬斯克（Elon Musk），他多年來對末日AI情境表示擔憂，並支持一些旨在促進AI安全的規範。沒有人真的知道接下來會發生什麼，但普拉巴卡對目前的情況有很多看法。

想了解她對上一屆政府中最重要的AI發展的見解，以及下一屆政府可能會發生的事情，請閱讀我與阿拉提·普拉巴卡的對話。

深入學習

這些AI《Minecraft》角色自發做了奇怪的人類行為

電子遊戲《Minecraft》越來越受歡迎，成為測試AI模型和代理的實驗場。最近，初創公司Altera採用了這一趨勢。它一次釋放了多達1,000個由大型語言模型（LLMs）驅動的軟體代理，讓它們互相互動。僅僅透過文字提示，它們就發展出驚人的個性特徵、偏好和專業角色，並且不需要人類創造者的進一步輸入。令人驚訝的是，它們自發地交了朋友、發明了工作，甚至傳播了宗教。

為什麼這很重要：AI代理可以執行任務並表現出自主性，在數位環境中主動行動。這是另一個例子，顯示這些代理的行為，在人類的提示下可以是既令人印象深刻又完全奇怪。致力於將代理引入世界的人們對它們有著大膽的抱負。Altera的創始人羅伯特·楊（Robert Yang）認為，《Minecraft》的實驗是邁向大規模“AI文明”的早期步驟，這些代理可以在數位空間中與我們共存並合作。“當我們擁有真正自主的代理，能夠大規模合作時，AI的真正力量將被釋放，”楊說。請閱讀尼爾·菲斯（Niall Firth）的更多報導。