軟體工程師維什努·莫漢達斯在得知谷歌這家科技巨頭曾短暫協助美國軍方開發人工智慧來研究無人機影像後，決定以多種方式辭去谷歌的工作。2020年，他離開了在谷歌助手的工作，並停止將所有照片備份到谷歌相簿。他擔心他的內容可能會用於訓練人工智慧系統，即使這些系統不一定與五角大廈的專案有關。「我無法控制這將帶來的任何未來結果，」莫漢達斯想。「那麼現在，我是否應該更負責任一些？」
莫漢達斯自學程式設計，現居印度班加羅爾，他決定開發一個替代的服務，用於存儲和共享照片，這個服務是開源且端對端加密的。他說，這是一個「更私密、更健康、更值得信賴」的選擇。他設計的收費服務Ente是盈利的，並表示擁有超過100,000名用戶，其中許多人已經是隱私保護的狂熱者。但莫漢達斯在向更廣泛的受眾解釋為什麼他們應該重新考慮依賴谷歌相簿時感到困難，儘管它提供了所有的便利。
然後在5月的一個週末，Ente的一位實習生提出了一個想法：讓人們了解一些谷歌的人工智慧模型可以從研究影像中學到什麼。上個月，Ente推出了https://Theyseeyourphotos.com，這是一個旨在將谷歌的技術用於自身的網站和市場推廣手段。人們可以將任何照片上傳到該網站，該照片隨後會被發送到谷歌雲端的計算機視覺程序，該程序會寫出驚人詳細的三段描述。（Ente會提示人工智慧模型記錄上傳影像中的小細節。）
莫漢達斯上傳的第一張照片是一張與妻子和女兒在印尼一座廟宇前拍的自拍照。谷歌的分析非常詳細，甚至記錄了他妻子佩戴的手錶型號，即卡西歐F-91W。但隨後，莫漢達斯說，人工智慧做了一件奇怪的事：它注意到卡西歐F-91W手錶通常與伊斯蘭極端分子相關。「我們不得不調整提示，使其稍微更健康但仍然令人毛骨悚然，」莫漢達斯說。Ente開始要求模型產生簡短、客觀的輸出——不包含任何陰暗內容。
現在，這張家庭照片在Theyseeyourphotos上返回的結果更為通用，包括廟宇的名稱和「部分多雲的天空及郁郁蔥蔥的綠色植物」。但是，人工智慧仍然對莫漢達斯和他的家人做出了一些假設，比如他們的臉部表情表達著「共同的滿足感」，而「父母可能是南亞裔，中產階級。」它評估他們的穿著（「適合觀光」），並指出「女性的手錶顯示的時間大約是下午2點，這與影像元數據相符。」
谷歌發言人科林·史密斯拒絕直接對Ente的專案發表評論。他指引WIRED查看支持頁面，該頁面聲明上傳到谷歌相簿的內容僅用於訓練生成性人工智慧模型，幫助人們管理其影像庫，例如那些分析照片主題的年齡和位置的模型。該公司表示不會將存儲在谷歌相簿中的內容出售給第三方，也不會用於廣告目的。用戶可以關閉相簿中的某些分析功能，但無法完全防止谷歌訪問他們的影像，因為這些數據並不是端對端加密的。
