詢問數據倫理學家：組織如何建立數據和人工智慧倫理工作的能力？

在一月，我有幸在 EDGO 2025 會議上發表主題演講。當時有很多精彩的問題，太多了以至於無法在活動中全部回答。之後，我收到了一封來自 Measured Strategies 的執行長 Karen Menard 的信，她提出了一個很好的問題：「我不斷聽到對數據和人工智慧倫理相關角色需求增加的討論，我很好奇你如何看待這些角色和技能在未來幾年的演變。」

我對這個問題的理解是……

組織如何能夠建立數據和人工智慧倫理工作的能力？

為了提供更多背景，Karen 也提到她與許多非營利組織和機構合作，這些組織在數據方面有各種需求。由於資源有限，專門聘請只專注於倫理的新角色將會很具挑戰性，還有其他數據領域需要解決。

在我分享一些對這個問題的想法之前，我想感謝 Karen 聯繫我，並允許我分享這個問題。

認識數據倫理：提高意識

這個問題讓我感同身受，因為在創辦我的公司之前，我曾在加拿大經營一家非營利組織。我們有一個每月捐款者計畫，每個月處理數千筆交易。作為一家媒體機構，我們也擁有大量與廣播運營相關的數據，包括一個龐大的數位音樂庫。就像許多非營利組織（和小企業）一樣，我們似乎從來沒有足夠的員工來滿足所有需求。我們的「數據工作」落到了功能部門，當時我甚至沒有將其視為數據工作。那只是資金開發、財務、人力資源或節目編排。但從我現在的角度來看，這與數據有關，並且有許多選擇是有倫理影響的。

在那段時間，我們「意外」做出的一個倫理數據決策是將數據儲存在加拿大。那時「不飛行名單」成為了新聞焦點。我聽說社區裡有一位捐款者擔心在（現在已過期的）愛國者法案下保護他們的個人數據。這個故事讓我向我們的軟體供應商提出了一堆有關伺服器和數據實際儲存位置的問題。我想強調的是，我偶然發現這個問題的情況。我希望我能說這是策略性的，但事實是，這是一個意外的好運。

我分享這個故事是因為我相信領導者確實關心倫理和數據，但也許並不總是將這些領域聯繫起來。在我擔任非營利領導職位的時候，這對我來說並不明顯（現在承認這一點讓我感到震驚！），但對於那些不沉浸在數據工作中的人來說，這是一個現實，他們面對著各種問題。在那時，我對數據倫理沒有背景，無法理解我應該關心哪些倫理問題，組織中的其他人也同樣不知情。因此，第一個建議是提高領導層對數據和倫理之間聯繫的認識。故事是一個很好的方式來做到這一點。

優先考慮數據倫理：這是誰的工作？

一旦有了意識，達成共識認為數據倫理在原則上是重要的並不困難。然而，獲得資源來實際進行這項工作可能會是一個挑戰，尤其是對於較小的組織來說。可能沒有預算來聘請一個專門負責「數據倫理」的人。即使在非常大的組織中，專注於這個領域的資源也可能很少。

那麼，有哪些實際的方法來完成這項工作呢？

首先，從現有的團隊成員開始。對現有團隊成員進行交叉培訓是一個實用且可行的步驟。這應該包括至少一個領導（高層）角色以及一個技術角色（IT、網路安全、數據庫管理員）。如果志願者被要求輸入數據，他們也可以接受培訓以了解特定問題，例如數據質量與數據倫理之間的重要性。

其次，增聘專家。就像你可能會尋求法律顧問或任何專業領域的專家一樣，你可以尋找數據或人工智慧倫理顧問來幫助回答特定問題，參與一個高度涉及數據倫理的項目，進行員工培訓以建立內部能力，或協助設立一個管理數據倫理問題的計畫。

需要什麼背景、能力和技能？

進入數據或人工智慧倫理工作的路徑並不只有一種。這個領域受益於來自各種領域的人。在某些情況下，人們可能擁有更傳統的數據背景，這可能包括數據治理、數據管理或數據隱私的角色。然而，也有許多人來自非數據相關和非技術領域。有時他們在哲學和倫理方面接受過正式培訓，或者他們可能擁有社會科學或人文藝術的背景。

根據你進入這個領域的方式，這會指向你可能需要發展的技能，以便能夠理解不僅是倫理問題，還有這些問題在數據和/或人工智慧技術中的表現。如果你有強大的正式倫理或法律（隱私）培訓背景，你可能需要提升對數據及其在機器學習中使用的技術理解。反之亦然，對於來自技術背景並希望將數據倫理納入其工作的人來說。

批判性思維技能是必不可少的，還需要理解計算思維和算法如何運作。這類工作還涉及協作和跨團隊合作，因此需要良好的人際交往、關係和溝通技能。能夠成為團隊合作者和共識建立者是有幫助的。我也非常喜歡英國數據政府博客中的這篇文章，提供了有關能力的更多細節。

目前，這個領域仍然相對較新。沒有正式的操作手冊可供遵循，儘管有各種課程、書籍和其他資源可以幫助了解這項工作。除了技能外，擁有以下一些能力也很有幫助：

好奇心 – 對許多事物感興趣，喜歡學習新事物

開拓精神 – 能夠在沒有固定「操作手冊」的情況下工作

勇氣 – 能夠發聲或採取相反的立場

外交手腕 – 以巧妙的方式「對權力說真話」，促進積極行動

我喜歡 b cavello 的這一系列文章，講述他們進入人工智慧政策工作的過程，這是一個相關的領域。它呼應了我提到的一些事情，還提供了額外的見解和資源。

這項工作將如何演變？從通才到專家

目前，通才有很大的發展空間。這部分與這項工作非常新有關。新領域往往吸引喜歡成為開拓者的人，像是在叢林中開闢自己的道路。通才的概念也與組織的成熟度不足相吻合。讓一個人擔任多個角色更容易，而他們所擔任的角色也反映了他們進入這個領域的方式（例如，來自隱私方面、技術方面等）。

隨著領域開始成熟，我們往往會看到更多資源分配給這項工作，並且工作分工更加明確。在一個更成熟且通常較大的環境中，這看起來像是一組在各自領域（隱私、網路安全、數據治理和倫理）擁有更深專業知識的人，他們聚在一起進行工作。這可能需要更深入但更狹窄的專業知識。例如，在與政府客戶就數據倫理進行諮詢時，已經有一個團隊在處理隱私問題。他們對該管轄區的隱私法律擁有深厚的專業知識。我的工作是與該團隊合作，提供更廣泛的倫理問題的另一種觀點。

我也認為隨著這項工作的成熟，領域專業知識將變得更加重要。目前，數據和人工智慧倫理工作往往跨越行業，類似於會計等專業。然而，隨著該領域的發展，有機會開辟特定領域的專業知識（例如，醫療保健、教育、金融業）。