📖 ZKIZ Archives

誰來管控大數據？

我們需要更加合理地管控數據——針對如何利用和開發這種新技術出臺一套指導原則，這麽做尤其是因為數據誤用會帶來威脅，會致使公眾反對此類創新。（視覺中國/圖）

（本文首發於2018年3月15日《南方周末》）

英國一位大臣宣布，要建立一個新的數據倫理中心，這是一件受歡迎的事情。但是，我們必須確保該中心要有能力解決其所認定的道德問題。

數據無處不在。然而，數據會讓我們的生活變得更好，還是會使我們處於危險之中呢？近幾個月來，人們已經搞清楚的一點是，雖然不斷擴大的數據所呈現的機會是很多的，但是所造成的威脅也很多。因此，我們需要更加合理地管控數據——針對如何利用和開發這種新技術出臺一套指導原則，這麽做尤其是因為數據誤用會帶來威脅，會致使公眾反對此類創新。

包括優步公司和莫里森公司在內的企業發生了數據泄露，這已經成為頭條新聞。但是，以自身的商業應用為目的而開發人工智能和查明信息，在這種情況下企業能夠以何種方式合法地使用數據，這一點並沒有較為廣泛地公開化。

對於人工智能潛在的軍事用途，來自各方面的擔憂不斷加劇，以致兩萬多名研究人員最近簽署了一封警告信，警告政策制定者要當心自動武器的危害，因為這些自動武器能夠利用運算法則來襲擊具體的目標。我了解到開發這些技術相對容易，也相對廉價，這是令人震驚的。對自動無人機進行編程，可以使其搜尋目標的特征，而且可以在沒有監視的情況下從遠處對其進行控制……所有這一切都是通過數據驅動的運算法則實現的。

如果這就是市場的發展所致，那麽很可能需要更加強有力的管控和監督了。我們需要一套道德和管理法規，不僅僅是為了數據保護，而是為了讓社會群眾擁有真正的發言權，讓他們去建議各個組織能夠怎樣操縱和利用我們的數據來獲得優勢，不管是商業優勢、政治優勢還是其他方面的優勢。畢竟，那是我們的數據，保護人們必須是重中之重。在數據立法背後，對原則的公共保證是關鍵。因此，以人們可以理解的方式來傳達這種保證是很重要的。在這些問題上已經做了認真的工作，我樂意接受最近由不列顛學院和皇家學會所作的一份有關數據管控的報告。

該報告涵蓋了制定數據管控措施所需要的環境，解釋了社會正在以何種方式發生變化，為何制定數據政策一定要考慮“數據相關爭議”帶來的風險，一定要考慮具有警告意義的歷史故事——“廣泛采用新技術會增加公眾的焦慮感，或者會導致激烈的公共爭議”之類的故事。報告還闡述了什麽叫做數據管控原則，“需要利用這些原則來明確地制定所有形式的數據管控措施，確保數據要具有可信性，要相信對整體數據的管理和使用”。透明度是關鍵：允許問責制的存在，使任何引入的管控法規都具有合法性。

不列顛學院和皇家學會認為，首要的數據管控原則應該是“促進人類的繁榮昌盛”。對於某些人來講，這個說法可能聽起來有點理想化了，但是兩家機構提出的要點是正確的，應該能夠對數據管控措施提供支持。要點如下：

1.保護個人和集體權益;

2.確保在數據管理和數據利用影響下的交易具有透明性、可解釋性和包容性;

3.找出最佳實踐案例，從中吸取成功的經驗和失敗的教訓;

4.加強現有的民主管理。

該報告還提倡由一個新的機構來管理整個數據格局，而不是僅僅管理某些部門和領域的數據。這樣才會在符合上面列出的這些原則的情況下支持數據管理權的移交，並提出改進建議。該機構在對話中將會具有包容性，而且也擁有獨立性，同時又與不同的社區相連。

有跡象表明，該報告所提的建議並未被忽視。正值英國脫歐之時，局面混亂不堪，盡管那位大臣的預算在一定程度上受到了影響，但他仍然提出要建立一個新的數據倫理中心，這是一項迎合了英國技術行業呼聲的新發展，備受歡迎。然而，這樣一個中心的資金來源並不明確，當我向這位數據大臣問及這一提議與信息專員辦公室之間的關系時，他的回答含糊不清。對於提議的數據倫理中心，政府的概述如下：“這是世界上首個能夠在人工智能和數據驅動技術領域確保安全創新和倫理創新的咨詢機構。”但是，該機構是否擁有當前數據格局所需要的管控優勢或權力呢？就其地位跟信息專員辦公室的關系而言，這個新機構可能會進一步產生問題，有可能會遇到近年來信息專員辦公室本身所經歷的管控影響力不足的問題。我們需要確保皇家學會和不列顛學院所設想的多元化的、包容性的和教育性的管控機構能夠取得成效，並且需要確保其有能力帶來變革。

那麽，為了使公民免受數據使用不當可能造成的公共傷害，《數據保護法案》目前正在通過議會審核，該法案還將需要什麽附加條款呢？我們正在拭目以待。作為全黨派議會數據分析小組的主席，我聽到過無數組織為了更加有效地進行民事保護而發起運動的情況，還聽說過數據驅動的營銷組織將數據當作搖錢樹、利用數據打開潛在商機的情況。毫不奇怪，公眾對於其個人數據可能被用於哪些領域感到憂慮，並且對數據立法持懷疑態度，特別是最近媒體對有關面部生物識別技術等問題的報道，更是讓人憂心忡忡。

因此，我們需要解決一系列的道德難題。在數據方面，有些人會本能地懷疑國家機構，其他人會對私營部門的數據使用情況保持謹慎態度。對於運算法則引導下的自動武器，不存在任何審查，這一情況應該引起各方的關註。議會跟公眾一起制定更加合理的數據倫理規則，出臺保障每個人安全的管控措施，這是至關重要的。

（胡德良譯自《衛報》網站）