【書評】《數位利維坦》:為了進數位天堂,你可以放棄什麼? | 哲學新媒體
書評

《數位利維坦》:為了進數位天堂,你可以放棄什麼?

數位大海嘯下演算法與自由的抗衡
西班牙法學博士拉薩爾用「數位利維坦」比喻現代社會的人們:我們為了活在數位天堂裡,放棄了公民權利。 也就是說,現代生活我們共同放棄的是部分自由,轉而讓數據模型、演算法,...

您在這裡

難度:
2

數位大海嘯來襲

現在的我們,生活中有多少決定與看法是倚賴演算法而決定?以你的日常行為為例——買的衣服、看的劇、交通路線,或是在 Instagram 點下愛心的圖文,哪一個不是藉助於龐大的數據與演算法?

LinkedIn 調查,有 67% 的雇主認為 AI 幫助他們省下不少選人的時間。Google 搜尋引擎的演算法告訴我們快速又準確的答案。確實,人類容易犯錯,需要電腦的輔助。而且,常常電腦的表現都比人類好,像是戰勝棋王的 AlphaGo。透過數據,程式可以知道我們喜歡什麼,還能診斷疾病,而且方便快速又準確,不是很好嗎?

西班牙法學博士拉薩爾 (José María Lassalle) 對此抱持懷疑。他在 2019 年出版的 《數位利維坦》(Ciberleviatán) 中,探究數位革命對於現代社會政治、人文的影響,並認為它將侵蝕現代社會民主自由的價值。本文將簡單介紹拉薩爾在《數位利維坦》中的哲學觀察及隱憂。

數位利維坦——服膺於數位權力下的科技動物

Ciberleviatán
Ciberleviatán, 2019
書名《數位利維坦》是受到霍布斯利維坦》的啟發。利維坦源自於《希伯來聖經》中的巨大怪物。在霍布斯的政治哲學中,人民為了不使社會陷入你爭我鬥、紛亂不安的自然/戰爭狀態 ( state of nature) 下,共同讓出部分自由,自願服從於單一強權之下,確保社會的安定與和諧。拉薩爾則用數位利維坦比喻現代社會的人們:我們為了活在數位天堂裡,放棄了公民權利 (civil rights)1 也就是說,現代生活我們共同放棄的是部分自由,轉而讓數據模型、演算法,或是大型科技公司決定一大部分的人生,為的就是能處處活在與數位科技連結的社會。

看看日常生活就知道了吧!比起每次旅行前都要用 GPS 軟體印製一份地圖自行劃記,還要怕旅途弄髒或濕掉,隨時開個 Google Maps 不是很好嗎?透露一點我的地理位置來換取方便許多的工具也不會怎樣吧!況且,科技的發展早就不是這幾個世紀的事情,運用科技讓生活更方便有什麼不對?

事實上,拉薩爾認為數位科技的革命特別嚴重,它與其他世代(像是工業革命)不同的是,它剝奪了人類部分的自由,也就是上述公民權利的重要環節。公民權利指的是構成自由民主社會重要的權利,它與公民的自由與平等息息相關。理想中民主自由社會的公民都能平等地發聲、參與公眾議題並影響政府決策。另一方面,人人都有自由追求自認為有價值的人生,並且為自己的選擇負責。2

就個人層面而言,我們讓演算法告訴我們要穿什麼、吃什麼、聽什麼、走哪條路(它可能都比我更了解自己呢!)。在公共領域中,演算法餵給我們有興趣的新聞,不管是不是偏頗的「假新聞」。對拉薩爾來說,人已經由亞里斯多德所說的「政治的動物」轉變成「科技的動物」,也就是「能無限制地與數位世界連結的消費者主體」。3在數位世界中,利維坦就是那些掌握數據者,能夠在數位大海嘯的時代中決定你我的生活。

減損的自由與演算法信仰

當我們越來越依賴搜尋引擎給我們的答案,我們便逐漸失去自我尋找真相的能力。如哈拉瑞 (Yuval Noah Harari) 所說:『現在社會,真相的定義就是 Google 搜尋結果的前面幾個項目』。4

拉薩爾認為,離不開科技的現代人就像是回到嬰兒時期,僅具有「需要輔助的自由」。我們期待程式透過我們不全然了解的邏輯規則幫助我們做決定,也因而逐漸剝奪為自己人生負責的權利。5現今的眾多哲學討論,就是在細究科技與人類相關的倫理議題,像是自動化駕駛系統發生事故的責任歸屬問題,或是演算法的種族偏見等。6

人們是否能有意識做決定具有重大意義。(數位天堂)不僅削弱民主政治下人類能理性選擇的基礎,我們還會在不遠的將來失去人類作為解釋世界的唯一標準。7

電腦數位資料
數位革命使人退至文藝復興之前?
拉薩爾擔心的是,當演算法發展至人類完全沒辦法了解的程度,而我們對它的依賴仍然不減的情況下,人類便完全受到程式掌控了。這也是為什麼他稱數位革命某種程度上使人退至文藝復興之前——以人為本重視理性反對宗教權威的時代似乎已經過去,現在我們不只隨時隨地仰賴演算法替自己做決定,還對它產生前所未見的崇拜。拉薩爾稱那些極度崇尚科技、大部分為科技菁英主義者的人為「矽谷精神」支持者。Ian Bogost 就在 Atlantic 文章 〈計算大教堂〉(The Cathedral of Computation) 中指出,人們對於演算法的崇拜和相信它的程度,已經可以稱之為新型態的神學信仰。8 還不太理解這個概念的人,不妨試著接觸馬斯克的超級粉絲,可能就能知道在說什麼。

數位專制下的環形監獄

失去自由之外,拉薩爾認為數位專制使國家發展民粹政治的可能性更令人憂心。任何自由的減弱都都能使極權與民粹主義乘虛而入。後真相時代中,川普當選對於美國民主政治的影響就是明顯的例子。現在,許多大型科技企業如 Google、Facebook、Netflix、Spotify、Salesforce、AWC 等掌握海嘯般的數據9,藉由交易、分析等從中獲取極大利潤,它是商品也是資產。這些大型企業在進行 AI 及演算法的積極發展同時,就是在不斷強化前段所述,削弱人類理性選擇的能力。

拉薩爾引用漢娜.鄂蘭在《極權主義的起源》中的見解,說明這些大型企業過度推崇演算法的正確性與效率10,並認同應取代人類有偏誤的判斷和決定等,就是在減弱人類的自由,並且試圖消除人類的自發性 (human spontaneity),這兩者皆是滋養極權主義發展的特質。11此外,數據與演算法的影響絕對不止於日常消費,而是囊括國家政治、民主,甚至國際間的發展。美國的劍橋分析與臉書的政治宣傳醜聞就是著名的例子。

環形監獄
位於古巴的 Presidio Modelo 監獄。這監獄內的風格依照英國哲學家邊沁所講的全景監獄設計,允許一個警衛在中間的控制塔,監視該監獄的所有囚犯,而囚犯則不知道自己是否受到監視,傅柯認為,這是權力施展的一種模式。
演算法管控著我們生活大小事,使數位專制不需透過暴力即可獲得絕對的權力。它甚至能規範人類生活,其影響力無所遁逃。在數位專制下,我的地理位置、消費習慣﹑政治傾向等都已被他人所掌握,而且很有可能被政府或其他企業取得,無異於活在傅柯式的環形監獄中。12

針對這點,我相信大家都有聽過這個回應:反正我又沒有做什麼虧心事,資料被看到有什麼好怕的?或許我們可以參考史諾登 (Edward Snowden) 的說法

說你不在乎隱私,反正你沒做什麼虧心事,就如同你說不在乎言論自由,反正你沒有什麼想說的東西一樣。13

結語:我們真的能限制數位利維坦嗎?

在了解數位專制的影響力之後,我們該如何與不可阻擋、不可逆的科技發展共處?

在書的最後,拉薩爾回歸以平等、法治為基礎的自由主義,企圖處理數位專制對自由民主的影響。他認為我們必須立即以明確的法律規範保障數據的所有權。換句話說,你的數據是財產的一種,為政府必須保障的自然權利。14以前段「反正我沒做什麼虧心事」的例子來看,這種回應可能是搞錯了權利的本質。對於某些自由主義者,隱私權屬於自然權利,因此我們無須說明自己為何該擁有這項權利,而是應由侵犯這個權利者承擔舉證責任 (burden of proof)。15

至於什麼才叫做「侵犯個人數據的隱私權」,實務上非常複雜且廣泛,原因是數據的相關權利可能涵蓋同意他人/企業獲得數據、能隨時停止他人使用我的相關數據16、知道企業如何使用我的數據(如 Google 將數據賣給哪些廣告公司)、完全掌握與我相關的數據內容等 (如 Google 如何將我的興趣、地區等分門別類)。

無知之幕後的原初狀態
針對保障數據的規範,拉薩爾說明,它必須清楚劃定公私領域的範圍,因為涉及商業利潤和個人隱私的平衡,而這個規範可透過羅爾斯之原初狀態 (original position) 的思考方向制定出來。他認為歐洲許多國家是他認為得以合理限制數位世界對於人民的權力,並以此對比中國、美國,以及俄羅斯對數位專制影響自由的相對不重視。17

事實上,美國並沒有像歐盟針對數據隱私的中央聯邦級法規,而僅有因州而異的特別條文,其中又主要以保障學生、兒童,以及健康的個人資料為主,對於其他產業(如科技、保險業等)的數據隱私卻少而不周全。歐洲普遍認為人民的數據隱私權必須受到保障,才能獲得公民的信任。相對地,美國則傾向認為國家或企業可以擁有很大的權力獲取公民資料,而這是基於促成經濟成長、有效率的市場,以及保障國安等原因。18

讀完這本書後,我認為最後的這個部分是較無法令人信服的——以下幾點是我認為作者能夠更多加說明的部分:

  1. 如上所述,數據的應用相當廣,以保障權利為目的的相關法規也會很複雜。若能說明為什麼歐洲的法規比美國好,並提出一些政策制定方向和背後的原因,我想讀者將更能接受本書的觀點。舉例來說,運用數據開發出的演算法、預測模型等具有很大的附加價值。這些「加工後」的數據或模型已經與原始資料大相逕庭,它的所有權,或是運用限制等規範也可能是一個值得探討的議題。
  2. 作者並未著墨太多數據的商業價值與市場需求,但我認為它會在資本主義社會中占有重要角色。畢竟,許多民主國家的政治體系也受經濟利益的牽扯,很難分開而談。威脅國家民主自由很可能不是錯在數據、AI 本身或人們的崇拜精神,而是它背後龐大利潤所形成的政治影響力。

最後,在不知情狀況下資料被竊取是一回事;合法使用下自願提供個人資料又是另一回事。我們真的能單就制定明確的規範,回歸「以人為中心的人本主義科技觀」嗎?如果是的話,明確規範社會下為了數位連結而理性放棄權利的人就不會是拉薩爾批評的對象。但這顯然不是他的論點。因此,若要批評數位利維坦本身,作者勢必也得說明隱私權/數據擁有權為什麼遠比生活有效率、科技發展來得重要,而且和其他自然權利一樣,毫無讓渡空間。

  • 1. Lasalle, José María, Ciberleviatán, Barcelona, Arpa, 2019, pp. 72-73.
  • 2. 在史丹佛哲學百科的公民權利篇有詳細說明了此概念,以及在公私領域中公民權利如何實現自由。
  • 3. Ibid., p. 73.
  • 4. Ibid., pp. 44-45.
  • 5. Ibid., p. 7.
  • 6. 參見〈人工智能 (AI) 的倫理學問題
  • 7. Ibid., p. 30.
  • 8. Ibid., p. 57.
  • 9. Ibid., p. 20.
  • 10. 參見〈人工智慧複製人類偏見,AI 與性別議題間的拉扯
  • 11. Ibid., p. 24.
  • 12. Ibid., p. 54.
  • 13.  "Arguing that you don't care about the right to privacy because you have nothing to hide is no different than saying you don't care about free speech because you have nothing to say."
  • 14. 拉薩爾原為研究洛克政治哲學,自己也有投身西班牙政治圈,可在此書中看到其思想受洛克的影響。
  • 15. 支持自由主義者對於權利的探討可以參考史丹佛哲學百科 1.1 章洛克與彌爾的說法。
  • 16. 這還不包括當我決定取消企業使用我的數據時,我的數據應該完全從資料庫中刪除的權利,就實務上很少有法規保障這項權利
  • 17. Ibid., p. 93.
  • 18. 雖然拉薩爾說明歐洲的數據隱私權是較值得追求的,卻沒有詳細說明原因以及現況,因此我用史丹佛哲學百科對於數據隱私權的介紹作補充。
台大工管系畢業,現為商業分析師。沒有哲學背景,但對哲學情有獨鍾。喜愛辯論和嘗試新事物,立志成為不討人厭的哲學家。
訂閱哲學新媒體,支持作者持續創作、打造長長久久的哲普推廣與哲學教育平台。