「演算法依賴」的治理有效嗎?

2023-10-19 17:41:42 字數 2457 閱讀 2368

北京**客戶端 | 作者 胡鍵。

演算法是治理能力現代化的重要技術手段,演算法技術的迅速發展和普遍運用導致了治理實踐中嚴重的「演算法依賴症」。

演算法依賴症」導致的「能力停滯」現象。

演算法依賴症」實際上是一種「工具依賴症」。大資料的演算法技術的確為治理能力現代化提供了可能,但在大資料的演算法之下,人們在治理實踐中會越來越依賴演算法所提供的「標準化」程式,時間越長,「演算法依賴症」就越嚴重。

演算法依賴症」最重要的表現就是程式化地把選擇、決策、信任、責任等交給演算法,把思考交給機器,管理人與演算法的角色換位。其結果是,在大資料技術普遍運用于治理實踐中的時候,治理實踐出現了技術(尤其是演算法)與人的相互依賴同時又相互排斥的二律背反現象。

這種二律背反現象表現為:一方面,技術依賴人發明創造出來,為人類社會發展服務,也就是說,技術是人類活動的產物,技術要發揮治理的作用,離不開人對技術的運用實踐;同樣,當人類在社會實踐中對技術產生了依賴以後,在技術賦能的情況下,治理也同樣離不開技術。

另一方面,技術在治理實踐中越來越排斥一般人的活動,更多的是借助技術既有實踐活動的「慣性」即演算法程式發揮治理的作用;與此同時,一般人對技術的依賴是由於技術的便捷、高效所致,當技術被賦予了治理的功能以後,人的一切需要自我證明的東西被演算法程式所排斥,而轉變為必須經由技術來證明。而作為治理主體的人也同樣在借助技術排斥作為治理客體的人。這使得演算法治理在實踐中不僅無法有效提公升治理能力現代化水平,反而因為二律背反現象抑制了治理能力現代化水平的提公升。很顯然,這種情況與治理能力現代化的目標是背道而馳的。

大資料的演算法是被嚴格程式化了的技術推薦過程,而演算法治理的方式主要是推薦演算法,演算法自身很容易陷入「資訊繭房」和「資料牢籠」之中,這也就不可避免地導致推薦演算法所依賴的資料在收集、處理和應用過程中產生不正義。演算法程式化的最大好處是可以替代人工枯燥乏味的重複性過程,把人從簡單勞動中解放出來,從而使得治理實踐過**正成為「無人化」的治理過程。然而,治理的物件複雜多樣,甚至時時刻刻在發生變化。演算法程式是基於歷史資料產生的演算法及其相應的程式,本身具有固有的時效性,但形勢發生變化以後,演算法程式無法自動進行更新,從而導致治理的效果大打折扣,甚至可能完全失效。治理歸根到底是人與人之間的互動並為人類解決實質性的問題的過程,而「演算法依賴症」以及由此導致的「能力停滯」將會使得治理僅僅是乙個過程,而無論是治理主體還是治理客體並沒有實質性地解決實際問題。這就是我們切身感受到的一種現象:有些忙不是解決實際問題的忙,而是在程式上作為乙個環節的忙,即工具性的忙,是喪失了主觀能動性的忙,因而也是無效的忙。

能力停滯」與「演算法依賴症」並存對治理實踐產生負面效應。

在演算法的程式化面前,人作為治理的主體陷入「演算法依賴症」以後,「能力停滯」與「演算法依賴症」是互為因果的。兩種情形會同時在同乙個治理過程中表現出來,對治理實踐產生巨大的負面效應。

第一,程式的選擇與程式化的選擇,體現了治理主體與治理客體之間的矛盾。這種矛盾表現為:程式供給是技術科學家的供給,然後轉化為行政部門(即治理主體機構)的選擇,這種選擇一旦作出就具有唯一性。然而,治理客體複雜多樣且多變,客觀上要求程式具有彈性。結果,程式供給的剛性導致治理主體機構對程式選擇的剛性,這與治理客體需求的彈性之間構成了無法克服的矛盾。在這種情形下,治理主體機構必然強制作為治理主體的人必須保持對技術(演算法)唯一程式的忠誠。否則,演算法程式就難以運用到實踐中。因此,「演算法依賴症」首先是對演算法程式的絕對信任的依賴,程式供給的選擇導致了程式運用的程式化選擇。

第二,把決策交給演算法,再由演算法決定治理實踐的策略,作為治理主體的人只是被動執行演算法決策,於是作為治理主體的人本身就成為演算法的治理物件。把決策交給演算法,實際上也就是把決策交給了演算法研發者。當然,演算法研發者在寫演算法**的過程中肯定有充分的實踐依據,但一套演算法**完成後,隨著時間的推移,會越來越脫離客觀實踐。然而,演算法執行人依然在執行著那一套陳舊的演算法**,以至於治理的實踐常常產生偏差乃至錯誤。

第三,把信任從人與人之間的關係中徹底抽離出來,完全交給技術、交給演算法,導致人與人之間缺乏必要的信任。在社會管理中,我們經常會遇到這樣的情形,那就是只相信技術而不相信人,凡是用技術識別的東西必須要按照技術的程式和演算法來進行檢驗,而忽視任何個人出示的證人、證物等。

第四,把治理實踐都託付給技術,一旦技術出現問題,作為治理主體的人就消極等待,而缺乏實踐的主動性。在「千禧年」的時候,世界普遍擔心的是「千年蟲」問題。當時網際網絡技術剛剛運用於各國的**服務,治理也主要是服務型治理,因而對「千年蟲」所引發的問題並不擔心。當然,技術科學家很快就解決了這個問題。然而,隨著大資料技術普遍運用于治理實踐,由於技術本身的缺陷,包括技術設施等硬體問題,更包括軟體系統問題等,治理實踐的差錯難以避免。

人推動技術發展以後,人在技術的實踐面前不是無所作為的,若如此,則人很快就會被自己發明的技術所戰勝。馬克思、恩格斯在《德意志意識形態》的「序言」中指出過「創造者屈從於自己的創造物」的異化現象,今天,在人與技術的關係中也出現了這種現象,而人與大資料、人工智慧的關係中,更是存在著嚴重的技術異化現象。從治理實踐中的「演算法依賴症」來看,實際上就是人創造發明技術,反過來卻屈從於技術。

作者為上海政法學院***研究院教授)

廠家如何治理拼多多亂價最有效果 業內都在用的經驗方法

點選頭像,領取維權控價方案 大家好,這裡是信羊!拼多多,作為一家專注於社交電商的平台,以低價 優惠的方式吸引了大量消費者的關注。然而,這種拼團亂價的模式也為一些商家提供了投機機會,進而導致了亂價銷售的現象。在面對亂價銷售問題時,廠家如何有效治理拼多多的亂價行為呢?一 拼多多平臺的性質分析 拼多多平臺...

西紅柿對祛斑有效嗎?

作為一名資深化妝品工程師,我結合 科專業美容科學,可以給出關於 問題的專業護理方案。關於西紅柿對祛斑的效果,我可以為您提供以下資訊。首先,西紅柿含有豐富的維生素c,而維生素c在抑制色素沉著方面確實有一定的作用。然而,僅僅依靠吃西紅柿並不能達到明顯的祛斑效果。儘管維生素c可以幫助減少色素沉著,但斑點形...

夫妻約定「空床費」有效嗎?

夫妻應當互相忠實,互相尊重 家庭成員間應當敬老愛幼,互相幫助,維護平等 和睦 文明的婚姻家庭關係。網友諮詢 夫妻約定 空床費 有效嗎?律師解答 空床費 能否成立實際上要看 空床協議 能否成立。夫妻應當互相忠實,互相尊重 家庭成員間應當敬老愛幼,互相幫助,維護平等 和睦 文明的婚姻家庭關係。空床費 協...