您的位置:首頁»教育»正文

學者:阿爾法狗最終會咬誰?

【觀察者網左欄文章】

西元前1200年左右, 殷商時期的中國就發展出了工廠制, 鑄造出成千上萬尊大型青銅器皿供日常生活和典禮儀式使用。 在這個關於大規模生產的古代案例中, 需要事先制定精細的計畫, 對大批工人進行分組協調, 確保每組工人按部就班地逐項執行任務, 才能鑄造出青銅器。


一千年以後, 中國迎來了首位皇帝秦始皇, 他著名的兵馬俑軍隊也是通過同樣複雜的流程製造出來的。 三藩市亞洲藝術博物館的資料顯示, 兵馬俑雕像是“通過一套裝配生產體系塑造燒制而成, 這一體系為後世的大規模商業生產鋪平了道路。

有學者推測, 這些早期的規範性操作技術對塑造中國社會發揮了重要作用, 例如使人們更容易接受官僚機構及其背後那套強調等級的社會哲學, 接受“只有一種正確的行事方式”的觀念。

19世紀, 當工業廠房最初出現在歐洲時, 即使連恩格斯等資本主義的嚴厲批評者也承認, 無論採用資本主義還是社會主義經濟體系, 大規模生產都會使中央集權成為必需。 在20世紀, 蘭登·溫納(Langdon Winner)等理論家將這一思路擴展到其他技術領域。 例如, 他認為原子彈應被視為一種“具有內生政治屬性的人工製品”, 因為其“高度致命性決定了它應該由集權式、嚴格層級化的指揮鏈來控制”。

今天, 我們可以把這個思路再往前推進一步。

機器學習演算法(machine-learning algorithms)已成為當今最重要的通用技術, 這些演算法利用真實世界中的範例來類比人類認知能力, 已經在現實工作場所中廣為應用。 然而, 為了充分利用這些技術, 發揮演算法的優勢, 各類組織必須將人工任務重新定義為預測任務(prediction task)。

機器學習演算法的關鍵特徵之一是, 其性能會隨著資料量增加而提高。 因此, 應用演算法本身就會產生一種技術動力:將人的各類資訊視為可記錄、可訪問的資料。 就像大規模生產體系一樣, 這些資料也“具有內生政治屬性”, 因為其核心功能傾向於肯定某些社會實踐, 否定另一些行為, 尤其與人類個體維護隱私的意願直接衝突。

在美國社會學家阿米塔伊·埃茨昂尼(Amitai Etzioni)等社群主義者的眼裡,

建立在社群成員資訊公開化基礎之上的體系似乎是經得起檢視的。 對他們而言, 對隱私的種種限制只是執行社會規範的一種手段。 但電腦演算法與社群主義者不同, 它不關心社會規範, 只關心如何通過將人類生活轉化為可供開採的資料集, 並基於此更準確地做預測。

科技勢在必行的力量在不經意間把信奉個人主義的西方人轉變為社群主義者, 使他們更仰賴於以演算法評估為基礎的賢能主義體制。 無論是在工作、學習, 還是約會類應用程式中, 我們都已經習慣於使用不具人格的工具來評估人們的資格, 並為我們在層級結構中分配位置。

可以肯定的是, 演算法評估不是什麼新鮮的概念。

一代人以前, 奧斯卡·甘迪(Oscar H. Gandy)等學者就曾告誡人們:社會正在轉向“得分+排名”模式, 我們需要建立責任和補償機制來彌補由技術造成的錯誤。 與今天的機器學習演算法不同, 當時的評估工具比較容易理解, 它們是根據相關規範性和經驗性因素來做決策的, 例如, 拖欠信用卡帳單導致債臺高築會損害一個人的信用度——這不是什麼秘密。

與此相對, 新的機器學習技術則致力於深度挖掘大型資料集, 以期發現人們可預測但無法完全理解的某些相關性。 在工作場所, 演算法能夠監測員工的對話, 瞭解他們在哪吃午飯, 在電腦前、電話上和會議中分別花了多少時間, 再通過這些資料搭建出複雜的生產效率模型,

遠超人類基於常識的直覺。 在基於演算法的賢能主義體制中, 模型得出的結論就是我們追求卓越的新標準。

這並不等於技術宿命論。 我們要趕在技術塑造人類之前塑造技術。 商業領袖和政策制定者可以根據自身機構的需求, 有選擇性地開發和部署他們想要的技術。 我們有能力在人類生活的敏感領域佈置隱私防護網, 防止資料被用來製造傷害, 並要求演算法設計要在預測準確性與公平性、責任制和透明度之間取得平衡。

如果我們遵循演算法的自然邏輯, 文化將無可避免地朝賢能主義和社群主義的方向發展。 這種平穩的轉型將對西方的民主制度和政治結構產生深遠的影響。 正如研究中國的學者貝淡甯和張維為所指出的那樣, 中國不斷發展的社群主義體制為西方自由主義民主傳統提供了主要的替代性政治選擇。

中國體制允許公民參與地方選舉,而國家領導人則通過賢能政治程式來選拔。領導人被認為是人民福祉的監護者。自由民主國家不太可能完全採取這樣的政治體制。但如果商業和消費文化按目前的趨勢發展下去,西方可能越來越多地轉向中國式的賢能主義和社群主義傳統,逐漸遠離個人主義和自由民主的歷史傳統。而如果要避免這一轉向,我們必須把政治置於技術之上。

(觀察者網黃鬱譯自《世界報業辛迪加》)

中國不斷發展的社群主義體制為西方自由主義民主傳統提供了主要的替代性政治選擇。

中國體制允許公民參與地方選舉,而國家領導人則通過賢能政治程式來選拔。領導人被認為是人民福祉的監護者。自由民主國家不太可能完全採取這樣的政治體制。但如果商業和消費文化按目前的趨勢發展下去,西方可能越來越多地轉向中國式的賢能主義和社群主義傳統,逐漸遠離個人主義和自由民主的歷史傳統。而如果要避免這一轉向,我們必須把政治置於技術之上。

(觀察者網黃鬱譯自《世界報業辛迪加》)

Next Article
喜欢就按个赞吧!!!
点击关闭提示