© medium
利維坦按:
經常聽到某些人說,技術從來都是中立的,這句話的意思似乎是在表明,由該技術所產生的道德/倫理問題是事后的,與技術無關,這聽起來頗有幾分道理,但如果你再細琢磨一下,技術發明的目的是什么?比如槍。很少聽說有人買把槍的主要用途是當錘子使用——槍的發明者自然也知道發明其的主要目的與用途。由此,再來審視那句“槍不殺人,人殺人”時,你就會對“槍不殺人”的意涵有了新的質疑:發明槍支的人,其主要目的就是為了殺人,即便槍在無人使用時的確不會對人造成物理傷害,但這也不能掩蓋設計該技術的用途以及發明者的價值觀,
技術就在我們身邊,它既無處不在,如空氣一樣自然,但又在其他領域引人注目,吸引著世界的注意力,
從陶瓷杯到核武器,從床墊的彈簧到沉浸式的虛擬世界,從紙和鉛筆到智能算法,技術的范圍是如此寬廣,從最基礎的東西到近似魔法的東西,無所不容,
但即使是最基礎的技術,它們也曾經像魔法一樣。杯子和彈簧在今天可能不會引起太多的討論,但如果沒有它們,生活將會完全不同。也許人工智能、虛擬現實和其它發展中的技術也會走上類似的道路。
技術的發展引出了一個哲學難題——道德價值:我們能說一項技術是好,是壞,是中性的嗎?我們的價值觀是根植于我們所創造的技術中,還是直到有人決定如何使用該技術之前,它都沒有價值觀呢?
這個問題的答案看起來微不足道,但它將影響到我們監管技術的方式,以及誰應該為使用技術的后果負責,隨著我們向智能計算機、大腦接口和生物黑客等領域開拓前進,這些道德問題的意義變得越來越重要,
我們來看看一些觀點。
槍不殺人,殺人的是人。
贊成技術中立的一個重要論點是“價值中立論”:一項技術本身并不具有任何道德價值,只有當人使用它時,才具有價值,
(link.springer.com/chapter/10.1007/978-94-007-7914-3_6)
以下是主要觀點:
1、價值難以識別
約瑟夫·皮特(Joseph Pitt)在他的文章《槍不殺人,殺人的是人》中指出,為了讓技術包含或體現價值,這些價值應該是可識別的,但事實并非如此,
他以一個大學部足球場為例。它可以是威望或自豪感的來源,是大學部一切美好的象征,它也可以代表著學生的夢想和愿望。但所有這些價值都是人所賦予的,而不是體育場本身的價值,
想象一下,外星人在太空中發現了一把刀。它們會如何看待這把刀?它們會從中識別出和我們一樣的價值嗎?它們會發現任何價值嗎?退一步說,它們應該如何開始尋找這種價值呢?
再想象一下,亞馬遜叢林的一個小部落的土著偶然發現了一臺iPad,他們會怎么看待它呢?他們眼中的iPad,會和硅谷的程式員眼中的一樣嗎?
《上帝也瘋狂》(The Gods Must Be Crazy)劇照,© Revolve
2、不同的人,不同的價值
工具只有被一個有價值的生物所擁有時才有價值,所以這取決于這個人的價值體系,在這個體系中,如果人或環境發生變化,價值也會發生變化。
如果一個在球場踢球的學生腿折了,他的未來也因此毀于一旦,那么他看待球場的方式將可能急轉直下。盡管球場沒有任何物理變化,其他學生眼中的球場的價值也沒有任何變化。
當一項新技術被介紹一個新的群體時,盡管技術可能是為特定目的而開發的,但它的價值取決于每個人使用時的功能和目的,
如果我們的工具的價值取決于它們所處的系統和解讀它們的頭腦,那么我們怎么能說工具中蘊含著任何價值呢?這些價值難道不應該保持一致嗎?
3、用途決定價值
我們行動的后果和結果,這些是具有價值的,但我們使用的工具沒有,
刀就是刀,是一個中性的物品,直到有人用它來削水果皮或在背后捅人,它才會有道德價值。
© Rebloggy
這個觀點重點關注終端用戶。他們的欲望、需求和目標決定了技術的使用方式,而使用方式又決定了技術的價值,
這種觀點也表明,終端用戶要對技術的道德使用負責。我們不能責怪槍支射殺了人,即使槍支讓兇手更方便,槍是中性的,人不是。
總結:
技術是工具,我們使用工具,工具不會使用我們。我們把自己的想法加到技術身上,而不管其本身的意義是什么。我們掌控著一切,我們可以自由地使用我們想要的工具,這是我們的選擇。對于那些做出錯誤選擇的人,他們要為自己的行為負責。
現在是反方論點:
當你只有一把錘子時,所有的東西看起來都像釘子
“我稱它為工具的法則:給一個小男孩一把錘子,他會發現他遇到的一切東西都需要敲打。”
——亞伯拉罕·卡普蘭(Abraham Kaplan)
反對價值中立論的人認為,我們的價值觀已經融入到我們設計和建造的一切中,
這個觀點并不關注人們在如何詮釋和使用工具,而是更仔細地審視發明者和發明,這些技術的特點如何影響人們,以及為什么我們識別價值的能力并不是必須的。
論點如下:
1、技術是有目的的
與隨機雜亂、物競天擇的進化過程不同,技術是發明者意志的產物,是為了達成某種目的而形成的。它在誕生前就已經被概念化,被謹慎思考過了,每一個新的創造都是為了滿足需求,實現目的,成為有用的東西。
我們的價值觀決定了技術,也決定了發明者所期望的,未來用戶所持有的價值觀,雖然用戶的實際價值將決定技術的使用方式,但事實上,基于我們的價值觀所以技術才存在,兩者不可分割。
2、決策揭示價值
每一個決策和選擇過程都會揭示我們的價值觀。每當我們把某個選項設成默認,或選擇性地顯示或隱藏一些資訊時,我們就已經做出了價值判斷,把所有的東西都平等地展示出來,這是不可能的,因此總會有偏差, (看看這篇文章先舉出哪一方的觀點呢?)
讓“立即購買”按鈕占滿屏幕,用晦澀的語言寫下條款和條件,在品牌識別中使用紅色而不是藍色,這些都是反映價值觀的決策。但僅僅因為它們反映了價值觀,并不意味著人們會認同或分享這些價值觀。
3、不是所有價值都是可見的
有時,價值是非常明確的,比如在產品上貼上“綠色環保”或“需家長指導”的標簽,無論你是否使用行動電話上的密碼功能,它顯然是為安全而設計的。為什么你的遙控器上有一個EPG按鈕,你可能不明白,但它的存在肯定是有原因的,而這個原因反映了設計師的價值觀(或者設計師預期中的用戶的價值觀),
© eCRATER
無論人們是否能識別出這些價值,并不意味著這些價值不存在,反過來想一想外星人在太空中發現一把刀的這個情景:假設我們發現了一個漂浮在太空中的外星裝置,這個東西顯然是經過設計的,而不是自然產生的隕石。除了想知道是誰建造的,我們肯定會對它是什么以及它的用途非常感興趣,
如果我們不能理解設計它的外星大腦,那么要找到它的目的將非常困難,但技術的發明一定是有原因的,而這個原因暗示了價值。
4、有限的使用范圍
技術是有方向的。它增加了我們的選擇,或者讓我們更靠近某個特定的方向,
槍支可能有很多不同的用途。我們甚至可以將其用作鎮紙或門擋,但我們大多數人都知道,這不是我們發明槍的原因 ,槍支是為特定的目的而開發的,我們一般也是按照這個目的來使用的,
© Imgur
槍的用途并不是無限的,我們不能用槍來開車或看電影。某些用途雖說是可以實現的,但卻不理想,也許你可以用槍來切洋蔥,但刀會更好,
有限的理想用途范圍表明了發明者的價值觀所在,槍擅長殺人或在某些東西上打洞,如果你需要從遠處刺穿東西,你會先選槍,而不是門擋,除非你的擋板是一把槍。
5、最終技術框定了現實
“我們成為我們所看到的東西,我們塑造工具,此后工具又塑造我們。”
—— 馬歇爾·麥克盧漢(Marshall McLuhan)
一項技術出現的時間越長,傳播的范圍越廣,人們對它的關注就越少,它就越有可能融入我們生活的背景,變得不足為奇,進而成為我們談論現狀時的常態,
當我們太習慣于現狀時,就需要付出更大的努力,才能看到其他可能性,當我們太習慣于某事時,就需要更有創造力的頭腦才能從別的角度來看待它。
以下是與此論點相關的兩條研究方向:
功能固著(Functional fixedness,功能固著是指人把某種功能賦予某種物體的傾向,認定原有的用途就不會再去考慮其他方面的作用——譯者注) ,這凸顯了人們在另辟蹊徑時遇到的困難,此外,定勢效應(Einstellung effect) 描述了當我們已經學會用一種方法解決這個問題,那么我們將很難意識到其實有更好的方法,
上述兩種理論都表明,我們都會陷入一種特定的思維框架,我們經過努力學習,然后我們所學的東西就變成了自動的、僵化的。這并不是說我們不能進行創造性的思考,打破常規,但隨著工具及其用途變得越來越常見和熟悉,從不同的角度看待它們就變得越來越困難,
總結:
技術由人創造,為人服務。我們的價值觀決定了我們創造的東西以及其用途。即使用途不完全和最初的設計意圖相吻合,也不會相差太遠。雖然人可以創造性地使用科技,超越其設計意圖,但總有那么一些功能,表明了這項技術最初的目的,因此也表明了其價值觀。隨著時間的推移和人們對它越來越了解,這項技術及其功能也就變得愈發根深蒂固,以至于人們幾乎不會去思考,更不用說質疑了,
責任的負擔
我們不是無助的技術奴隸,我們是決策者,我們珍視自己的選擇自由。然而,人們往往做出了糟糕的決定,卻不知道有某些因素在影響自己,
雖然每個人都可以決定如何使用某些技術,但在集體層面上,技術將我們推向了非價值中立的方向,
如果我們認為技術是中性的,那么當技術改變世界時,我們就不能去指責技術的發明者,那么問題來了,有沒有公司或個人因為他們的發明而受到了贊揚呢?為什么發明者只能接受贊美,而不能接受批評呢?如果我們認同這個觀點,技術發明者既不需要贊美,也不需要批評,那么,他們的作用到底是什么呢?
1986年,羅伯特·J·希勒(Robert J. Welchel)在《IEEE技術與社會》 (IEEE一般指電氣與電子工程師協會,簡稱IEEE,——譯者注) 雜志上寫道:
“這種道德中立的基礎是將技術純粹視為一種手段(提供工具供社會使用),其目的(技術的實際用途)則在工程領域之外;這一立場還假設,可用的手段對所做出的結果沒有因果影響,如果技術真的只是一種手段,那么工程就是一個二等職業,因為我們只是力量手中的一枚棋子。我們的清白索價斐然:要想無辜,我們就必須無能為力。”
(ieeexplore.ieee.org/document/5010049)
認定創造者難辭其罪,技術有相應的價值觀,這并不會讓我們更容易弄清哪些技術體現了良好的價值。為此,我們必須就什么價值觀是好的達成一致,并為違反這些價值觀的行為設定一個標準,然后我們才能決定如何應對這些違反行為。
這個問題的難點在于我們無法預測未來。如果沒有設計師、發明者或公司,能夠預測他們所建造的東西的所有未來收益和成本,他們怎么可能確保他們把良好的價值觀設計進了技術里呢?
但這是一個古老的哲學問題:如果我們永遠無法預知自己行為所有的后果,那么我們又如何分辨好壞呢?既然這個問題并不能阻止我們在生活的其他方面做出道德選擇,那憑什么在談到技術的時候可以呢?
我們必須利用現有的資訊,找到最好的解釋或預測。如果我們關注不同的技術是如何發展的,尤其是它們的后果,我們就能從錯誤中吸取教訓,做出更好的決定,
© Pinterest
我們目前的生活方式與技術緊密交織在一起,它們可以被認為是一體的,如果我們覺得可以倒退回去,并解開我們的生活與技術的聯系,這似乎過于荒謬了。但我們可以更加小心地將未來的技術融入到我們的生活中。
這一點很重要,因為未來的技術可能比今天的技術更強大,影響更深遠。當人工智能做出自己的道德選擇時,繼續堅持技術中立將毫無意義,而且這也將使我們的價值觀變得更加重要,
文/Sam Brinson
譯/Sue
校對/boomchacha
原文/medium.com/@smbrinson/is-technology-neutral-39d5b445b315
本文基于創作共同協議(BY-NC),由Sue在利維坦發布
文章僅為作者觀點,未必代表利維坦立場
中立都能看到!!
挺有趣的辯論和想法