算法和covid19大流行

蛋友投稿來源：https://www.ft.com/content/16f4de0-e86b-4f77-8b05-67d55838941

政府使用“自動決策工具”引起了反對，

英國教育大臣周三宣布，“今年我們將更加信任老師，而不是算法”，

英國政府正試圖避免去年英國學校的混亂。當時因為疫情，取消了內地小型考試，負責考試管理的政府部門Ofqual推出了一種算法，該算法通過對教師給出的成績進行標準化，可以防止因取消考試而導致的成績普遍提高。

對于很多學生來說，這個算法簡直就是一場災難。算法的使用導致很多年級被壓低，引發政治風波。面對學生的抗議(“去他媽的算法”)，Ofqual妥協了。評分算法中止，學生拿到老師評定的成績，項目負責人被辭退，

這種對英國教育系統的沖擊代表了一種潛在的但影響深遠的流行病趨勢，

流行病危機加速了政府使用更自動化的決策方法，通常這些新制度之所以沒有被采用，是因為沒有得到足夠的討論，但疫情提供了嘗試的動力。同時，疫情也為監控技術公司提供了更大規模使用其產品“造福社會”的機會。

然而，反對聲音也激增，除了英國教育系統最顯著的勝利之外，活動家和律師在歐洲和美國也取得了幾次勝利，但他們認為，這種爭端在未來會變得更多，“這些新的決策方法從來沒有咨詢過公眾，”數字版權組織Foxglove的聯合創始人瑪莎黑暗(Martha Dark)說，她威脅要在評分算法被撤銷之前采取法律措施。”其中隱藏著許多重大的政治問題，”。

不全都是“黑鏡”

雖然經常與TikTok或Facebook等社交媒體聯系在一起，但實際上，從復雜的神經網路到更簡單的系統，算法已經廣泛應用于各個領域。“你想到的是暗鏡中的東西，但事實上大多數時候它只是一個簡單的精算工具，”數字自由基金會法律顧問喬納森麥卡利(Jonathan McCully)表示，該基金會參與了歐洲保護數字權利的訴訟。

非營利組織AlgorithmWatch的法比奧奇尤斯(Fabio Chiusi)表示，由于算法無處不在，所以在使用它們時需要仔細思考。“這并不意味著我們必須回到中世紀，但我們必須考慮這些算法是否能讓社會更有效率。同時，想想他們是否也在讓社會變得更好，”

英國教育體系中算法的使用，揭示了這種判斷是多么困難。研究人工智能和大數據對社會影響的阿達洛芙萊斯研究所所長卡莉金德(Carly Kind)表示：“他們考慮了許多關于公平和正義的論點，但選擇了一個特殊的方向：這個算法應該提高不同學年學生之間的公平性，疫情前的學生不應該處于不公平的劣勢，”

這種方法意味著系統會將教師對英國入學考試的估計成績減少40%，這引起了憤怒，更糟糕的是，似乎對出身不好的學生更不利，對那些考試成績比日常成績好的學生也不利。

“這是人們第一次在街上反對算法，也是很多人第一次意識到權利是以算法的形式使用的。”

然而，英國教育系統的政策變化并不是數字版權組織Foxglove在算法領域的第一次勝利，日前，英國大陸政府撤銷了一項適用于簽證申請的不透明算法，在法律意見中，毛地黃提出制度中“可疑國籍”的秘密名單相當于“白人更有優勢”，

在美國，活動人士還贏得了對一項更廣為人知、更有爭議的算法技術——人臉識別的勝利，人臉識別技術的應用長期以來被批評有種族傾向，其可靠性和隱私性也受到質疑，6月，黑人居民羅伯特威廉斯因面部識別錯誤被錯誤逮捕，密歇根州的美國人權聯盟立即提起行政訴訟，“長期以來，很多人都意識到了人工智能和人臉識別技術的危害，這兩年也看到了很多反對人工智能的措施。”

繼奧克蘭和舊金山之后，馬薩諸塞州的一些城市也通過了禁止使用人臉識別技術的法律，加州人權組織美國公民自由聯盟(ACLU)成功阻止了一項完全允許在加州使用人臉識別的法案的通過，

去年，歐洲活動人士也取得了一些意義深遠的成功，其中最引人注目的是敘利亞案，SyRI是荷蘭政府用來檢測福利欺詐的自動工具。今年2月，海牙地區法院裁定其非法，因為它使用了荷蘭公共部門的大量私人數據。這些數據包括受教育程度、住房條件、是否完成了“融入社會”項目(這是申請入籍的必要條件)。

“像其他系統一樣，敘利亞系統從一開始就假設人們在福利上作弊，”投訴此案的荷蘭人權律師協會的Jelle Klaas說，盡管取得了一些成功，克拉斯警告說，法院的決定不會結束活動家和政府部門之間的斗爭，“我認為我們確實開創了一個先例，但我們也理解，大量其他算法正在被使用(為此目的)，問題將隨之而來，”

人工智能軍備競賽

約克大學部難民法實驗室的佩特拉莫爾納爾說：“在疫情爆發前，自動決策工具和算法的使用已經快速增加了幾年。”。“從地緣政治的角度來看，國與國之間存在軍備競賽，這推動了這個行業前沿的創新。”

然而，疫情加速了這一趨勢，政府機構開始樂于測試這些系統，并認為它提高了運營效率。“我們確實看到這一流行病被用作維護人民權利和自由的平臺

的科技試驗場”，歐洲數字權利組織的Ella Jakubowska表示，“我們的公共空間，臉和身體都成為了實驗的一部分。”

她指出的措施包括在巴黎最繁忙的捷運站Châtelet-Les-Halles用以識別人們是否佩戴口罩的攝像頭，這一措施在六月被法國的數據保護機構CNIL判定其違反了歐洲通用數據保護條例GDPR。

法國數字權利法律組織La Quadrature du Net的法律專家Martin Drago也認同“軍備競賽”的觀點，“法國已成為錯誤使用生物資訊監控的典型，而當我們向向警方指出濫用的危害時，他們則說我們的斗爭將讓法國輸掉這場與中美之間的(人工智能)競賽，”

LQDN組織細數了他們去年取得的成果。在二月，他們反對監控系統接入位于南法的兩座國中，贏得了在法國反對使用人臉識別技術的第一案，“數據保護機構CNIL認定無法證明使用人臉識別技術是必要的，以及這項技術能比一個人做的更多，”

但是應用算法的監控行為仍在法國廣泛存在，最受活動者關注的是Traitement des Antécédents Judiciairesu犯罪資料庫，一個包含可用來面部識別的八百萬面部資訊的資料庫。“這個資料庫包含了一項調查中的每一個人的(面部資訊)，無論其是否被宣判有罪，這讓人毛骨悚然，”

Drago正在關注備受爭議的法國安全法中有關數字使用的新條例。新條例將合法化無人機和攝像頭與警方指揮中心之間的數據實時傳輸，這將為面部識別或其他圖像分析技術打開便利。

該法案已于去年十一月在法國議會下院投票通過，在三月前它還需要通過上院，但Drago表示，“如果對法案文本有爭議，下院將擁有最終的決定權，”

“每當談到某種算法技術的使用，大陸總是被當做替罪羊，‘我們不會像大陸做的那樣’，但是我們有了犯罪資料庫，有了用于機場和火車站的人臉識別閘口，這很奇怪，”

Domen Savic，斯洛文尼亞非盈利組織Drzavljan D的首席執行官，表示這些新措施不太可能隨著疫情消失，“在后疫情時期，我們需要回到過去，看看我們因為疫情而做了什么并且判斷是否應該做，但當這些措施被應用到了一個程度，離開他們將很困難，越來越多的技術應用已經沒有了關閉的選項，”

私營部門的機會

對于監控技術公司及其相關企業，疫情也為他們出售公共健康管理工具提供了機會，比如說，檢測武器的攝像機被用為檢測潛在感染者的熱量掃描儀，“我們看到911后以及疫情期間，企業看到了人們的恐慌，這對他們是商機。他們會說，‘這是用來保證你們的安全的’，即使很多產品背后的科學原理并不可靠，”

在法國，Drago認為疫情已被監控技術公司用作2024巴黎奧運會前優化系統的機會，“很多法國公司想要這么一部促進生物監控實驗的法律，好讓他們在奧運會期間大展手腳。”

在英國，數據販子們正試圖幫助地方政府挖掘他們充滿公共和私人資訊的富礦，比如識別掙扎于危機創傷后或是存在違反自我隔離規定風險的人，

在一份英國資訊專員Elizabeth Denham十月發表的聲明中，數據販賣被批評為“使得數百萬英國人失去了對自己隱私數據的控制權”，

“我們是否樂見有關我們生活的決策在數據販子的協助下做出，依靠監控和對我們的數據采集？”英國非盈利性組織Big Brother Watch主任Silkie Carlo表示，“疫情正在讓這些事正常化，變成由于特殊情況而可以接受。”

活動者們特別關注于那些關于移民與難民的技術，“比如說在美墨邊境上，就有所謂‘智能邊境’技術，地中海和愛琴海也在成為這些技術的試驗場，”這些措施反映了公共健康問題與民粹政治的匯流，“移民和難民長期以來就被與帶來疾病掛鉤，(這種邏輯下)因此他們就需要被監控，跟蹤并控制。”

這些邊境上的技術包括從軍事級無人機到預測人口流動的社交媒體監控，以及“人工智能測謊”，其宣稱能通過監測面部表情來測謊，匈牙利，拉脫維亞以及希臘的邊檢正在試用這種技術，

“我不知道這些系統怎么應對跨文化的溝通，以及人們通常并不連貫的講述故事，未經審查就應用這些技術令人不安，”

不過Molnar表示最近在監管這些技術上取得了進展，“我們正在構建概念化算法監管的框架，但是離認清利用這些技術所作出的決策對人們權利的影響還很遙遠。”

打賞

支付寶打賞 [x]

WordPress資料庫錯誤： [You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near ” at line 1]
SELECT buyer_nickname FROM jandan_tip_order WHERE approve_status = 2 AND post_id =