此前，AI換臉軟件ZAO的一夜爆紅，不僅讓其服務(wù)器陷入了“滿負(fù)荷至崩潰運(yùn)行“的危機(jī)之中，也將用戶的安全與隱私暴露在種種危險(xiǎn)地帶。

同樣的情況，國(guó)外也不少見。

今年七月，一款“變?nèi)荨避浖尡姸?美國(guó))手機(jī)用戶惶恐不安。大可稱其為FaceApp，該修圖軟件憑借其能將拍攝的人臉賦予逼真的滄桑感而圈粉無數(shù)，自此一躍成為網(wǎng)上的“病毒”，無孔不入。

而且放眼各大社交平臺(tái)和曬圖網(wǎng)站，全是它的成果。

剛開始，F(xiàn)aceApp的爆紅似乎并沒有什么異樣，直到一些心懷疑慮的互聯(lián)網(wǎng)調(diào)查員發(fā)現(xiàn)軟件提供商為俄方公司，事情有了新的走向。

民眾一瞬間沸騰起來，社交平臺(tái)、網(wǎng)絡(luò)論壇無不充斥著人們的焦慮感：這些俄羅斯人是誰?為什么想要我們的臉部照片?他們會(huì)怎樣利用收集的數(shù)據(jù)?一些新聞媒體主播就此提醒廣大民眾;還有一位民主黨人士呼吁(有關(guān)部門)對(duì)此展開調(diào)查。全國(guó)上下所有人內(nèi)心都有這么個(gè)疑問——令人不安的俄方情報(bào)機(jī)構(gòu)是否在非法利用他們的面部信息來完善本國(guó)的人臉識(shí)別程序?

而事實(shí)證明，F(xiàn)aceApp供應(yīng)商與俄政府之間的聯(lián)系被夸大了，其實(shí)什么都沒有。據(jù)《華盛頓郵報(bào)》的一項(xiàng)調(diào)查報(bào)告顯示，該公司與國(guó)際情報(bào)組織沒有交集，也不會(huì)給非法監(jiān)視組織提供信息資源，目前也并沒有用存儲(chǔ)的照片來升級(jí)改造什么人臉識(shí)別系統(tǒng)。整件事下來就是對(duì)數(shù)據(jù)的小題大做。

但這樣的騷動(dòng)并不意外。人們對(duì)許多看似有趣方便且有利用價(jià)值的網(wǎng)絡(luò)服務(wù)都相繼產(chǎn)生擔(dān)憂，而FaceApp的窘境不過是最近剛發(fā)生的。人們想知道，這種自動(dòng)給臉書上照片貼標(biāo)簽排隊(duì)的技術(shù)會(huì)讓公司了解他們的個(gè)人信息并跟蹤利用他們嗎?在顧客走進(jìn)一家免付款(cashier-less)亞馬遜商店時(shí)，零售商會(huì)利用收集的監(jiān)控錄像對(duì)付顧客嗎?

人們對(duì)此通常是無法感知的——而這就是問題所在。所以背后引發(fā)的一個(gè)問題就是：當(dāng)下AI程序到底會(huì)用人類面孔做什么?有多少的恐懼是來源于傳言，而非擺在面前的事實(shí)?技術(shù)的力量是否讓人類的擔(dān)憂不斷增多?

我們來一起想想這個(gè)問題。

人臉識(shí)別究竟為何物?

在深入探討人臉識(shí)別的風(fēng)險(xiǎn)之前，有必要先了解一下它是如何工作的。

人臉識(shí)別技術(shù)(FRT)的功能主要依靠于對(duì)人臉節(jié)點(diǎn)測(cè)量結(jié)果的識(shí)別和模型創(chuàng)建;包括但不限于鼻子的寬度、下巴的長(zhǎng)度或雙眼間的距離。這些測(cè)量結(jié)果最終會(huì)轉(zhuǎn)錄到一個(gè)擁有特定代碼的模板中，之后便可以將圖片與數(shù)據(jù)庫(kù)中已有圖像進(jìn)行比對(duì)甚至可能進(jìn)行匹配。

比如，賭場(chǎng)可能會(huì)用這種技術(shù)對(duì)入場(chǎng)玩家與列有問題賭者的內(nèi)部資料進(jìn)行比對(duì)。還有些調(diào)查人員可以通過駕照數(shù)據(jù)庫(kù)、警方存檔的嫌犯照片或臉書這種社交平臺(tái)得到想要的資源。然而，照片庫(kù)的使用寬限則取決于這些人擁有多少圖片資源的使用權(quán)，這也是接下來會(huì)說到的——搜查的準(zhǔn)確度。

人臉識(shí)別可以(或不能)做什么?

與觀眾追的所有間諜劇劇情不同的是，F(xiàn)RT很少會(huì)立即反饋準(zhǔn)確的信息，在環(huán)境復(fù)雜時(shí)亦如此。說政府會(huì)通過街道上不清晰的監(jiān)控片段在幾秒內(nèi)找到目標(biāo)人物的說法實(shí)屬夸張。

但人臉識(shí)別監(jiān)控的確有可能實(shí)現(xiàn)，所要面臨的無非是精確度低和各種環(huán)境因素問題。相機(jī)質(zhì)量、計(jì)算程序、時(shí)間、距離、數(shù)據(jù)庫(kù)大小甚至包括人口學(xué)中的種族和性別都會(huì)影響FRT搜索的最終效果。

筆者記得很清楚，2018年美國(guó)公民自由聯(lián)盟(ACLU)組織進(jìn)行了一項(xiàng)測(cè)試，其結(jié)果顯示亞馬遜平臺(tái)的人臉識(shí)別系統(tǒng)Rekognition錯(cuò)誤地將28名國(guó)會(huì)成員與警方存底的嫌犯照片進(jìn)行了匹配。

另一項(xiàng)由麻省理工媒體實(shí)驗(yàn)室(MIT Media Lab)發(fā)起的調(diào)查顯示亞馬遜識(shí)別系統(tǒng)還在苦苦掙扎于性別的識(shí)別，有19%的可能性會(huì)將女性誤認(rèn)為男性，有超過1/3的可能性會(huì)將膚色較深的女性誤判為男性。而亞馬遜將一切的誤差都?xì)w咎于低校準(zhǔn)度。

亞馬遜的說法也不為過，至少還是占點(diǎn)理的。畢竟研究人員發(fā)現(xiàn)臉書的識(shí)別系統(tǒng)比FBI還準(zhǔn)確，因?yàn)樯缃黄脚_(tái)上有相當(dāng)多的照片可供參考，同時(shí)還會(huì)主動(dòng)要求用戶驗(yàn)證其相片從而完善算法。人們因此會(huì)對(duì)Rekognition產(chǎn)生誤解，當(dāng)然所有的FRT軟件都免不了遭受質(zhì)疑：這些軟件能做到的程度只取決于其照片參考量。

亞馬遜的一位發(fā)言人告訴the Verge網(wǎng)說，“80%的可信度對(duì)熱狗、椅子、動(dòng)物或其他社交媒體上的照片是可以接受的，但對(duì)于有面部特征的人是不夠的”。

點(diǎn)評(píng)的很客觀，也似乎有些打臉。因?yàn)楣疽呀?jīng)下架Rekognition，并將其遞交給了執(zhí)法部門和ICE，但依然沒有確立一個(gè)法定的FRT置信度。識(shí)別的一再不準(zhǔn)確給FRT的前進(jìn)道路布設(shè)了重重障礙，比如不能單憑技術(shù)作為逮捕嫌疑人的根據(jù)，它只可用于協(xié)助調(diào)查。

可別搞錯(cuò)了，雖說目前美國(guó)的FRT能力不能在模糊的監(jiān)控片段中于漆黑道路上鎖定目標(biāo)，可獲得這種能力只是時(shí)間的問題。中國(guó)以監(jiān)督百姓生活聞名，近期因通過FRT在短短七分鐘內(nèi)追蹤一名BBC記者，成為了新聞熱點(diǎn)話題。這給美國(guó)未來如何使用該技術(shù)提供了先例。

不過有一點(diǎn)很明確：雖然當(dāng)下美國(guó)的人臉識(shí)別技術(shù)無法做到一直保持準(zhǔn)確，但國(guó)內(nèi)的企業(yè)正致力于改進(jìn)和使用它。目前為止存在的兩大問題：第一，不可靠的技術(shù)也許會(huì)讓人蒙受不實(shí)的斥責(zé);第二，隨著技術(shù)發(fā)展的更加準(zhǔn)確，范圍越廣，監(jiān)控趨勢(shì)會(huì)向中國(guó)靠攏。

FaceApp的用戶置身于何種境地?

FRT的發(fā)展是大勢(shì)所趨，現(xiàn)在也許無法做到完全準(zhǔn)確或者合理使用，但未來會(huì)實(shí)現(xiàn)。與此同時(shí)，人們需要開始思考該如何、何時(shí)、何種程度地使用該技術(shù)，在FRT超出監(jiān)管之前制定嚴(yán)苛的限制。正如《華盛頓郵報(bào)》一名作者寫的，“今天，人臉識(shí)別也許會(huì)讓你開開心心地進(jìn)到棒球賽場(chǎng)，但基于系統(tǒng)原先編寫的視覺假設(shè)，你也有可能被認(rèn)為具有暴力犯罪行為，那時(shí)可能就不太愉快了”

所以用戶身處的境地更多是關(guān)于哲學(xué)意味的。一款滑稽的程序會(huì)給照片上的自己加一些逼真的皺紋，這興許很有意思，但背后收集的數(shù)據(jù)可能早晚會(huì)用來對(duì)付人們自己。當(dāng)然，這些照片可能會(huì)受困于某處的俄方供應(yīng)商，無法觸碰，或者作為參考實(shí)現(xiàn)一個(gè)更加高效準(zhǔn)確的FRT系統(tǒng)，用于監(jiān)督人民。該事件指向了數(shù)字世界不安全的核心問題，也促使人們發(fā)問：“長(zhǎng)期以來我們?nèi)绱诵湃蔚目此茻o辜的數(shù)據(jù)，是否會(huì)傷害我們自己?”

來源：Pexels

現(xiàn)在領(lǐng)悟到什么了嗎?

下一次有照片過濾器、網(wǎng)上游戲或數(shù)字趨勢(shì)蔓延開來，系好安全帶把自己拴緊，考慮一下要不要躋身潮流。

哪怕覺得自己的自拍會(huì)以數(shù)字或文字形式隱匿于某西伯利亞的服務(wù)器，也要想著會(huì)有人利用它。

就像國(guó)內(nèi)ZAO的橫空出世，地下灰色產(chǎn)業(yè)逐漸浮出水面一般，在掀起病毒式恐慌之前，人們永遠(yuǎn)不會(huì)意識(shí)到問題有多嚴(yán)重。。

沒有危機(jī)意識(shí)的你，也許只有在看毛片黃圖時(shí)，意外發(fā)現(xiàn)自己的臉后，才會(huì)感到恐慌和危險(xiǎn)。