疫情后，“AI+”成為時代主旋律。然而，在隱秘的角落，由AI所引發(fā)的安全風險和“黑灰產(chǎn)”問題正與日俱增。尤其是人臉識別，作為AI技術落地最廣泛的場景之一，所面臨的安全、倫理和道德等挑戰(zhàn)愈發(fā)嚴峻。

經(jīng)過近些年的快速發(fā)展，人臉識別已和智能硬件解鎖、支付，以及公共服務等身份驗證直接綁定在一起。因面部信息的唯一性，以及作為個人隱私中最敏感、重要的組成部分，一旦出現(xiàn)問題，將會對個人隱私、公共安全造成巨大威脅，故對技術的安全要求和標準相對更高。

2017年，一位名為deepfakes的網(wǎng)友將色情電影中演員的臉替換成好萊塢女星，并將合成視頻在Reddit網(wǎng)站上發(fā)布，引發(fā)全球熱議，遭到大眾對技術濫用的質(zhì)疑。這也為AI“換臉”技術吸引了一波關注，DeepFake（深度偽造或深度合成）就此成為該技術的代名詞，同名算法也在Github上開源，導致合成視頻片段大量涌現(xiàn)。

無獨有偶，2019年國內(nèi)AI換臉工具“ZAO-逢臉造戲”APP。上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號》中小李子扮演的“杰克”，或是《喜劇之王》里的“柳飄飄”。

只需幾秒，便可跨越AI換臉的高難技術門檻，實現(xiàn)和偶像互動飆戲的美夢，如APP宣傳語所說，“只需一張照片，出演天下好戲”，很難不讓人心動。

DeepFake技術濫用，引發(fā)全球擔憂，也為人臉識別技術的應用推廣帶來了巨大風險。據(jù)稱，2019年底，硅谷人工智能公司Kneron曾使用DeepFake技術成功欺騙了支付寶和微信支付，并且順利通過機嘗火車站等自助終端檢驗！

為此，各國紛紛加強了監(jiān)管措施，譬如，美國政府公布了《禁止惡意深度偽造法案》、《2019年深度偽造責任法案》、《2019年深度偽造報告法案》，旨在通過限制DeepFake合成技術，打擊虛假信息的傳播。

不過，凡事都有兩面性。盡管早期的Deepfake以惡搞、炫技為主要目的，但發(fā)展著發(fā)展著，就被別有用心的群體盯上，以假亂真地制作名人視頻，引發(fā)誤會。

對此，微軟出手打造了視頻鑒真工具，可以讓經(jīng)由Deepfake處理的偽造視頻原形畢露。鑒真工具可進行逐幀分析，以驗證圖像有無存在篡改。工具中基于Azure的組件還允許視頻創(chuàng)作者對圖像添加數(shù)字散列和證書。隨著AI算法的精進，工具不可避免地要被淘汰。

技術是中立的，也是雙向發(fā)展的，不會因為懼怕風險而停滯不前。對深度偽造的內(nèi)容不能一竿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當性，而對影響國家安全、公共安全、民主政治的虛假信息才需要加強監(jiān)管和規(guī)制。

我們應當正確看待深度偽造的功能，監(jiān)督引導其正確規(guī)范使用，而深度偽造只是人工智能的其中很小的一個分支，不能代表人工智能，而深度偽造使用者是人，其本身是無對錯。對于愈加復雜的信息網(wǎng)絡，閉門造車，自掃門前雪的方式顯然是不經(jīng)濟的，引導AI對抗技術的商業(yè)化落地，是加強網(wǎng)絡安全的重要途徑之一，也是促進AI技術應用和推廣的安全保障。