導讀:近日,你應該看到了社交媒體上對于網站 ThisPersonDoesNotExist.com,生成無數不存在人臉的鋪天蓋地的消息,以及楊冪換朱茵的假臉圖像。
近日,你應該看到了社交媒體上對于網站
ThisPersonDoesNotExist.com,生成無數不存在人臉的鋪天蓋地的消息,以及楊冪換朱茵的假臉圖像。一方面,這說明,AI
技術的火正從專業(yè)人士那里不知不覺發(fā)展到了頻繁上熱搜的時期,但另一方面強勢的 AI 技術發(fā)展帶給了大眾更大的恐慌情緒。
從假人臉、假人聲到假消息,AI 利用來自人類世界的數據集,正在創(chuàng)造一個以假亂真的仿真世界。
從人類的視角來看,AI 技術帶來的這些前所未有的創(chuàng)造力是一種威脅,是為“假”,但換個角度,AI 正在創(chuàng)造的“仿真”人類信息世界,可能正給人們帶來在面對未來時更大的困惑和不安全感。
在這里要重申:AI 正在創(chuàng)造一個獨特的虛擬(虛假)信息世界。
除了眾所周知的 Deepfake 這樣的換臉技術外,今天要介紹的是與人們息息相關的指紋,它被廣泛應用于指紋鎖、手機、安檢等應用場景中,有極高的安全等級。但如今指紋也開始能被 AI 技術“復制”了,由 AI 合成的指紋能輕松騙過識別的掃描儀。
這個叫 DeepMasterPrints 的系統,確實像是跟 Deepfake 來自同一個世界,在由 AI 創(chuàng)造太過逼真的事物上,業(yè)內人士一般都喜歡加個前綴“Deep”。
DeepMasterPrints 系統由紐約大學工程學院的 5 位研究人員開發(fā),其研究于去年 10 月在洛杉磯舉行的生物測量學會議上發(fā)表,主要可以用人工智能來制作虛假的指紋,它可以以假亂真,輕松“騙過”生物識別掃描儀(或人眼)。
研究人員稱,DeepMasterPrints 在一個系統中復制了 23% 的人類指紋部分,錯誤率為千分之一。而當錯誤匹配率達到百分之一時,DeepMasterPrints 能在 77% 的情況下模擬真實指紋騙取掃描儀的“信任” 。
左圖是真實指紋,右圖為 AI 合成指紋
這些合成指紋在“騙”過存有許多指紋的系統時可能很有效(不同于你手機中的指紋記錄,它可能只記錄了幾個數字),DeepMasterPrints 開發(fā)的工具進行運行幾個假指紋,通過系統查看是否有任何指紋與任何用戶賬戶匹配。攻擊者可能通過反復試驗獲得更多成功的機會,類似于黑客對密碼進行暴力或字典攻擊的破解方式,不是通過系統運行數百萬流行密碼的軟件。
具體而言,其背后的技術原理是,通常研究人員采用兩種生成對抗網絡 GAN 組合在真實圖像中使用,其中一個神經網絡,使用公開、可用的指紋圖像,訓練神經網絡識別真的指紋圖像,然后用另一套神經網絡,訓練創(chuàng)建生成偽造指紋。
研究人員解釋,可以將第二個神經網絡的假指紋圖像輸入第一個神經網絡中以測試仿真程度。隨著時間的推移,第二個神經網絡則會“學習”生成逼真的指紋圖像,最終騙過人眼和掃描儀。
DeepMasterPrints 正是利用了生物識別指紋系統中的兩個缺陷。首先,大多數指紋識別儀器在掃描時不會對整個指紋進行掃描,而只是對指紋的一部分上進行匹配;其次,多數設備允許用戶提交多個指紋圖像,匹配其中任何一部分,便可以確認用戶身份。這使得由 AI 偽造的指紋更容易騙過指紋掃描儀。
帶有訓練網絡的潛在變量演化。左邊是 CMA-ES 的高級概述,右邊的方框表明如何計算潛在變量。
這樣一個系統是如何創(chuàng)建的?根據論文描述,為了開發(fā) DeepMasterPrint,研究人員將生成器的潛在變量演化為最優(yōu)值。生成器的輸入稱為潛在變量,因為它們對網絡輸出的影響只能通過觀察到的圖像來進行理解。由于網絡以 100 個潛在變量作為輸入,那最優(yōu)解是 100 維空間中的一個點。
如上圖所示,LVE(Latent Variable Evolution,潛在變量演化技術) 對這些點進行采樣,將它們轉換為圖像,然后對圖像進行評分,以了解最佳點隨時間的分布情況。這些最佳點是 DeepMasterPrint 的基因型,然后可以映射到圖像上。
LVE 可以使用任何進化算法(或其他隨機全局優(yōu)化器)來搜索潛在空間。進化算法不需要梯度,因此這是黑盒優(yōu)化的理想方法。在這個域中,匹配器可以報告匹配了多少身份(不同的指紋)以及相應匹配率,至于如何得到這些結果的卻并不提供任何信息。
梯度沒有顯示 DeepMasterPrint 的哪個像素效果最好或最差。由于 LVE 的適應度得分是身份匹配的數量,因此適應度景觀(fitness landscape)是不連續(xù)的。由于卷積網絡的層次性,潛在變量也是不可獨立分離的。
研究人員的這篇論文像是給了黑客破解指紋鎖的密碼,但他們告訴 Gizmodo,如果沒有驗證生物識別是否來自真人,很多這些對抗性攻擊都有可能發(fā)生,希望他們的研究能加強指紋安全工作,推動生物識別傳感器中的活體檢測。
不過,AI 技術的兩面性在于道高一尺魔高一丈,不知道潘多拉魔盒完全打開后,還會如何“解鎖”當下的物理世界,給人類更大的意想不到的震撼。