由GeekPwn聯(lián)合多家國(guó)內(nèi)外人工智能權(quán)威企業(yè)舉辦的G-TOP年度極客榜單于2021年10月24日在上海展開(kāi)現(xiàn)場(chǎng)評(píng)選，中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院俞能海、張衛(wèi)明教授團(tuán)隊(duì)的WM_Team戰(zhàn)隊(duì)?wèi){借“AI鑒定師——真實(shí)場(chǎng)景人臉深度偽造視頻鑒別”項(xiàng)目榮獲年度第二名。

GeekPwn由國(guó)內(nèi)頂尖信息安全團(tuán)隊(duì)碁震（KEEN）于2014年發(fā)起并主辦，是全球最大關(guān)注智能生活的安全極客（黑客）大賽。自 2014 年創(chuàng)辦以來(lái)，GeekPwn 已經(jīng)成功在中國(guó)北京、上海、澳門(mén)、香港和美國(guó)硅谷、拉斯維加斯等多地舉辦，負(fù)責(zé)任地披露了上千個(gè)高危漏洞。在歷屆比賽中，從攻破智能手機(jī)、無(wú)人機(jī)、機(jī)器人、智能家居等智能產(chǎn)品，到 SSL/TLS 協(xié)議挑戰(zhàn)專(zhuān)場(chǎng)、人工智能安全挑戰(zhàn)專(zhuān)項(xiàng)，該項(xiàng)賽事曾獲得“安全競(jìng)賽最具影響力獎(jiǎng)”。

本次賽事報(bào)名隊(duì)伍超過(guò)200余支，進(jìn)入復(fù)賽的隊(duì)伍20支，最終進(jìn)入G-TOP年度極客榜單的僅有10支隊(duì)伍。前三名分別為：奇安信天工實(shí)驗(yàn)室的“臥底打印機(jī)”，中國(guó)科大WM_Team的“AI鑒定師”，RealAI-清華大學(xué)聯(lián)合戰(zhàn)隊(duì)TSAIL的“眼鏡易容術(shù)”。這其中，中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院的WM_Team戰(zhàn)隊(duì)是唯一一支完全由高校力量組成的隊(duì)伍。

圖1 WM_Team榮獲G-TOP年度極客榜亞軍圖2 GeekPwn年度極客榜前三名

此次比賽的最大特點(diǎn)是主辦方未設(shè)置統(tǒng)一的賽題，各參賽隊(duì)伍可以極大的發(fā)揮自己的優(yōu)勢(shì)，向公眾展示日常生活中可能存在的安全問(wèn)題和巧妙的解決方案。組委會(huì)評(píng)委將從“技術(shù)難度，實(shí)際價(jià)值，社會(huì)影響”等多個(gè)方面進(jìn)行最終評(píng)分。此次WM_Team的參賽項(xiàng)目是對(duì)人臉深度偽造視頻的鑒別。人臉深度偽造是近年來(lái)新興的一類(lèi)技術(shù)，通過(guò)深度學(xué)習(xí)算法，實(shí)現(xiàn)人臉視頻的生成與偽造。這類(lèi)技術(shù)目前已被廣泛用于娛樂(lè)應(yīng)用中，并開(kāi)發(fā)了如DeepFaceLab等換臉軟件。但這類(lèi)技術(shù)的盛行也帶來(lái)了極大的潛在風(fēng)險(xiǎn)，尤其是在政治、金融、公共安全等領(lǐng)域，一旦出現(xiàn)惡意偽造，如身份偽造、輿情煽動(dòng)等，都將對(duì)國(guó)家和社會(huì)帶來(lái)巨大危害，因此研究真實(shí)場(chǎng)景下有效的人臉深度偽造視頻鑒別技術(shù)是迫在眉睫的。

整個(gè)比賽分為“線(xiàn)上真人秀《我是極客》安全極客挑戰(zhàn)節(jié)目”和“線(xiàn)下1024極棒之夜”兩個(gè)階段。在10月15日播出的《我是極客》第一期節(jié)目中，中國(guó)科大WM_Team戰(zhàn)隊(duì)的挑戰(zhàn)任務(wù)是在5分鐘內(nèi)完成100段由主辦方技術(shù)專(zhuān)家精心準(zhǔn)備的視頻集檢測(cè)。

圖3 WM_Team參賽隊(duì)員

而在現(xiàn)場(chǎng)踢館賽中，挑戰(zhàn)視頻數(shù)量增至500個(gè)，對(duì)檢測(cè)準(zhǔn)確率又有著更高的要求，最終WM_Team踢館成功，成為唯一一支在現(xiàn)場(chǎng)踢館賽中成績(jī)提升的隊(duì)伍，最終榮獲第二名。

圖4 WM_Team現(xiàn)場(chǎng)踢館賽挑戰(zhàn)成功

中國(guó)科大WM_Team戰(zhàn)隊(duì)2020年曾在Facebook、MIT等組織的全球最大規(guī)模的“深度偽造檢測(cè)挑戰(zhàn)賽（DFDC）”獲得全球亞軍（國(guó)內(nèi)最好成績(jī)），贏得30萬(wàn)美元獎(jiǎng)金，并且相關(guān)成果被中國(guó)信通院評(píng)為2014年以來(lái)人工智能安全領(lǐng)域的8項(xiàng)中國(guó)創(chuàng)新成果之一。

戰(zhàn)隊(duì)所在的俞能海和張衛(wèi)明教授的課題組長(zhǎng)期從事多媒體安全與AI安全的相關(guān)研究，近年來(lái)，在對(duì)抗樣本、深度學(xué)習(xí)模型保護(hù)、深度偽造與檢測(cè)等方向取得了一系列成果，在該領(lǐng)域的頂會(huì)頂刊TPAMI、CVPR、AAAI、ICCV等發(fā)表了多篇高水平論文，并在2019年人工智能頂會(huì)IJCAI-Alibaba人工智能算法對(duì)抗賽獲得防御賽冠軍和非定向攻擊亞軍。本次G-TOP年度極客大賽取得的優(yōu)異成績(jī)將進(jìn)一步擴(kuò)大我校在人工智能安全領(lǐng)域的影響。

高維數(shù)據(jù)持續(xù)關(guān)注AI安全業(yè)務(wù)，先后參與承擔(dān)了多個(gè)國(guó)家和地方相關(guān)重點(diǎn)項(xiàng)目，擁有多個(gè)AI安全相關(guān)發(fā)明專(zhuān)利及“臉捕?”、“AI愚化?”、“圖溯?” 注冊(cè)商標(biāo)等知識(shí)產(chǎn)權(quán)，并于中國(guó)科大學(xué)聯(lián)合共建有“中國(guó)科大-高維數(shù)據(jù)  數(shù)字媒體安全與溯源取證聯(lián)合實(shí)驗(yàn)室”，重點(diǎn)聚焦包括視頻深度偽造相關(guān)的數(shù)字媒體安全技術(shù)與應(yīng)用研究。