政大大學報

反制換臉技術 假面騎「識」即時偵測防堵詐騙

2022/11/24 00:02:26

【記者張倩怡綜合報導】近年深偽技術(註一)快速發展,為影片中的人換臉已不再是難事,但也導致利用此技術的詐騙案層出不窮。長庚大學資訊管理學系學生團隊開發「假面騎『識』」Deepfake換臉即時檢測平台,除可辨識照片和影片外,更可即時檢測視訊是否有使用深偽技術。此發明獲得2022大專校院資訊應用服務創新競賽資安組第二名。

長庚大學資訊管理學系學生團隊開發「假面騎『識』」Deepfake換臉即時檢測平台,獲得2022大專校院資訊應用服務創新競賽資安組第二名。 圖/研究團隊提供

註一:深偽技術( Deepfake)指以人工智慧深度學習的技術,合成某個不一定存在的人的影像甚至聲音,並疊加至目標圖像或影片上,偽造出可以假亂真的影片。

當今深偽技術發展快速,線上有許多免費的換臉程式遭到濫用,進而出現大量的偽造影片。根據Sensity資料顯示,2018年12月起偽造影片的數量每六個月就增加一倍,引發不少社會事件,如冒充名人進行詐騙。團隊成員朱哲弘說明,「最初是因小玉Deepfake換臉A片事件而引發我們做現在的檢測系統。」

團隊使用1萬3000張圖片訓練模型,並以手動標記資料,選取出理想的人臉範圍。朱哲弘表示,為求準確,「我們很多都是一張一張去標記的。」接著,再透過讓AI學習人臉特徵,分辦有無使用深偽技術。系統除了可偵測常見的照片及影片外,團隊更因應線上化的趨勢,新增即時通訊也能使用的檢測功能。使用者只需將線上會議視窗名稱輸入至系統中,網站即會將資料傳送至後端已訓練好的模型進行分析,此功能亦適用於大部份的即時通訊軟體。

使用者可以在換臉即時檢測平台上傳靜態圖片,偵測是否有使用深偽技術的可能性。 圖/研究團隊提供

團隊成員高語澤提及,現今其實有更準確的演算法訓練方式,不過視訊相較於一般辨識更講求速度,因此團隊選擇YOLOv5(註二)演算法。指導老師長庚大學資訊管理學系副教授陳宜惠也認同地表示,除了準確度,保持通話品質同樣重要,「如果有延遲是不可以接受的,要讓使用者是無感才可以。」此外,團隊也坦言,雖然系統已滿足大部份需求,不過仍舊存在不足,「現在系統只能在電腦網頁使用,如果推出手機程式,視窗可能就會跳掉而無法偵測,加上現在系統可能被鏡頭的髒污或有些人使用濾鏡都會造成誤判。」

使用者只需在換臉即時檢測平台上輸入網絡影片的ID,即可偵測每影格的畫面是否有使用深偽技術。 圖/研究團隊提供

註二:YOLOv5為物件偵測的類神經網路演算法,可在圖片中找到特定的物件。而V5版本準確度稍遜於現今最新的V7版本,但有更高的靈活度和速度,更適合用於即時通訊上的偵測。

目前系統可做到約85%的準確率,但深偽技術發展快速,偽造的影片只會越來越精緻以致更難識別。國立成功大學數據科學研究所助理教授許志仲表示,目前所有的偽造方法,通常依然強過於偵測方法,此系統的功能僅限於常見且品質較差的換臉技術,但我認為越來越多人開發,會在意識層面上,降低製作偽造的(影片)比例。」他也建議,系統可加入使用者端的回饋機制,使系統更加完善。