跳到主要內容

新聞期別 :

關鍵字搜尋 :

「護聲符」識別語音真偽 盼降低合成音訊詐騙風險
新知
第1801期
「護聲符」識別語音真偽 盼降低合成音訊詐騙風險
2024-11-29
【記者林偌甯報導】 隨著深度偽造(Deepfake)迅速發展,詐騙集團利用合成聲音詐財的案例層出不窮。針對此問題,國立臺灣科技大學資訊管理系助理教授黃政嘉指導學生王玟雅、蔡婷玗、陳俞縕、毛世鑫,開發「應用音訊浮水印於對抗式攻擊與深度學習之數位護聲符系統」,並榮獲「2024第29屆大專校院資訊應用服務創新競賽」資安應用組第二名、資訊應用組第三名。 根據全球防詐聯盟GASA(Global Anti-Scam Alliance, GASA)統計,2023年國人透過簡訊、電話接觸詐騙的機率分別高達56%與54%。王玟雅表示,AI語音合成技術已對民眾造成困擾,詐騙者僅需將音檔上傳至合成平台即可偽造聲音,而現有的聲音防偽工具無法滿足即時辨別真偽需求。為填補技術缺口,團隊開發此系統,王玟雅說:「目前尚無APP能即時偵測,護聲符兼具語音辨識與防護,讓使用者能即時檢測聲訊真偽。」軟體用戶可以選擇上傳或錄製一段聲音,軟體便會偵測並分析真假機率。 開發過程中,團隊首先蒐集公開的真人原始語音樣本資料集,經由開源AI合成音訊,再透過偵測模型RawNet2比對原始與合成音訊之間的差異,訓練系統判別真偽。目前軟體辨識真人聲的準確率達99.99%,合成聲則為99.94%。 面對聲音易被盜取、不當利用,黃政嘉說:「我們用對抗式攻擊技術,在極高或極低頻處加入人耳難以察覺的雜訊。」他解釋,這麼做是讓合成平台無法變造聲音,或僅能生成聽覺上不自然的合成音檔。」此外,團隊也在音訊中加入二進制(Binary)標記(註)作為浮水印,可作為辨識來源的依據,進一步保護版權與侵權舉證。 註:二進制標記是把0和1的數位資訊藏在音訊中的技術,用來追蹤來源和保護版權。 軟體目前支援識別音檔與新增浮水印,團隊未來將優化應用場景,盼軟體在使用者通話當下就能辨別真偽。「訓練模型的資料集大多是英文的,蒐集中文語音較困難。」王玟雅表示目前需更多中文資料訓練模型,軟體才更適用於台灣。對此,國立政治大學資訊科學系教授左瑞麟建議,團隊可以透過AI工具從少量的中文樣本延伸出更多聲音資料。
反制換臉技術 假面騎「識」即時偵測防堵詐騙
新知
第1772期
反制換臉技術 假面騎「識」即時偵測防堵詐騙
2022-11-24
【記者張倩怡綜合報導】近年深偽技術(註一)快速發展,為影片中的人換臉已不再是難事,但也導致利用此技術的詐騙案層出不窮。長庚大學資訊管理學系學生團隊開發「假面騎『識』」Deepfake換臉即時檢測平台,除可辨識照片和影片外,更可即時檢測視訊是否有使用深偽技術。此發明獲得2022大專校院資訊應用服務創新競賽資安組第二名。 長庚大學資訊管理學系學生團隊開發「假面騎『識』」Deepfake換臉即時檢測平台,獲得2022大專校院資訊應用服務創新競賽資安組第二名。 圖/研究團隊提供註一:深偽技術( Deepfake)指以人工智慧深度學習的技術,合成某個不一定存在的人的影像甚至聲音,並疊加至目標圖像或影片上,偽造出可以假亂真的影片。當今深偽技術發展快速,線上有許多免費的換臉程式遭到濫用,進而出現大量的偽造影片。根據Sensity資料顯示,2018年12月起偽造影片的數量每六個月就增加一倍,引發不少社會事件,如冒充名人進行詐騙。團隊成員朱哲弘說明,「最初是因小玉Deepfake換臉A片事件而引發我們做現在的檢測系統。」團隊使用1萬3000張圖片訓練模型,並以手動標記資料,選取出理想的人臉範圍。朱哲弘表示,為求準確,「我們很多都是一張一張去標記的。」接著,再透過讓AI學習人臉特徵,分辦有無使用深偽技術。系統除了可偵測常見的照片及影片外,團隊更因應線上化的趨勢,新增即時通訊也能使用的檢測功能。使用者只需將線上會議視窗名稱輸入至系統中,網站即會將資料傳送至後端已訓練好的模型進行分析,此功能亦適用於大部份的即時通訊軟體。 使用者可以在換臉即時檢測平台上傳靜態圖片,偵測是否有使用深偽技術的可能性。 圖/研究團隊提供團隊成員高語澤提及,現今其實有更準確的演算法訓練方式,不過視訊相較於一般辨識更講求速度,因此團隊選擇YOLOv5(註二)演算法。指導老師長庚大學資訊管理學系副教授陳宜惠也認同地表示,除了準確度,保持通話品質同樣重要,「如果有延遲是不可以接受的,要讓使用者是無感才可以。」此外,團隊也坦言,雖然系統已滿足大部份需求,不過仍舊存在不足,「現在系統只能在電腦網頁使用,如果推出手機程式,視窗可能就會跳掉而無法偵測,加上現在系統可能被鏡頭的髒污或有些人使用濾鏡都會造成誤判。」 使用者只需在換臉即時檢測平台上輸入網絡影片的ID,即可偵測每影格的畫面是否有使用深偽技術。 圖/研究團隊提供註二:YOLOv5為物件偵測的類神經網路演算法,可在圖片中找到特定的物件。而V5版本準確度稍遜於現今最新的V7版本,但有更高的靈活度和速度,更適合用於即時通訊上的偵測。目前系統可做到約85%的準確率,但深偽技術發展快速,偽造的影片只會越來越精緻以致更難識別。國立成功大學數據科學研究所助理教授許志仲表示,目前所有的偽造方法,通常依然強過於偵測方法,「此系統的功能僅限於常見且品質較差的換臉技術,但我認為越來越多人開發,會在意識層面上,降低製作偽造的(影片)比例。」他也建議,系統可加入使用者端的回饋機制,使系統更加完善。
網購慎詐騙 「一頁商店」臉書肆虐
新知
第1663期
網購慎詐騙 「一頁商店」臉書肆虐
2017-11-01
【記者徐安萱綜合報導】台灣人瘋網購!據尼爾森媒體研究調查結果顯示,全台網購人口多達586萬,卻也使網購詐騙隨之猖獗。「一頁商店」便是一種新興的詐騙手法。據本報333份有效網路問卷調查結果中,僅有近10%的學生了解什麼是「一頁商店」,更有15%學生不知道曾使用的網站是一頁商店。 一頁商店示意圖,業者常以「限時優惠」的倒數計時器刺激消費者衝動購物。 圖/取自網路一頁商店是一種新型態網購模式,以臉書(Facebook)廣告作為主要曝光管道,將一般網購商店的功能精簡呈現於單一頁面,對消費者來說操作介面簡單瀏覽,利用手機或平板等行動載具下訂單,也比一般網購商店更加快速方便。 業者常以「限時優惠」的倒數計時器刺激消費者衝動購物,並用「七天鑑賞期」的條件獲取消費者信賴。然而單一頁面經常缺乏廠商與商品來源等資訊,因此有不肖人士利用此特性,使用假的聯絡資訊及帳號販賣假貨、二手貨,甚至有受害者拆開包裹後發現沒有商品,只有垃圾或舊報紙,聯絡不上業者才發現受騙上當、求償無門。 業者雖標榜「七天鑑賞期」,卻不提供消費者拆封試用。圖/取自網路問卷結果顯示,15%學生曾有一頁商店購物經驗,當中有高達50%的人在一頁商店有過不愉快購物體驗。其中以無法退換貨、買到假貨、沒有商品與賣家明細,及實體不符合期待等原因為大宗。國立政治大學風險管理與保險學系學生蘇雉微表示,收到的商品有些許瑕疵,賣家卻不願退換貨。政大日本語文學系學生范聖暄也說:「收到實品的落差感很大。」 另外,一頁商店亦常利用貨到付款模式,讓消費者認為簽收商品後再付款,不必擔心商品送錯或遲遲未送達。然而,貨到付款並不保證商品的品質。據中華民國消費者文教基金會資料統計,今年三個月內就有2000件以上的貨到付款網購糾紛,受害者不僅聯絡不上賣家,更無法在貨運單據上找到寄件人資料,宅配業者也不願意提供寄方資料,消費者求償無門只好認賠。消基會也建議消費者與業者使用第三方支付,較能有效避免消費糾紛。
置頂