Meta表示,當其系統懷疑某廣告可能為詐騙時,將比較廣告中的圖片與該名人的Facebook和Instagram個人資料照片。如果確認為詐騙廣告,將立即將其刪除。該公司計畫在12月啟動一項試驗計劃,將有5萬名公眾人物參與,並可選擇退出此計畫。
Meta的全球威脅干預主管David Agranovich表示,辨識系統的速度比人工審查更快且更準確,使得公司能更迅速地執行政策,保護用戶免受詐騙侵害。
除了打擊詐騙廣告外,Meta還將利用相同的臉部識別技術幫助被騙的用戶恢復帳號。用戶在無法訪問帳號時,可以上傳一段自拍影片,系統將其與帳號中的照片進行比對,以確認身份。Meta強調,無論是否匹配,所有生成的臉部數據都會在比對後立即刪除,並不會用於其他用途。
Meta曾因隱私問題在2021年停止使用臉部識別技術,儘管如此,Agranovich重申,該技術生成的臉部數據會在比對後立即刪除,並不會用於其他目的。近年來,Meta面臨來自政治人物和監管機構的壓力,要求其解決名人深偽影像所引發的詐騙問題。
Agranovich指出,臉部識別工具是公司用來檢測詐騙的多種手段之一,但他承認仍有一些詐騙可能逃脫檢測。他表示:「這是一個數字遊戲,儘管我們有自動檢測系統能夠在廣告發布前或後迅速刪除大量違規廣告,但詐騙網絡仍然會不斷嘗試新的手段,有時確實會有些漏網之魚。」他補充道:「即使這些措施成功,詐騙者可能會轉向其他策略。我們知道,必須不斷改進並建立新工具,以應對他們的下一步行動。」