AI 發展愈來愈快速，在假訊息領域，Deepfake 已經是個被提出多年的流行語（buzzword），READr 從全球的事實查核報告蒐集超過百則 Deepfake 假訊息的足跡，探究它的發展及帶來的影響——即使我們訪問到的事實查核專家都認為，現今人們對它的恐懼遠大過於其帶來的實際影響，不過他們也承認，Deepfake 的發展不容小覷。
AI 會造福人類社會，也會帶來危害，哪個面向會有更大的影響力仍是未知，但 Deepfake 這個名詞的起源就註定了它惡意的本質——來自 2017 年，一位以 Deepfakes 為名的使用者，在國外著名論壇 Reddit 上創造了同名的子討論版。正如其名，Deepfakes 是以「深度學習」（Deep learning）來造假（fake），這個論壇是用來張貼以深度學習技術做出來的女明星色情片。
「深度學習」是指從大量資料中學習——以女明星色情片為例，透過該女明星大量的影片、照片，學習女明星各個角度的臉部特徵，再重現在一個現有的色情片上，只是色情片女主角的臉被換成了該名女星。因此，只要有愈大量的影音素材，「換臉」就會愈逼真。
Deepfake 後來便用來指涉這些以 AI 生成的合成內容。《深度造假》的作者敘克（Nina Schick）在書中寫道，這類內容有三項重要特徵：第一、品質，人工智慧創造的影音效果，即將超越過去任何電腦特效公司的作品；第二、普及，隨著科技進步、應用程式和電腦軟體容易取得，愈來愈多人得以使用相關技術；第三、成本，由於科技進步，製作合成媒體的成本愈來愈低廉，甚至不必花錢。而上述發展已經蔚為趨勢。
根據各國事實查核中心網站上的文章，跟「Deepfake」相關的文章始於 2018 年，這些文章大多是評論技術發展、或如何辨識 Deepfake 假影片的方法。下一波高峰出現在俄烏戰爭、及生成式 AI 的發展。
而若將範圍限縮至實際的 Deepfake 事件，發現早期實際使用 Deepfake 技術製作的假訊息數量不多，反而有大量關注或憂慮此技術的文章。
Deepfake 早期用於宣傳、創意用途
在所有的 Deepfake 假訊息中，「作者有聲明是假的」 類型的 Deepfake 影片佔了一定比例，且集中在早期，這類的假訊息在發佈的時候就告知讀者這是假影片。
「川普總統完全是個白痴。」美國前總統歐巴馬的語出驚人吸引了百萬人觀看，但這個影片是美國媒體《Buzzfeed》和知名影星皮爾（Jordan Peele）製作的，目的是以這樣逼真的影片提醒大眾 Deepfake 影片的危害。
「想像一下，一個人可以完全控制數十億人的資料、他們的秘密、他們的生活、他們的未來。」一群藝術家於 2019 年讓 Meta 創始人祖克柏（Mark Zuckerberg）在影片中這樣說。
藝術家們的目的是要控訴 Facebook 不願下架被刻意操弄的影片——美國眾議院議員裴洛西（Nancy Pelosi）速度被刻意放慢的演說，來暗示裴洛西精神狀態不佳，說話含糊不清（但此影片只是調整速度，並非 Deepfake）。藝術家以逼真的 Deepfake 影片回擊，示範造假影片攻擊是多麽容易的事情。
2021 年，好萊塢巨星湯姆克魯斯（Tom Cruise）打高爾夫球的影片在社群平台上出現，並帶著 Tiktok 的浮水印，逼真的內容讓很多人想知道湯姆克魯斯是不是真的加入了 Tiktok。
事實上，Tiktok 浮水印下方的小字——那代表影片的原作者——顯露了一些端倪：@deeptomcruise，帳號的簡介連結到一家 AI 影像公司。
這些看似無害、立意良善的 Deepfake 有個問題：即便原作者已經說它是假的，但讀者不一定會接收到完整的資訊。西班牙事實查核組織 Maldita.es 查核編輯麥凱勒（Andrés Jiménez MacKellar）提到，「雖然那些創建圖像的人在 Twitter 上公開承認是用 AI 做的，但如果它們開始在 WhatsApp 等其他平台上傳播，那麼背景資訊就會丟失。」
顯著的例子才剛出現。
美國總統川普被起訴後，一張張川普在大街上抗拒被逮捕的照片在社群網站上被瀏覽了將近 500 萬次，而這些照片的作者開源調查網站 Bellingcat 的創辦人希金斯（Eliot Higgins）辯稱，「我只是在鬧著玩，」他接受華盛頓郵報的採訪時說，「我以為只有 5 個人會轉發它。」
又或者是 2020 年美國大選前夕，無黨派反腐敗組織 RepresentUs 製作了一則 Deepfake 影片，讓俄羅斯總統普丁、北韓領導人金正恩——這兩位常常被攻擊「干預美國民主」的獨裁者——說不需要他們出手干預民主，「你們（如果不投票）自己就能做到」，目的是為了呼籲大家去投票。
該影片的最後出現「影片不是真實的，但威脅是真實的」的相關字幕，但 2023 年，這支影片重新在社群媒體上傳播，最後的「造假聲明」字幕卻被拿掉了。
看更多政治人物被攻擊、影響選舉的 Deepfake 假訊息：以假亂真的 Deepfake 事件簿：拜登、湯姆克魯斯都曾是主角？連戰爭、選舉訊息都不放過