【謠言風向球】從迷因到助選 AI生成影像攪動2024美國大選
【謠言風向球】從迷因到助選 AI生成影像攪動2024美國大選
記者／邱劭安；責任編輯／陳偉婷
2024年為全球選舉年，國際都在關注AI科技可能為選情或假訊息防制帶來衝擊。美國將在11月5日迎來總統選舉，傳言已經在網路世界遍地開花，不管是民主黨候選人賀錦麗或共和黨候選人川普，都有AI影像擾亂大眾視聽。
根據查核中心的觀察，這些選舉AI假訊息的流傳路徑，多先在英文社群熱傳，經翻譯成中文後，流傳到華語世界。進一步分析，這些AI生成影像可以分為四種類型，分別為「哏圖迷因」、「惡意攻擊」、「新型助選員」與「真實影像被當成AI」。
AI訊息識讀是當代不可或缺的資訊能力，AI專家說，除了靠AI偵測工具檢測外，「人的判斷力不會比AI還要差」，可肉眼辨別影像的不合理處，達成「人機協作」；並提醒「查證心法」，對可疑傳言先暫停、仔細檢視，對抗AI生成影像帶來的負面影響。
類型一：生成迷因、哏圖吸睛
案例一：川普與賀錦麗沙灘漫步？
社群平台X8月流傳一段約18秒的影片，共有四個片段，分別是川普和賀錦麗在沙灘牽手散步；兩人在眾人的注視下接吻；川普摸了挺著孕肚的賀錦麗；賀錦麗手抱著長相與川普相似的嬰兒。
圖1：網傳「川普與賀錦麗懷孕」影片 翻攝自／社群平台X
此類「搞笑」影片並不難破解，除了有違政治常識，檢視網傳影片，也可輕易發現多處破綻。如：兩人牽手的手指扭曲、賀錦麗擁抱川普時，右手的中指忽然消失、川普的手指上與畫面中賀錦麗的指甲油相同等。
圖2：網傳「川普與賀錦麗懷孕」影片的不合理之處 製圖／台灣事實查核中心
類型二：生成不實影像，成為抹黑工具
案例一：川普遇刺前稱讚華為與中國，難怪會被刺殺？
川普7月13日在賓州造勢時遭槍擊，網路流傳一段川普受訪影片，宣稱「川普遇刺前3天受訪稱讚華為」，但影片可見川普和主持人嘴形明顯不自然。經查，影片挪用2023年川普的專訪畫面並深偽變造（DeepFake），並非真實的訪談內容。美國主流媒體也沒有川普受訪稱讚華為的報導。
圖3：網傳影片「川普遇刺前3天受訪稱讚華為」
案例二：賀錦麗與性犯罪者合影？
網路流傳一張賀錦麗與已故的性犯罪富豪艾普斯坦合照。查核中心在編號3194報告，查證此張照片為AI生成的圖片，並非真實照片。
圖4：網傳圖片「賀錦麗與性犯罪者合影」 翻攝自／社群平台X
類型三：虛構的「助選」影像
案例一：泰勒絲要你投票給川普？
近期川普在自創的社群平台TrueSocial發出多張圖片，聲稱泰勒絲粉絲要投票給自己，試圖營造有眾多泰勒絲紛絲支持的印象。
根據查核中心查證，並利用AI圖片檢測工具測試，這些名為「Swifties For Trump（泰勒絲粉絲支持川普）」的圖片多數為AI生成圖片，並非真實影像。
截至目前為止，泰勒絲並沒有對2024年美國總統大選表態，也無表示要支持川普。
圖5-6：川普轉發其他支持者使用AI生成影像發文稱泰勒絲粉絲支持他。不過，右上與右下的第2張圖片為真實照片 翻攝自／社群平台Ture Social
案例二：川普與黑人女性的合照？
7月31日《CBS NEWS》、《BBC》、《PBS》報導，川普質疑賀錦麗因參選2024年總統，將其族裔由印度裔轉變成非洲裔，引發討論。隨後網路流傳一張川普與黑人女性合照圖片，反諷賀錦麗身邊的人，意圖增加川普在有色族裔支持問題。
仔細觀察這張圖片，可以看到「女子手指扭曲」、「川普手指斷裂分岔」、「女子雙眼眼珠大小不同」等多處破綻，判斷是由AI所生成，並非真實影像。
此外，還有其他川普與黑人族群的合照在網路流傳，亦為AI生成圖片。
圖7：網傳照片「川普與黑人女性的合照」 翻攝自／社群平台X
圖8：網傳照片「川普與黑人族群的合照」製圖／台灣事實查核中心
類型四：真實影像被說為AI造假
案例一：賀錦麗團隊用AI造假集會人潮？
賀錦麗於8月5日正式獲民主黨提名成為總統候選人，並展開競選造勢活動，她8月7日與副手華茲抵達底特律時有大批支持者接機；但川普在TrueSocial帳號發文稱「看！我們抓到他跟假人群合照。沒有人在那」，隨即被支持者轉發，並開始稱該張圖片不是真實照片，而是AI生成圖片。
透過以圖反搜就可在《歐新社》圖庫找到原圖，並非AI生成圖片。且其他在場媒體《PBS》、《FOX NEWS》、《路透社》等，都可看到造勢活動照片。
圖9-10：網傳圖片「賀錦麗團隊使用AI造假集會人潮」翻攝自／社群平台X
重點觀察：候選人與社群名人用AI影像造謠 引起國際關注
8月12日特斯拉創辦人、社群平台X擁有者馬斯克宣布將在X與川普一同進行語音直播後，川普重返X，開始發布選舉相關貼文，引起外媒關注。更令人矚目的是，兩人的貼文時常發布AI生成影像、可能誤導大眾。
外媒發現，川普與馬斯克會透過AI生成具有「迷因」性質的影像。例如：川普曾發布一段「川普與馬斯克跳舞」影片，雖容易被識破，但仍可能會影響到部分群眾。
圖11：馬斯克與川普跳舞影片 翻攝自／社群平台X
川普和馬斯克的貼文也暗藏惡意攻擊。美國《Politico》英國《獨立報》觀察到，在民主黨全代會開會前夕，川普發了一張賀錦麗在芝加哥民主黨代表大會的AI生成影像。大會中的螢幕顯示象徵共產黨的「錘子」與「鐮刀」，試圖影射賀錦麗和民主黨可能與共產黨有關。
圖12：川普利用AI生成圖片發文稱賀錦麗可能與共產黨有關 翻攝自／社群平台X
當賀錦麗8月5日被正式提名為民主黨總統候選人，馬斯克則分享一段約2分分鐘、宣稱是賀錦麗的官方競選影片，影片中賀錦麗自稱「被選為總統候選人是因為有色人種，如果批評我，你就是種族歧視、性別歧視」。
查核中心在編號3174報告查證，確認網傳影片為戲仿影片，聲音是透過AI生成，影片也非由民主黨、賀錦麗官方發布。
圖13：網傳賀錦麗影片實為戲仿，並非賀錦麗官方宣傳 製圖／台灣事實查核中心
面對AI生成內容：專家建議「人機合作」、「運用查證心法」
隨著技術發展與進步，AI生成的門檻越來越低，輸出成品的品質也越來越高、瑕疵越來越不明顯。若未能辨別出遭到變造影響，恐影響到社會發展。
查核中心在7月底舉辦2024年台北工作坊，邀請多位專家分享AI對選舉的影響與看法。
AI專家、成功大學數據科學研究所副教授許志仲就指出，「人的判斷力不會比AI還要差」，有的偽造影片會以降低畫質的方式刻意讓AI偵測工具難以辨識。他認為人應該要與AI工具相互合作，透過「人機互動」相輔相成，來破解偽造影片。
針對破解變造影片的三大心法，查核中心曾在專文中採訪陽明交通大學電機工程學系副教授游家牧。游家牧提醒，面對變造影片，建議民眾可以運用3個簡單的查證心法：
- 確認影片有沒有不自然的模糊，聲音有沒有不自然的怪聲
- 確認影片的來源，徵信出處是否為可靠、可信的消息來源
- 影片內容不符合一般常識，就有必要進行查證
