從迷因到助選 AI生成影像攪動2024美國大選
從迷因到助選 AI生成影像攪動2024美國大選
記者/邱劭安;責任編輯/陳偉婷
2024年為全球選舉年,國際都在關注AI科技可能為選情或假訊息防制帶來衝擊。美國將在11月5日迎來總統選舉,傳言已經在網路世界遍地開花,不管是民主黨候選人賀錦麗或共和黨候選人川普,都有AI影像擾亂大眾視聽。
根據查核中心的觀察,這些選舉AI假訊息的流傳路徑,多先在英文社群熱傳,經翻譯成中文後,流傳到華語世界。進一步分析,這些AI生成影像可以分為四種類型,分別為「哏圖迷因」、「惡意攻擊」、「新型助選員」與「真實影像被當成AI」。
AI訊息識讀是當代不可或缺的資訊能力,AI專家說,除了靠AI偵測工具檢測外,「人的判斷力不會比AI還要差」,可肉眼辨別影像的不合理處,達成「人機協作」;並提醒「查證心法」,對可疑傳言先暫停、仔細檢視,對抗AI生成影像帶來的負面影響。
類型一:生成迷因、哏圖吸睛
案例一:川普與賀錦麗沙灘漫步?
社群平台X8月流傳一段約18秒的影片,共有四個片段,分別是川普和賀錦麗在沙灘牽手散步;兩人在眾人的注視下接吻;川普摸了挺著孕肚的賀錦麗;賀錦麗手抱著長相與川普相似的嬰兒。
圖1:網傳「川普與賀錦麗懷孕」影片 翻攝自/社群平台X
此類「搞笑」影片並不難破解,除了有違政治常識,檢視網傳影片,也可輕易發現多處破綻。如:兩人牽手的手指扭曲、賀錦麗擁抱川普時,右手的中指忽然消失、川普的手指上與畫面中賀錦麗的指甲油相同等。
圖2:網傳「川普與賀錦麗懷孕」影片的不合理之處 製圖/台灣事實查核中心
類型二:生成不實影像,成為抹黑工具
案例一:川普遇刺前稱讚華為與中國,難怪會被刺殺?
川普7月13日在賓州造勢時遭槍擊,網路流傳一段川普受訪影片,宣稱「川普遇刺前3天受訪稱讚華為」,但影片可見川普和主持人嘴形明顯不自然。經查,影片挪用2023年川普的專訪畫面並深偽變造(DeepFake),並非真實的訪談內容。美國主流媒體也沒有川普受訪稱讚華為的報導。
圖3:網傳影片「川普遇刺前3天受訪稱讚華為」
案例二:賀錦麗與性犯罪者合影?
網路流傳一張賀錦麗與已故的性犯罪富豪艾普斯坦合照。查核中心在編號3194報告,查證此張照片為AI生成的圖片,並非真實照片。
圖4:網傳圖片「賀錦麗與性犯罪者合影」 翻攝自/社群平台X
類型三:虛構的「助選」影像
案例一:泰勒絲要你投票給川普?
近期川普在自創的社群平台TrueSocial發出多張圖片,聲稱泰勒絲粉絲要投票給自己,試圖營造有眾多泰勒絲紛絲支持的印象。
根據查核中心查證,並利用AI圖片檢測工具測試,這些名為「Swifties For Trump(泰勒絲粉絲支持川普)」的圖片多數為AI生成圖片,並非真實影像。
截至目前為止,泰勒絲並沒有對2024年美國總統大選表態,也無表示要支持川普。
圖5-6:川普轉發其他支持者使用AI生成影像發文稱泰勒絲粉絲支持他。不過,右上與右下的第2張圖片為真實照片 翻攝自/社群平台Ture Social
案例二:川普與黑人女性的合照?
7月31日《CBS NEWS》、《BBC》、《PBS》報導,川普質疑賀錦麗因參選2024年總統,將其族裔由印度裔轉變成非洲裔,引發討論。隨後網路流傳一張川普與黑人女性合照圖片,反諷賀錦麗身邊的人,意圖增加川普在有色族裔支持問題。
仔細觀察這張圖片,可以看到「女子手指扭曲」、「川普手指斷裂分岔」、「女子雙眼眼珠大小不同」等多處破綻,判斷是由AI所生成,並非真實影像。
此外,還有其他川普與黑人族群的合照在網路流傳,亦為AI生成圖片。
圖7:網傳照片「川普與黑人女性的合照」 翻攝自/社群平台X
圖8:網傳照片「川普與黑人族群的合照」製圖/台灣事實查核中心
類型四:真實影像被說為AI造假
案例一:賀錦麗團隊用AI造假集會人潮?
賀錦麗於8月5日正式獲民主黨提名成為總統候選人,並展開競選造勢活動,她8月7日與副手華茲抵達底特律時有大批支持者接機;但川普在TrueSocial帳號發文稱「看!我們抓到他跟假人群合照。沒有人在那」,隨即被支持者轉發,並開始稱該張圖片不是真實照片,而是AI生成圖片。
透過以圖反搜就可在《歐新社》圖庫找到原圖,並非AI生成圖片。且其他在場媒體《PBS》、《FOX NEWS》、《路透社》等,都可看到造勢活動照片。
圖9-10:網傳圖片「賀錦麗團隊使用AI造假集會人潮」翻攝自/社群平台X
重點觀察:候選人與社群名人用AI影像造謠 引起國際關注
8月12日特斯拉創辦人、社群平台X擁有者馬斯克宣布將在X與川普一同進行語音直播後,川普重返X,開始發布選舉相關貼文,引起外媒關注。更令人矚目的是,兩人的貼文時常發布AI生成影像、可能誤導大眾。
外媒發現,川普與馬斯克會透過AI生成具有「迷因」性質的影像。例如:川普曾發布一段「川普與馬斯克跳舞」影片,雖容易被識破,但仍可能會影響到部分群眾。
圖11:馬斯克與川普跳舞影片 翻攝自/社群平台X
川普和馬斯克的貼文也暗藏惡意攻擊。美國《Politico》英國《獨立報》觀察到,在民主黨全代會開會前夕,川普發了一張賀錦麗在芝加哥民主黨代表大會的AI生成影像。大會中的螢幕顯示象徵共產黨的「錘子」與「鐮刀」,試圖影射賀錦麗和民主黨可能與共產黨有關。
圖12:川普利用AI生成圖片發文稱賀錦麗可能與共產黨有關 翻攝自/社群平台X
當賀錦麗8月5日被正式提名為民主黨總統候選人,馬斯克則分享一段約2分分鐘、宣稱是賀錦麗的官方競選影片,影片中賀錦麗自稱「被選為總統候選人是因為有色人種,如果批評我,你就是種族歧視、性別歧視」。
查核中心在編號3174報告查證,確認網傳影片為戲仿影片,聲音是透過AI生成,影片也非由民主黨、賀錦麗官方發布。
圖13:網傳賀錦麗影片實為戲仿,並非賀錦麗官方宣傳 製圖/台灣事實查核中心
面對AI生成內容:專家建議「人機合作」、「運用查證心法」
隨著技術發展與進步,AI生成的門檻越來越低,輸出成品的品質也越來越高、瑕疵越來越不明顯。若未能辨別出遭到變造影響,恐影響到社會發展。
查核中心在7月底舉辦2024年台北工作坊,邀請多位專家分享AI對選舉的影響與看法。
AI專家、成功大學數據科學研究所副教授許志仲就指出,「人的判斷力不會比AI還要差」,有的偽造影片會以降低畫質的方式刻意讓AI偵測工具難以辨識。他認為人應該要與AI工具相互合作,透過「人機互動」相輔相成,來破解偽造影片。
針對破解變造影片的三大心法,查核中心曾在專文中採訪陽明交通大學電機工程學系副教授游家牧。游家牧提醒,面對變造影片,建議民眾可以運用3個簡單的查證心法:
- 確認影片有沒有不自然的模糊,聲音有沒有不自然的怪聲
- 確認影片的來源,徵信出處是否為可靠、可信的消息來源
- 影片內容不符合一般常識,就有必要進行查證