面對AI假訊息挑戰專家籲工具與人協作的重要性｜2024調查報導與事實查核工作坊

2024-07-27

記者陳培煌／報導

2024調查報導與事實查核工作坊7月27-28日在台北舉行，第一天議程為AI選舉假訊息，第二天聚焦在社群平台網紅現象與查核實作課程。首場活動在專家學者與查核組織就台美選舉年AI假訊息討論揭開序幕。

面對現今AI生成圖片與深偽影像的挑戰，AI檢測工具是否百分之百可信？AI專家許志仲建議，AI工具必須與人共同合作，才能相輔相成。查核工作者陳培煌說，不應全然信賴或完全不信任AI工具，但AI初步檢驗能縮短查證時間，讓查核員有更多餘力找尋破解假訊息的關鍵證據。

圖1：成功大學數據科學研究所副教授許志仲（攝影蔡東棧）

工作坊第一場活動「人工智慧浪潮下選舉年的真假訊息攻防」，邀請成功大學數據科學研究所副教授許志仲、中興大學國際政治研究所教授廖舜右、亞洲事實查核實驗室主任李志德、台灣事實查核中心副主編陳培煌，共同參與討論。

圖2：2024調查報導與事實查核工作坊活動，前排左起為台灣人工智慧實驗室內容執行長黃兆徽、成功大學數據科學研究所副教授許志仲、卓越新聞獎基金會董事長蘇正平、台灣事實查核中心董事兼執行長邱家宜、中興大學國際政治研究所教授廖舜右、亞洲事實查核實驗室主任李志德、台灣事實查核中心副主編陳培煌（攝影蔡東棧）

台灣大選假訊息，AI偵測難以辨識

李志德以一則在網路流傳的「傳賴清德批蔡英文」假音檔為例，透過AI偵測平台驗證音檔，發現該錄音沒有明顯剪輯痕跡，且聲紋比對的模型和賴清德高度相似。

「不過，這不能代表這段音檔就是真的」，李志德團隊溯源找到傳言音檔來自中國社群平台某一帳號，該帳號過往就曾發布過不實訊息。

此外，音檔出現使用麥克風才會有的爆音狀況，以及疑似賴的講話聲音卻沒有停頓或喘氣的不正常現象。種種跡象均顯示，整段音檔極可能是透過AI工具變造生成。

圖3：亞洲事實查核實驗室主任李志德（攝影蔡東棧）

陳培煌說，在2024台灣總統大選前，一段賴清德讚揚「藍白合」假影像，以AI工具檢測顯示無法辨識，但透過影像截圖反搜，可以找到原始賴的受訪畫面，內容與傳言完全相反。

陳培煌指出，事後透過專家協助解析，發現傳言影像是以賴真實受訪畫面為基礎，再透過AI技術合成假聲音。「查核組織目前面臨一個很大的挑戰，在於AI工具偵測有時給出的答案是模稜兩可。」

這類變造技術同樣出現在台灣大選投票日當天，事實查核中心查證一則影片，內容聲稱美國議員力挺賴蕭配，實際上，傳言影片是截取該議員2022年受訪談美國疫情、烏俄戰爭的畫面，透過AI技術，變造畫面中議員的嘴型與聲音。

圖4：台灣事實查核中心副主編陳培煌（攝影蔡東棧）

廖舜右表示，今年有多達76個國家地區在進行選舉，除年初剛完成的台灣大選，11月還有全球最大經濟體、最具影響力的國家，美國，即將進行大選。對於美國這類言論自由更為開放國家，假訊息就會更多，因此可以說美國是假訊息的大本營。

在網路、演算法與AI技術的發展之下，假訊息在美國蓬勃發展。一張《美聯社》記者拍攝川普遭槍擊後被特勤人員圍住的新聞照片，在網路卻出現變造畫面，顯示川普身旁的特勤人員竟然在竊笑。

廖舜右說，包括之前流傳過的一段拜登與賀錦麗跳舞影像，以及美國前國務卿希拉蕊與蓋達組織前首腦賓拉登的假合照，這些在網路流傳的AI不實資訊，一而再再而三的激化美國社會與選舉時的左、右對決。

此外，廖舜右指出，自媒體如雨後春筍般出現，大量訊息產出，更讓傳統的媒體機構角色消失，這些都導致一般民眾更難以對網路訊息辨別真偽。

圖5：中興大學國際政治研究所教授廖舜右（攝影蔡東棧）

「人的判斷力不會比AI還要差」，許志仲表示，面對AI偽造畫面的技術越來越精進，甚至有偽造影片透過降低畫質方式，刻意讓AI偵測工具難以辨識。因此，他認為人應要該要與AI工具相互合作，透過「人機互動」相輔相成。

許志仲說，目前免費的AI偵測工具，都沒有提供詳細的分析報告，導致「AI判斷AI」的窘境，畢竟一般民眾不清楚AI檢驗過程中的「黑盒子」內容是什麼。因此，如果可以提供解讀報告，就可以節省很多搜索查證時間，在資訊越多的情況，對判斷就會越有幫助。

大多數假訊息都是經由社群平台進行傳散。許志仲認為，對於假訊息的管制應該從兩方面著手，一是教育，二是立法，才能確保訊息的真實性。

不過，廖舜右指出，社群平台多元化加上演算法，導致最大的受害者就是第四權，媒體。從前新聞媒體會在言論自由與誠信原則之間可以找到平衡點，現在則是以點閱率為優先。對於是否要透過立法限制？他認為，可能會有限制言論自由的問題，對此持保留態度。

李志德表示，歐盟與美國在與社群平台協商時，會有更多手段與機制可以讓平台妥協，相較之下，台灣政府可以著力的點就會比較少。

陳培煌說，以事實查核中心平常的工作過程，可以觀察到許多詐騙訊息是透過平台的廣告形式出現。因此，不管是哪一個平台，應該要為其平台上出現的訊息，付出更多的責任與義務。