📹🎧ChatGPT恐成最大假訊息製造源？人工智慧可能引經據典卻胡說八道，「PTT創世神」杜奕瑾提醒科技倫理風險

2023-02-16

AI聊天機器人ChatGPT近來在全球掀起熱潮，推出短短2個月便吸引上億名用戶，熱度遠超過以往任何網路工具的傳播速度。ChatGPT看似「謙謙有理」、「引經據典」，但它的回答卻可能是錯誤訊息，也可能演變為假訊息的溫床。

「當我們用道德規範限制、訓練聊天機器人，的確他的回答會比較正確。但如果是錯誤或有偏見的回答時，你更不容易發現，因為它騙過我們設置的規範。」台灣人工智慧實驗室創辦人杜奕瑾，日前接受國立教育廣播電台節目及𝙋𝙤𝙙𝙘𝙖𝙨𝙩節目《新聞真假掰》主持人黃兆徽專訪，探討人工智慧對人類生活帶來的變革和潛藏的科技倫理問題。

圖：台灣人工智慧實驗室創辦人杜奕瑾（右）接受國立教育廣播電台節目《新聞真假掰》主持人、台灣事實查核教育基金會顧問黃兆徽（左）專訪

風險》ChatGPT引經據典胡說八道？民眾警覺性應提高

「人工智慧它可能會有錯誤、會有造假、會有偏見。」杜奕瑾過去在微軟做過類似專案，打造聊天機器人Tay，但上線不到一天就緊急下架，因為Tay透過網路搜集資訊，會學習不正確的言論、暴力偏見，甚至是種族歧視。

杜奕瑾表示，即使現在透過設置倫理規範，限制ChatGPT的回答，「如果碰到它沒有學習過的限制，還是會直覺回答，它可以引經據典去回你，但實際上這個內容不是真實的。」目前無法確保ChatGPT生成回答的正確性，呼籲民眾對於AI的回答需要提高警覺。

應用》AI詠唱，成未來職場必備技能

AI可以透過向世界一流人才學習之後，自行生成作品，要超越一般人的創作並非難事。針對人類是否被AI取代的憂心，杜奕瑾認為：「當你會用Google的時候，你就比不會用Google的人強大非常多，同樣的，當你會使用這種生成式工具，你可以利用生成式工具輔導你去寫內容，扶助你去創作劇本，甚至輔導你去做相關的藝術創作、音樂創作。」善用AI，將能夠提升人類創作的豐富性與效率。

杜奕瑾也表示，未來會需要懂「AI詠唱」，知道如何帶領人工智慧去做創作工作的人才。透過人工智慧，不會繪圖、程式語言等專業技能的人，只要學會「和AI對話」也能得心應手。

趨勢》軍備競賽時代來臨，下一步是「做到可信任的演算法」

透過「辨識」、「理解」，一直到「生成」，人工智慧為人類社會帶來創新的發展，但也可能被有心人士利用而產生隱憂。杜奕瑾表示：「在未來，不管是資訊安全、詐騙，或者是認知操作的領域，大家都嚴陣以待。」由於人工智慧會不斷學習，一旦它的辨識能力與人類相同時，就可以再生成新的詐騙訊息。為打擊不實資訊，未來可能演變成「人工智慧對抗人工智慧」的軍備競賽。

杜奕瑾提醒：「未來人工智慧的發展，其實不在於資料量的多寡，不在於運算Power有多少，你要做到可信任的人工智慧演算法（Responsible AI）。」人工智慧演算法的透明度，必須提升「可追蹤、可解釋、可驗證以及可稽查」。

而該如何做到可信任的演算法？杜奕瑾提出「聯邦式學習（Federated Learning）」的解方。「第一件事情要思考人權隱私、資料收集的合法性，第二是演算法是不是可以開放被驗證，確保演算法是沒有偏見的方式。」他分享，台灣人工智慧實驗室在蒐集個人資料，會透過「去中心化」方式，由演算法分析資料與學習，過程中，資料不會離開資料所有權人的手裡。

以疫情期間，民眾所熟知的「社交距離App」為例，該程式透過去中心化方式進行資料分析，所有資料都存在手機裡，利用藍牙訊號記錄隨機ID，做到病毒傳遞分析，此模式能夠防範中心資料庫被有心人攻破，也能保障人權隱私。面對AI浪潮來襲，此實例也在在呼應杜奕瑾強調的：「以人為本」、「可信任」的人工智慧，尤為重要。

【新聞真假掰｜假訊息ByeBye！】由台灣事實查核教育基金會顧問黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題，為聽眾提升媒體素養、增強對假訊息的抵抗力，希望達成「群體免疫」，讓大家都和假訊息說掰掰！

更多精彩內容請搜尋「新聞真假掰」，或上各大 Podcast 平台收聽， YouTube 頻道則有訪談精華影片陸續上架。除了適合大眾收聽收看，也推薦各級學校老師在規劃媒體素養課程時可列入影音輔助教材。（撰文：張家瑜、張育騰）