🎧AI能寫程式、讀財報、做PPT，如何在時代洪流中不被取代？台科大資工系教授花凱龍：不要輕易說NO，養成「成長型思維」

2024-10-23

圖說：台科大資工系教授花凱龍接受國立教育廣播電台節目及Podcast節目《新聞真假掰》主持人黃兆徽專訪。

大型語言模型（LLM）至今為人類帶來諸多助益，但其成本高昂，且常出現「問A答B」的AI幻覺問題也讓人擔憂。為解決這些困難，科技巨頭們開始研發小型語言模型（SLM），希望以低成本且更高效的方式應對現有挑戰。SLM究竟是什麼？它有哪些優缺點？AI在科技業，尤其是工程師的工作中扮演何種角色？台科大資工系教授花凱龍接受國立教育廣播電台節目及Podcast節目《新聞真假掰》主持人黃兆徽專訪，深入剖析了SLM的應用價值，並指出SLM能解答相對簡單的問題，且提供更精確的回應。

電腦變身AI助手：小型語言模型成為低成本、高資安的好選擇

花凱龍解釋，SLM與LLM之間是一種取捨：模型規模愈大，能處理的問題愈複雜，但成本也隨之提升。「很多應用場景其實相對簡單，並不需要如此龐大的模型。」只要以適當的資料訓練SLM，並將問題定義明確，它的表現也會非常出色。

不過，由於SLM的模型規模較小，花凱龍強調，若訓練資料出現錯誤，對模型的影響將尤為顯著；在應用上，SLM能處理的問題範圍較狹窄。「如果訓練的模型是一位數學家，但突然被問到物理問題，那麼回答的錯誤率會大幅提升，甚至會讓人質疑為什麼這麼簡單的問題都回答不出來？」

SLM的另一大優勢是其靈活性，它能夠內置於電腦中，滿足製造、金融、醫療等產業對資料安全和傳輸的高要求，並有效防範資料外洩。「SLM可以放在封閉系統中，不需要連接到雲端，確保所有資料都在受控環境中運作。」

針對AI幻覺的問題，花凱龍提到目前已有檢索增強生成（RAG）技術，可以讓語言模型只從用戶指定的資料庫中尋找答案，若找不到相關資料便不作答，從而避免AI胡亂回應的情況。花凱龍服務的公司推出普羅米修斯計畫（Prometheus），則是將GPT與網路搜尋功能結合，透過網絡資料提供更完整的解答，解決資料庫未涵蓋特定知識的問題。

Copilot提升工作效率：程式開發效能增長四成

科技業如此大力推動AI工具，那內部使用情況如何呢？花凱龍透露，內部花了一年時間，將所有產品線都加入AI工具「Copilot」，其中針對程式撰寫的GitHub Copilot深受工程師喜愛，並已融入日常工作流程。根據分析，GitHub Copilot的使用不僅普及，更讓工作效能提高了四成。花凱龍舉例，以往工程師之間交接工作時，要理解他人的程式碼並不容易，但GitHub Copilot能提供詳細註解，幫助理解；遇到程式錯誤時，它也能快速檢測並修正問題。

此外，Copilot還能自動總結會議內容，並根據用戶需求提供重點摘要。「比如，你是資訊處的同仁，沒參加會議時可快速查閱摘要，並透過Copilot了解資訊處處長的發言重點。」花凱龍補充，Copilot還能協助分析財報及製作簡報，進一步解放員工處理繁瑣工作的時間。

花凱龍強調，不僅鼓勵員工使用AI工具來提升工作效能，更希望員工能藉此發現問題並促進AI的持續優化。在企業文化中，成長型思維尤為重要，勇於挑戰自我，是實現成長的關鍵。「鼓勵大家不要輕易說NO，當面臨一個艱難的任務時，應該思考如何解決：解決方案是什麼？需要什麼資源？在這個過程中，大家的能力自然會提升。所以，不要一開始就拒絕挑戰。」

【新聞真假掰｜假訊息ByeBye！】由台灣事實查核教育基金會董事黃兆徽主持。節目中邀請各行各業的朋友暢談媒體議題，為聽眾提升媒體素養、增強對假訊息的抵抗力，希望達成「群體免疫」，讓大家都和假訊息說掰掰！

更多精彩內容請搜尋「新聞真假掰」，或上各大Podcast平台收聽，YouTube頻道則有訪談精華影片陸續上架。除了適合大眾收聽收看，也推薦各級學校老師在規劃媒體素養課程時可列入影音輔助教材。（撰文：紀泰永、張育騰）

【立即收聽】新聞真假掰 — 假訊息 Bye Bye｜EP162｜

Apple：https://tfc.pse.is/6lfsm9

Firstory：https://tfc.pse.is/6lfshz

Spotify：https://tfc.pse.is/6lfskh

KKbox：https://tfc.pse.is/6lfsnw

【非聽不可的相關訪談】

台積電歐洲廠動土！AI時代是台灣的大好機會？

從智慧財產權到個資保護，AI時代的法律挑戰與機遇

【喜歡這集嗎？想對主持人或來賓提問嗎？】

🌟評分、留言這裡走｜https://pse.is/4p9wyd