民主進步黨・臺中市第4選舉區從這段發言整理出的主張
人工智慧應如何依風險分級管理？做生成式AI的風險管控是非常重要的「所以我們怎麼樣去做一個風險管控是非常重要的。」人工智慧應如何依風險分級管理？認為將來的風險管控非常重要，例如AI對人產生的錯誤認知作戰等會滲透政治、經濟、社會、醫藥、常識等各方面「對，所以將來的風險管控非常重要，比如它對人產生錯誤的認知作戰等等，各方面都會滲透，政治、經濟、社會、醫藥、常識等等。」發言紀錄
- 張廖委員萬堅
（9時26分）謝謝主席，請院長。
- 主席
有請院長。
- 廖院長俊智
張廖委員早。
- 張廖委員萬堅
院長早，我想接續剛才講的那個AI語言模型的問題，其實它上線之後，大家去測試都發現了問題，其實發現問題沒關係，我看到那個爆料的人的臉書，底下留言也有講，你如何證明臺灣不是中國的一部分，它一樣會證明。就是我們在輸入、引用裡面的資料時，真的會影響之後的，因為它不斷的在生成新的所謂的智慧。其實裡面有提到一個比較嚴肅的問題，你們是不是要成立生成式AI風險的研究小組，來做風險的管控？就是人工智慧現在剛剛才要發展，它到底會產生什麼樣我不瞭解，像這一次就發生這個問題，那發生問題之後，過去中研院資訊所的經費其實很少，院內跟接國科會的經費很少。
- 廖院長俊智
不是。
- 張廖委員萬堅
不是很少？是這類型的研究？
- 廖院長俊智
這裡面所講的30萬原來不是用在生成式AI的研究，是做明清人物時事地物的判別研究，後來他發現有這個機會可以利用新的技術，他們求快心切，就動用了這30萬經費趕快做個測試，是這樣子。原來的計畫目的不是要做這件事情。
- 張廖委員萬堅
是，那我們中研院裡面，就是你們事後有提到建立生成式AI風險的研究小組，那你們如何成立？
- 廖院長俊智
我們現在正在規劃當中，有很多方式，我們可以對外徵求相關人員，我們也可以找一些人自己組成，但這些事情，我覺得是非常重要，我們會儘快進行。國際上也正在進行這樣子的控管，因為AI對社會的衝擊仍然是一個相當大的未知數，全世界都在學習當中。剛才講到所謂生成式AI，因為它的生成，所以它就必須要做一些沒有人做過的事情，就是大家所謂的幻覺，就是不是基於事實，但是它提出來，這是所謂生成式AI的一個基本功能，也是個基本的問題，所以大家仍然在適應，仍然在學習當中。
- 張廖委員萬堅
其實我們在答詢的時候，曾問過國科會的吳主委，他也提到他們要發展台版的ChatGPT，對不對？
- 廖院長俊智
是，本院也參與……
- 張廖委員萬堅
你們也參與了，尤其是繁體中文的語言資料庫，因為現在世界上通用都是英文，要不然就是簡體中文，繁體中文反而變成臺灣在建立的過程中必須要防止中國偏見的滲透，他特別提到這一點，就是這些會對臺灣的使用者產生認知作戰，所以我們怎麼樣去做一個風險管控是非常重要的。
- 廖院長俊智
委員講得非常好，但除了風險管控之外，我們更要積極的整合全國的力量，建置臺灣繁體中文的詞彙資料庫，這是刻不容緩也需要大力投入的。
- 張廖委員萬堅
他特別提到要融合臺灣的元素，以正體的中文為主，輸入做可信任人工智慧的對話引擎。
- 廖院長俊智
是的。
- 張廖委員萬堅
就是不會讓任何的偏見對我們國人自己的認知產生影響，尤其這個東西不斷在轉換，它的資料的強大或滲透，我想就跟我們現在看到的網路的錯誤訊息一樣，會對人產生洗腦作用，你講的幻覺也有點類似。
- 廖院長俊智
是，就是它不是根據事實來回答，而是根據自己生成的一個概念，就是所謂生成式AI。
- 張廖委員萬堅
對，所以將來的風險管控非常重要，比如它對人產生錯誤的認知作戰等等，各方面都會滲透，政治、經濟、社會、醫藥、常識等等。
- 廖院長俊智
委員講得非常好。
- 張廖委員萬堅
好，那到底中研院對這方面每年編了多少預算來投入？
- 廖院長俊智
這個非常分散，因為資訊所有很多，包括資訊所、統計所各種不同的計畫，我們現在希望做的就是整合很多不同計畫，努力一起來做這件事情，過去都是分散這樣做的。
- 張廖委員萬堅
我想這方面你們跟國科會的配合一定要做好。
- 廖院長俊智
對，這非常好，國科會那個計畫的主要負責人、顧問李育杰博士現在在中研院。
- 張廖委員萬堅
是，你可不可以講一下，怎麼樣成立這個小組、如何運作？
- 李研究員育杰
委員講的是……
- 張廖委員萬堅
避免再發生類似的問題。
- 李研究員育杰
跟委員報告，這個其實從資料的源頭就要處置啦。
- 張廖委員萬堅
對啊！
- 李研究員育杰
國科會這個TAIDE計畫，其實從資料開始，我們就是以國內的一些文本資料，尤其在資料中的一些不當的言詞，我們也會把它濾除。
- 張廖委員萬堅
喔，我們可以濾除。
- 李研究員育杰
我們可以濾除，在技術上做得到。這是第一階段，所謂的Continual Pre-training，第二階段叫Fine-Tune，第三階段有一個叫Reinforcement Learning with Human Feedback，就是要有人為的標註，然後接下來還有一個最近在流行的所謂的憲政AI（Constitutional AI），其實這都是在防止這些不當的結果產生。
- 張廖委員萬堅
所以你認為我們研究員這一次的疏忽只是個人在使用的時候沒有注意到這樣的問題？
- 李研究員育杰
資料的源頭就是他自己去找來的。
- 張廖委員萬堅
自己去找的，結果造成這個……
- 李研究員育杰
是的。
- 張廖委員萬堅
好，謝謝，謝謝你的回答。
院長，有關提高獎助金的事情，我對國科會質詢或對教育部質詢都非常重視，也謝謝院長今年的8月22日發了那個公開信，之後有一些迴響。我們看到在你們的方案裡面提供了很多資料，譬如很多國家對博士生獎助金的提供，今年6月教育部其實也公布了一個方案，現在STEM相關的研究生唸到碩士就不唸了，因為他們出去之後就業大概年薪百萬起薪，所以再請他們再花幾年時間去念博士班，大概意願都不高，我們看到那個統計資料，從101年到100年，這個我問過了，博士班裡面STEM領域的博士生減了26%多，減少的比率固然跟少子化有關，但你看STEM領域占比也減低，博士生占比也減低，減了快一成，然後學生總人數減了12%，但它減了26%，所以這是一個很嚴重的問題。好，那我們看到教育部的方案，是從博一、博二到博三分別是六萬、六萬五到七萬，之後就七萬，當然今年院長非常快，馬上宣布我們就從三萬四變成四萬和五萬，那明年呢？如果明年按照教育部的標準，我知道你們的預算是兩套，你們自己是獨立的，那你們如何能夠跟教育部的方案更接近？我知道他們有跟企業合作。
- 廖院長俊智
對，因為教育部的方案比我們高的部分是跟企業的合作，而且教育部大概沒有辦法照顧到所有博士生，那我們會視國際的環境逐年檢討，不一定是逐年調升，但是我們會隨時注意國際環境，譬如美國在去年底大幅提高，至少某些學校、加州的學校大幅提高博士生的獎學金，結果一下子吸引了很多國際生到美國去，所以我們必須要應付這樣的突發狀況……
- 張廖委員萬堅
我也聽您說了，就是中研院的研究環境事實上有些國際生是有興趣來的……
- 廖院長俊智
是。
- 張廖委員萬堅
但是整個研究環境固然好，它的待遇薪資，還有各方面，是不是能夠有配套……
- 廖院長俊智
是。
- 張廖委員萬堅
你看像教育部公布的方案裡面，它分2個，我不一定認同它所有的方案，像產學合作型，博一到博三可以6萬、6萬5到7萬，所謂學術發展型，大概非STEM的那個部分，他們給3萬、3萬5到4萬，其實是比你們少的……
- 廖院長俊智
對。
- 張廖委員萬堅
這個部分其實也有學者專家認為是不妥。
- 廖院長俊智
除此之外，我們也有獎勵表現特別優秀的博士生，我們有研究進步獎，我們也有院長獎……
- 張廖委員萬堅
對，我剛才聽您說了。
- 廖院長俊智
除了我們剛才講的獎助金之外，還有額外的獎金，來獎勵做得特別好的那些博士生。
- 張廖委員萬堅
對，我想這方面是應該要啦！我知道，之前聽您講，其實你們也招了一些不錯的國際研究生一起來臺灣研究，因為臺灣的有些領域，不只是半導體，有些分子醫學等生物領域，都不錯，都會吸引到一些先進國家的研究生願意來臺灣這邊。我覺得你們的預算是不一樣的，中研院的預算是這樣子，你能做的就這樣子，我看你明年增加的預算裡面那個部分5億左右，光是調薪及人力，大概就差不多了，今年要問預算，你們的那個基金裡面還少了2億多，所以整體來講，我覺得這個問題還是要解決，總不能教育部這樣子，國科會這樣子，你們又這樣子，國科會也有，我知道他們有獎助金……
- 廖院長俊智
對。
- 張廖委員萬堅
教育部公布的這個，我覺得有點差距。要怎麼樣子來統合讓我們博士生想要唸的，尤其是STEM領域，這個部分怎麼樣子能夠讓他們真的進來我們的學研環境做研究，這是非常重要！
- 廖院長俊智
對，我們會和教育部、國科會一起來討論怎麼樣提升臺灣整體的研究環境，不只是獎學金，還有將來的就業職涯發展，包括和業界合作，鼓勵業界多聘用博士生，特別是優秀的博士生，我們也請業界調高優秀博士生的待遇，這個我們也可以……
- 張廖委員萬堅
對，院長，因為你是直屬總統府的預算，我覺得你應該跟總統講，你看我們這幾年GDP都成長了，他就任這8年成長了百分之三十幾，快四成，我們的學研環境、我們的預算應該要相應成長，在這樣子的人口結構和高教人才流失的狀況下，我們這個部分應該要……
- 廖院長俊智
是、是的，這個部分政府的高層都非常的重視。
- 張廖委員萬堅
我想如果非常重視的話，我們提出的這些所謂的方案，我覺得今年這樣先走很好，到明年中教育部的方案上路了，我覺得你們可以開始去討論……
- 廖院長俊智
是的。
- 張廖委員萬堅
研發出一套……
- 廖院長俊智
除了研究生之外，教授也要……
- 張廖委員萬堅
也一樣，你那個15%也很好，我知道。
- 廖院長俊智
對、對，所以研究生上去，到時哪1天研究生比教授拿的薪水還多。
- 張廖委員萬堅
對，所以我就想你們整體預算的那個結構，因為今天沒那麼多時間，我覺得還是要好好的討論一下……
- 廖院長俊智
好，謝謝。
- 張廖委員萬堅
好，謝謝。
文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為張廖萬堅本人的發言。