民主進步黨・全國不分區及僑居國外國民從這段發言整理出的主張
人工智慧應如何依風險分級管理？主張生成式AI的設計應納入倫理機制，具體包括降低資料庫的偏見、在AI決策過程加入人為與社會參與，以及研發「人工道德行為者」機制。「其實AI生成式的設計中應該要納入倫理機制，要讓它有臺味、人味、倫理、性平等等，所以當時提了三個要求，第一個，要降低資料庫的偏見；第二個，AI的決策過程要加入人為跟社會參與，在決策過程這部分；第三個，要研發「人工道德行為者」這樣的機制」人工智慧應如何依風險分級管理？質疑國科會TAIDE生成式AI的倫理處理只在產出後檢測、放在太後端，要求在研發階段就納入人文社會科學人才，落實Human-in-the-loop、Society-in-the-loop。「好像沒有在這個loop裡面，還是在太後端了，就是你們已經有東西出來做檢測，我的理解是後端，能不能在研發的階段就納入人文社會科學的相關人才」政府應如何推動人工智慧產業、人才與算力建設？認為國家資源應投入結合生成式AI與晶片產業的晶創臺灣方案，並肯定由國科會領導。「我也覺得國家資源必須要放在這，由國科會來領導非常地好，你們會結合我們剛講的生成式AI跟晶片的產業」政府應如何推動人工智慧產業、人才與算力建設？要求在晶創臺灣方案等科技計畫中增加人文社會科學的經費與人才，並質疑目前人文科技經費占比太低。「我還是要求應該增加，所以從八大前瞻到晶創臺灣方案，人文社會科學你要有相關的人才去研究才能夠整合」發言紀錄
- 范委員雲
謝謝宜瑾召委。有請主委。
- 主席
有請吳主委。
- 吳主任委員政忠
范委員早。
- 范委員雲
主委早安。我在整理今天要問什麼問題的這個禮拜，真的發現主委任內非常有開創性，針對重要的科技趨勢，譬如今天也有委員問過的本土生成式 AI，還有就是大家都很關心的晶創臺灣方案，我覺得都是非常有前瞻性，我們在科技的前沿怎麼樣為臺灣創造最大公共利益的部分，主委任內的這些作法，我覺得都是引領的，我們委員還沒想到的，你們都先規劃了，所以我肯定主委這方面的努力，非常地期待，讓臺灣在未來10年，我們都有機會繼續引領。對於我關心的一些問題，不管是性別、人文社會科學，主委也非常關注，這點我也肯定，相比我們看到過去的國科會，我覺得這也是非常可圈可點，但是今天還是希望要精進啦！謝謝。我們還是要能夠更好，我們立委的監督力道也不能夠因為你們做得很好而放鬆，要更好！所以今天先請問生成式AI，一年前去年3月15日的時候，我當時就以國外的研究談到Human-in-the-loop、Society-in-the-loop，其實AI生成式的設計中應該要納入倫理機制，要讓它有臺味、人味、倫理、性平等等，所以當時提了三個要求，第一個，要降低資料庫的偏見；第二個，AI的決策過程要加入人為跟社會參與，在決策過程這部分；第三個，要研發「人工道德行為者」這樣的機制，你們辦公室都有跟我們回應，我們也非常地肯定，我們看到去年6月就第一次發布自主開發的可信任的生成式AI，所以這個TAIDE計畫，我想算是非常讓人值得期待，我知道你們還沒有正式開放，據我瞭解的是，公部門包含榮總、中研院、氣象等等這些單位都已經跟你們表達要相關合作，取得這整個的過程，我想真的是對我們未來的國家發展很重要。也有13家廠商跟你們簽署了MOU，所以我覺得你們也在創造公共財，讓臺灣的產業有機會在世界的AI新發展中，有本土生成式的AI可以合作，這部分我覺得都非常好。我想針對我之前問的倫理機制，本土的部分其實你們已經做到了，倫理機制涉及到我剛剛所講的，沒有資料偏見這個部分，你辦公室去年5月給我的回應是，你們已經考慮了倫理因素，將研析國際相關技術並參酌委員意見納入TAIDE設計的開發過程。主委可以講一下你們是怎麼納入的嗎？因為納入這兩個字，我跟辦公室研究了很久，還不清楚，可不可以跟我們分享一下？
- 吳主任委員政忠
這個有一點技術的問題，就是……
- 范委員雲
對，用我們大家都聽得懂的話告訴我。
- 吳主任委員政忠
第一個，它在回答的時候，我們現在TAIDE引擎事實上有另外一支計畫在數位部那邊驗測，他會去問它，然後給它一些……
- 范委員雲
所以是用一個檢測、測試的方式？因為我有看到新聞報導，你們都有在測試嘛！
- 吳主任委員政忠
對，就是有點在教小朋友的概念。
- 范委員雲
就是測試嘛？
- 吳主任委員政忠
另外一個是針對被盜用等，whatever，事實上如果這個對話引擎去唸一些沒有著作權的資料，未來我們會埋進去，生成的時候，它一唸到那個東西，馬上就會被發現，這個也是一些……
- 范委員雲
如果它答出來的，譬如不夠具有多元性或是在倫理上其實有偏誤的，會在測試的結果裡面做修正，是這樣嗎？
- 吳主任委員政忠
修正，另外也會讓這個擁有者知道他的東西被偷唸了、偷看了。瞭解。這個是技術問題，這還在演進當中。
- 范委員雲
對，我想這個技術問題，大家都非常期待，對你們也有一定的信心，但是我還是覺得從我看到的資訊、你們給我的回復跟您剛剛的答復，我覺得倫理的這個議題，就是我講的Human-in-the-loop、Society-in-the-loop，好像沒有在這個loop裡面，還是在太後端了，就是你們已經有東西出來做檢測，我的理解是後端，能不能在研發的階段就納入人文社會科學的相關人才，我覺得如果在前端就能夠有這個國外發展所說的Human-in-the-loop、Society-in-the-loop，我們這個已經確定是本土的生成式AI甚至可能會比其他的國家還做得更好，不知道主委可以承諾往這個方向去努力嗎？因為我知道這個執行起來都不容易啊！
- 吳主任委員政忠
是的，謝謝，這個的確必須要，因為我剛剛講這個生成式人工智慧未來應該是在每個家庭都會有一個小機器人，這是它的腦，所以它的倫理、法治、道德觀念一定是要有我們臺灣的想法跟思想，這個我們會來做。好啊！
- 范委員雲
因為未來醫療、氣象、企業都會用到……
- 吳主任委員政忠
是的，都會用。
- 范委員雲
所以如果你們前端做得好，我想我們全國都能夠享用跟升級，好不好？主委，針對你們如何在前端而不是在後端引入人文社會去思考倫理跟相關的部分，報告在兩個月之內再給我一份，好不好？就是規劃的部分。可以。OK。另外一題，我想今天大家都很關心，也非常期待，就是晶創臺灣方案，因為真的是像我剛剛講的，我非常地肯定主委有這個10年的規畫，我也覺得國家資源必須要放在這，由國科會來領導非常地好，你們會結合我們剛講的生成式AI跟晶片的產業，所以我想科技跟產業之間的帶動有關，因為我們辦公室研究了半天，之前你們有推動八大前瞻科技平臺，當時也有相關的部分，所以想瞭解跟八大前瞻科技平臺的關聯性是什麼，以及資源分配整合會不會有重疊的部分，主委可不可以簡要說明？謝謝。
- 吳主任委員政忠
委員這個說法滿正確的，事實上我們在盤點晶創臺灣計畫的時候，以前的都會把它併入。
- 范委員雲
會併入？就是一個更龐大的計畫了。
- 吳主任委員政忠
不能重疊，因為有些會有關聯性。
- 范委員雲
好，我相信您。我就追問一個我之前也問過的問題，記不記得之前我問過人文科技「經費暫無」的問題？我非常地驚慌、驚訝，我質詢時也講過我們臺灣的人文社會經費、人才跟OECD國家比，我們是人文人才極低，社會科學也相對低，我們是科技一枝獨秀。我知道主委很重視這一塊，可是當時報紙就爆出了「經費暫無」的情況。後來你們跟我講可能是個錯誤，對不對？是啊！我還是要求應該增加，所以從八大前瞻到晶創臺灣方案，人文社會科學你要有相關的人才去研究才能夠整合，到底經費有沒有增加？我質詢過之後，後來情況如何？主委可以簡要說明嗎？
- 吳主任委員政忠
有，事實上那個是超過10億臺幣……
- 范委員雲
就是八大裡面超過10億？
- 吳主任委員政忠
對，就是人文科技這邊，事實上在……
- 范委員雲
這比例是不是還是太低了？是啦。你看淨零科技就119億，對不對？
- 吳主任委員政忠
那個部分我跟委員報告，這會有一個過程，突然間你給它太多錢，也會浪費。
- 范委員雲
這當然也是啦，合理啦！
- 吳主任委員政忠
另外，我們現在有一個科民社，就是科技民主社會……有……有一批人……
- 范委員雲
我知道，就是設在政大的那個，那個非常讓人期待。
- 吳主任委員政忠
他們來看看未來臺灣怎麼用人文社會接到我們的製造業。
- 范委員雲
好，我想這個也的確是要有個漸進的過程，臺灣的科技非常好，可是科技畢竟是為人服務，它也要服膺於民主價值。在你們的四大布局當中，我們辦公室有去研究，在你們的布局一有講到要結合人文社會科學，剛剛我們講的是那邊有10億，對不對？這個結合的方式跟預算的布局，不知道主委是不是有規劃？我們如何能夠逐步增加，會不會也有一個十年規劃呢？因為你說這個不能一下增加太快，會出現弊端嘛。
- 吳主任委員政忠
產業創新的來源就是人文社會生活的一些感觸，因為臺灣以前是比較偏代工思維，你要慢慢過來到全產業創新，才會讓更多的年輕朋友加進來。對！
- 范委員雲
人才也需要培養，譬如說現在的博士生就要知道往這個方向走。
- 吳主任委員政忠
是的，瞭解。因為原來這個是IC design，這些人大部分是半導體，這兩群人如何介接在一起是這個計畫第一步要做的。好。
- 范委員雲
主委，因為時間的關係，時間快到了。我想這個十年計畫──晶創臺灣方案，大家非常的期待，八大前瞻也會整合到裡面，我很希望520之後您繼續領導，我不知道您有沒有意願等等，那是不是520前也給我一份人文社會科學如何整合在裡面的十年初步規劃，好不好？如何讓預算慢慢地成長？我想您的魄力跟遠見、對於人文社會科學的關注都是非常重要的，所以您520前可不可以給我們辦公室一份初步的報告、規劃？可以。謝謝主委。加油！我們期待您繼續領導臺灣，更上一層樓我們也非常歡迎，謝謝。謝謝。
- 主席
謝謝范雲委員。現在先來處理臨時提案，今天委員提出的臨時提案有3案，我們一併宣讀，請宣讀。一、有鑑於近幾年生成式人工智慧（AI）技術發展一日千里，影響遍佈全球產官學研各界。其生成創作內容在提供生活上娛樂便利與提高工作效率的同時，也引發著作權爭議，以及大量現有職業被取代的焦慮。在將來生成式AI勢必進一步結合產業應用的同時，應先就AI對就業市場潛在的衝擊進行評估，並制定相關配套措施以預防人類工作被大量取代所引發之社會動盪。爰請國家科學及技術委員會針對生成式AI於就業市場可能產生的衝擊範圍，深度進行評估，提出立法規範建議或參考指引，並於三個月內就其進度向立法院教育及文化委員會提出書面報告。洪孟楷 萬美玲 林宜瑾二、有鑑於行政院國家科學技術發展基金在高齡議題上，多數以高齡長者、銀髮族群的醫療及安全需求作為研究導向，實際上有關壯世代族群在食衣住行育樂等相關需求之研究寥寥無幾，上述情形顯示國家科學及技術委員會在高齡科技產業發展上，存在高齡需求數據嚴重不足之問題，進而在缺乏對壯世代需求的理解下，因目標市場模糊和不合理難以有顯著成果。國科會應規劃高齡科技產業的市場需求調查，於一個月內提出書面報告與立法院教文委員會。吳春城 萬美玲 洪孟楷三、有鑑於國科會推動「高齡科技產業行動計畫」，預計4年內投入95億元經費，並整合行政院經濟部、衛福部、數位部、教育部、內政部、文化部及原民會共8大部會。然而台灣過去社會環境或是政府的高齡化對策都以「養生、養老、養病」作為思考點，高齡科技多侷限於醫療保健等生理需求問題。國科會應基於高齡科技相關計畫之研究基礎，探討科技與設計在50歲以上人口生活中所扮演的角色，並就上述議題精進高齡科技產業相關計畫及提出專責市場需求系統性研究方案，於三個月內提出書面報告予立法院教文委員會。吳春城 萬美玲 洪孟楷好，請問這3案的提案委員，有沒有補充說明或意見？如果沒有的話，主委要不要補充說明？
- 吳主任委員政忠
謝謝委員提案。第1案遵照辦理。好。第2案有一些文字修正，在最後倒數第二行「國科會應……」把「應」劃掉，修改為「國科會會同經濟部、衛福部、數發部規劃……」，就是差了幾個字，這個跟委員有協調過，應該是OK。第3案也是稍微文字修正，從上面算下來第五行「國科會應會同經濟部、衛福部、數發部基於高齡科技……」，其他就沒有修正。
- 主席
好，吳委員沒問題喔，那我們……
- 吳主任委員政忠
對不起，還有一個，不好意思喔！第2案的「一個月」改成「三個月」。
- 主席
好，第1案就照案通過；第2案跟第3案都修正通過，謝謝。各提案如果有委員要補簽，我們請議事人員詳細登載在議事錄，補簽在這裡。我們接下來進行質詢。楊瓊瓔委員、楊瓊瓔委員、楊瓊瓔委員不在。林德福委員、林德福委員、林德福委員不在。鄭天財委員、鄭天財委員、鄭天財委員不在。接下來我們請吳思瑤委員質詢。
對話紀錄沒有收錄的發言
這場會議很長，上面的對話紀錄只保留了一部分。以下是范雲在同一段發言裡、上面沒有出現的話，逐字取自公報，但看不到前後其他人說了什麼；需要完整脈絡請看公報原文。
- 范雲
主委早安。我在整理今天要問什麼問題的這個禮拜，真的發現主委任內非常有開創性，針對重要的科技趨勢，譬如今天也有委員問過的本土生成式 AI，還有就是大家都很關心的晶創臺灣方案，我覺得都是非常有前瞻性，我們在科技的前沿怎麼樣為臺灣創造最大公共利益的部分，主委任內的這些作法，我覺得都是引領的，我們委員還沒想到的，你們都先規劃了，所以我肯定主委這方面的努力，非常地期待，讓臺灣在未來10年，我們都有機會繼續引領。我們還是要能夠更好，我們立委的監督力道也不能夠因為你們做得很好而放鬆，要更好！所以今天先請問生成式AI，一年前去年3月15日的時候，我當時就以國外的研究談到Human-in-the-loop、Society-in-the-loop，其實AI生成式的設計中應該要納入倫理機制，要讓它有臺味、人味、倫理、性平等等，所以當時提了三個要求，第一個，要降低資料庫的偏見；第二個，AI的決策過程要加入人為跟社會參與，在決策過程這部分；第三個，要研發「人工道德行為者」這樣的機制，你們辦公室都有跟我們回應，我們也非常地肯定，我們看到去年6月就第一次發布自主開發的可信任的生成式AI，所以這個TAIDE計畫，我想算是非常讓人值得期待，我知道你們還沒有正式開放，據我瞭解的是，公部門包含榮總、中研院、氣象等等這些單位都已經跟你們表達要相關合作，取得這整個的過程，我想真的是對我們未來的國家發展很重要。我想針對我之前問的倫理機制，本土的部分其實你們已經做到了，倫理機制涉及到我剛剛所講的，沒有資料偏見這個部分，你辦公室去年5月給我的回應是，你們已經考慮了倫理因素，將研析國際相關技術並參酌委員意見納入TAIDE設計的開發過程。主委可以講一下你們是怎麼納入的嗎？因為納入這兩個字，我跟辦公室研究了很久，還不清楚，可不可以跟我們分享一下？
- 范雲
因為未來醫療、氣象、企業都會用到……所以如果你們前端做得好，我想我們全國都能夠享用跟升級，好不好？主委，針對你們如何在前端而不是在後端引入人文社會去思考倫理跟相關的部分，報告在兩個月之內再給我一份，好不好？就是規劃的部分。可以。OK。另外一題，我想今天大家都很關心，也非常期待，就是晶創臺灣方案，因為真的是像我剛剛講的，我非常地肯定主委有這個10年的規畫，我也覺得國家資源必須要放在這，由國科會來領導非常地好，你們會結合我們剛講的生成式AI跟晶片的產業，所以我想科技跟產業之間的帶動有關，因為我們辦公室研究了半天，之前你們有推動八大前瞻科技平臺，當時也有相關的部分，所以想瞭解跟八大前瞻科技平臺的關聯性是什麼，以及資源分配整合會不會有重疊的部分，主委可不可以簡要說明？謝謝。
- 范雲
好，我相信您。我就追問一個我之前也問過的問題，記不記得之前我問過人文科技「經費暫無」的問題？我非常地驚慌、驚訝，我質詢時也講過我們臺灣的人文社會經費、人才跟OECD國家比，我們是人文人才極低，社會科學也相對低，我們是科技一枝獨秀。我還是要求應該增加，所以從八大前瞻到晶創臺灣方案，人文社會科學你要有相關的人才去研究才能夠整合，到底經費有沒有增加？我質詢過之後，後來情況如何？主委可以簡要說明嗎？
文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為范雲本人的發言。