葉元之於第11屆第5會期教育及文化委員會第8次全體委員會議

1. 葉委員元之

   謝謝主席，麻煩請數發部及國科會代表。

2. 主席

   有請數發部、國科會上備詢臺。

3. 葉委員元之

   兩位官員好。我們現在講AI，其實在臺灣大家都說臺灣的AI算還滿厲害，但是都是在講硬體啦，包括像我們現在股市漲那麼多，其實很多都AI的相關，但都是屬於硬體部分。但我覺得在軟體這一塊，明明臺灣有很好的條件，可是就臺灣的軟體，我不知道現在政府對於軟體的投入資料有多少，其實在上個世代，像電子支付這些的，臺灣的軟體好像有一些並沒有跟上啦，還有社群媒體等等。現在AI軟體好不容易又有一個新的機會，到底我們對於AI軟體的輔導或者是給予的資源，有沒有可能出現我們AI軟體的獨角獸？我覺得政府也應該要去重視這一塊。現在業界比較重視的東西，我要跟兩位講，最主要就是在算力，因為大部分商業的軟體，就是AI軟體，他們要做機器人的話，其實主要還是跟國外的三大雲租用AI算力，而這個費用是非常驚人的。他要做一個對話機器人，比如說，要放在大賣場，然後顧客去和機器人對話，可能是要找產品或是詢問要買的東西在哪裡，要問一些細節，可能只有5分鐘，但是算力就是非常可觀，我不知道數發部知道這個事嗎？應該知道嘛，對不對？

4. 侯次長宜秀

   我們知道業界現在在後端會去對接各個不同的大語言模型，但是在技術的發展中，我們數發部現在也在推進臺灣本土的小語言模型的開發。

5. 葉委員元之

   你不要答非所問，好不好？我現在只是在講說，現在我們從業界軟體的需求去探討這件事情，你不用去跟我扯到你有沒有去研發小語言模型，那個是另外一回事啦，不要答非所問。我們的無限的創意是在民間，如果今天政府能夠站在輔導的立場，知道他們缺什麼，然後來協助他們的話，我們可能就會出現非常多很厲害的AI軟體，甚至可以走向國際跟世界，所以你要去幫忙解決問題，大家現在最care的就是算力嘛，因為現在算力的費用非常可觀，那我想請教一下，我們政府一直在講說要建立算力中心嘛，對吧？那現在大概是要編列多少預算來做？

6. 陳副主任委員炳宇

   跟委員回報，我們在AI新十大建設裡面大概編列四十幾億……

7. 葉委員元之

   四十幾億？編了四十幾億做算力？你的終極目標是要花多少錢？

8. 何副處長紀芳

   報告委員，像我們在沙崙的AI data center的部分，目前在主機的部分大概有123億，為期4年，到117年。

9. 葉委員元之

   4年編了123億？

10. 何副處長紀芳

    123億，就是沙崙的這個AI data center。好。

11. 葉委員元之

    那除了這個之外還有嗎？

12. 何副處長紀芳

    剛剛講的是不包含土建的部分，另外還有包含在晶創那邊有相關的資源投入。

13. 葉委員元之

    所以總共多少嘛？你們知道馬斯克建立算力中心總共花了多少錢嗎？你們知道多少嗎？馬斯克建算力中心，總共花了50億美金，50億美金就是一千多億臺幣啊。那你現在是編一百多億？對。所以我們國家的資源投入是一百多億啊。那請問一下，你覺得夠嗎？

14. 陳副主任委員炳宇

    跟委員報告，我們還是會持續，我們會再做持續的……

15. 葉委員元之

    你已經編到117年了，4年的計畫也才這樣而已啊！而且這個算力只會越來越多，不是嗎？對。

16. 陳副主任委員炳宇

    所以我們現在是會採公私協力的方式，跟民間多多合作來去……

17. 葉委員元之

    跟民間合作？是。所以其實感覺上是遠遠不足，但是第二個問題就是，現在國家建置算力中心，如果軟體業者要來使用的話，是用什麼方式？租，然後補助？還是用什麼方式？

18. 陳副主任委員炳宇

    現在國網中心所擁有的算力中心有提供一個叫做AI RAP的平台，我們有大略規劃了三分之一的算力，是提供給新創的業者或中小企業，他們可以來申請，我們會有一些補助。

19. 葉委員元之

    是補助？對。

20. 陳副主任委員炳宇

    我們會有一些優惠。

21. 葉委員元之

    是怎麼樣的優惠？價格跟一般比，比如說，去租三大雲的話，會差到多少？

22. 姚副主任志民

    一定比他們便宜啦，只是說……

23. 葉委員元之

    一定比較便宜，我知道啊，難道你比較貴，人家會跟你租嗎？對。

24. 姚副主任志民

    基本上……對啊。

25. 葉委員元之

    那大概是便宜多少？為什麼今天你們回答問題都……

26. 姚副主任志民

    我們都有定價啦，至於說……

27. 葉委員元之

    是便宜多少嘛？你已經花納稅人的錢建置了，對不對？是。為什麼要花納稅人的錢建置？就是希望能夠透過一些方式去輔導我們產業的發展，因為它可能是未來的下一顆新星啊，你們不是都強調自己是AI內閣嗎？是。所以你的租金當然比外國便宜啊，不然誰要跟你租？我現在問的是你租金大概便宜多少。

28. 姚副主任志民

    這個我回去查，因為他們的價格一直在變，因為這個變化很快，那我們的定價都出來了。

29. 葉委員元之

    你們制定一個政策，做了一件事情，制定了一個政策，都沒有去思考價格大概定到多少能幫助得了產業，都沒有去想這個問題。我現在問，理論上這個東西你應該對答如流了，還要回去查喔？

30. 侯次長宜秀

    跟委員報告，數發部這邊有算力的支持，那個部分是透過審查流程，是免費的。

31. 葉委員元之

    所以這個是新創來跟數發部申請都免費，是不是？是。那審查要件是什麼？

32. 侯次長宜秀

    審查要件我請數產署的同仁跟您補充。

33. 巫副組長建恒

    報告委員，我們審查要件就是它的新穎性，還有可以產品化等等，這些對於AI產業發展比較多助益的一些要件。好。

34. 葉委員元之

    那請問一下，他們申請算力有上限嗎？

35. 巫副組長建恒

    我們還是要看……

36. 葉委員元之

    有上限嗎？上限是多少？

37. 巫副組長建恒

    我們大概是用點數來算，大概10,000點、20,000點。

38. 葉委員元之

    10,000點、20,000點是指什麼？一個月10,000點、20,000點？

39. 巫副組長建恒

    不是，就是一個週期。一個週期大概大概1個月，一個點數我們大概是算10萬tokens。

40. 葉委員元之

    10萬tokens？

41. 巫副組長建恒

    類似這樣子。就是有一個定量。因為我們的算力不足，所以我們就是用排隊的方式。排隊？對。

42. 葉委員元之

    所以就是很有限嘛！就講得好像很厲害，什麼AI內閣講了一大堆，然後業界真正需要的算力就是很有限嘛，然後問個價格也講不太清楚。好啦。我知道政府一直在講主權AI、主權AI，但是說實在的，政府當然有發展AI的需求，可是其實業界對於主權AI期望不高，大家都認為這個跟他們比較沒有關係，其實算力才是最相關的，假設想要輔導我們的AI軟體的話，比起主權AI，算力這一塊真的應該要多投入一些資源。那我想問一下，你們講的主權AI是指大語言模型嗎？

43. 侯次長宜秀

    跟委員報告，主權AI其實不只是大語言……

44. 葉委員元之

    有沒有？是不是大語言？有沒有包括？

45. 侯次長宜秀

    會包括大語言模型，但是更重要的是人才、資料、算力整合，能夠訓練AI的一個能力。

46. 葉委員元之

    當然啊，當然都需要，因為這個是一個整體嘛！那我想請教一下，我們現在要建置自己的大語言模型，那現在有趕上兩年前的OpenAI嗎？誰可以回答？數發部不能回答嗎？你們不是輔導軟體的嗎？我們現在的主權AI大語言模型有沒有趕上兩年前的OpenAI？

47. 侯次長宜秀

    委員指的主權AI是指哪一個模型？

48. 葉委員元之

    就是大語言模型，我們現在政府要發展的大語言模型。

49. 侯次長宜秀

    在策略上面，數發部並不著重於大語言模型的開發，我們著重的是特用型的模型，並不是要去開發一個像OpenAI那樣子的frontier模型……

50. 葉委員元之

    所以我們的主權AI不是大語言模型，是特用模型？

51. 侯次長宜秀

    應該是說，如果委員說的主權AI的話，我們數發部應該不是專注在您所定義的這個模型上面，而是在建構整個臺灣主權AI能力，包括您剛剛所提到的人才、資料、資金、算力這些能力上面。委員剛剛講的主權AI的大語言模型是不是專門指TAIDE？可能要請中研院來跟您說明。好。

52. 葉委員元之

    那請中研院。

53. 黃副研究員瀚萱

    向委員報告，您剛剛提到的OpenAI的模型，我們確實有拿一個OpenAI的模型做為參考的基準，去年有一顆叫做OSS 20B的模型，我們拿它來當作一個參考，我們的模型在一些公務系統的應用上面的服務，對於臺灣的知識、臺灣的認知能力是有超越原版的OpenAI的OSS的模型。

54. 葉委員元之

    所以我們現在已經超過了OpenAI、ChatGPT？對。

55. 黃副研究員瀚萱

    其中一顆比較小的模型已經超過了。

56. 葉委員元之

    有超過一顆比較小的模型？對。那我講的大語言模型呢？

57. 黃副研究員瀚萱

    它是比較小的大語言模型。

58. 葉委員元之

    好，那加油啦。加油。

59. 廖所長弘源

    委員，我是中研院資訊所的所長，我也是TAIDE計畫裡面的一員，剛剛您講的那個東西，大語言模型，以我們臺灣人口的規模，我們沒有辦法跟Google或OpenAI這種大公司來匹敵這種general的LLM，是沒有辦法的。我們能做的就是把它的東西當作一個foundation model，經過supervised fine-tuning或pre-training來帶到中游，讓我們的百工百業……因為在中游有比較大的軟體公司，或是由中研院或國科會這樣的政府機構來幫助我們的中小企業，把上面那種大型語言模型想辦法帶到中游來，然後讓中游做一個平台，來support我們臺灣的百工百業，所以我們沒有能力，因為就像剛剛講的算力部分……

60. 葉委員元之

    我問這個問題，最主要是這樣啦，就是說，我們大家講AI，講得很大，方向很大，但是真正落實到大家真正的需求，有沒有真的具體地照顧得到？就像主權AI，喊得很大聲，因為每個國家都要主權AI啊，但是實際上做出來的東西大家真的用不用得到？還是說，其實大部分的人還是會去用，比如說Google或其他的AI，這個是大家關切的問題，所以不要喊太多口號。是。

61. 廖所長弘源

    我跟委員報告一下，是有實際用到的，比如說，我們最近用了一個影像的部分，我們就是在上游的部分就用YOLOv7、YOLOv9，就是我們臺灣中研院自己發展出來的世界級的物件偵測系統，新竹的上市公司義隆電子把它加工以後，結合聯發科跟聯詠的12奈米晶片，還有NVIDIA的Orin晶片，合在一起，軟硬體結合以後，訓練一個中游的平台，放在CCTV上面，因為以前我們的六都的CCTV，比如說交通中心的話，都只是看到video，但是都沒有做任何的處理，但是現在義隆電的這個系統等於結合剛剛講的軟體跟硬體，用臺灣本土的帶到中游去，現在這個CCTV是用在高雄捷運的車廂裡面，就可以觀察車廂裡面的狀態，這是實際的用途。

62. 葉委員元之

    OK，好，謝謝。好。

63. 主席

    謝謝葉元之委員的質詢。請官員回座。蔡易餘委員、蔡易餘委員，蔡易餘委員不到。今天登記質詢的委員均已發言完畢，詢答結束。報告及詢答完畢。委員所提書面質詢或相關資料，均列入紀錄，刊登公報。對於委員質詢時要求提供的相關資料或未及答復的部分，請相關機關儘速以書面答復。報告委員會，今日議程全部處理完畢，大家辛苦了，現在休息，散會。休息（12時53分）

文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為葉元之本人的發言。