柯志恩於第11屆第5會期教育及文化委員會第5次全體委員會議

中國國民黨中國國民黨・全國不分區及僑居國外國民

從這段發言整理出的主張

政府機關使用人工智慧應有哪些規範?認為即使人工智慧基本法已通過,仍應進一步界定人工智慧軍事應用的規範;全球已面臨軍事應用與商業倫理的兩難,且有意見認為將人工智慧用於國防、特別是攻擊用途涉及倫理問題,未來可能要將相關規範擬定得更明確,否則會造成重大問題。「沒有,我個人認為你這一塊其實還應該再做一些界定,因為在全世界當中都已經面臨了,軍事應用跟商業倫理的兩難。很多人認為說把AI用在國防,特別是在作為攻擊的層面上,是有倫理的問題,這是未來可能會發生的。所以我說即使是通過了,但是這方面未來可能要再進一步擬定得更明確一點,否則這個部分來說的話,會造成非常大、非常大的一個問題。」

發言紀錄

  1. 柯委員志恩

    謝謝召委,請吳主委。

  2. 主席

    有請吳主委。

  3. 吳主任委員誠文

    柯委員好。

  4. 柯委員志恩

    主委好。你自從上任之後,其實對學界也是愛之深責之切,不過你現在很顯然是三罵學界,我們來看一下:第一個,你認為花這麼多錢沒有諾貝爾得主,很丟臉;第二個,你說目前的論文大家都只看數量,按件計酬,也滿丟臉的;第三個,學術界每個人在罵政府投資資源太少,你認為政府做了很多,所以對這種說法很看不起。我知道主委你很想投好球,可是以這種說法來說,真的就是像暴投一樣。你自己也曾經擔任清大副校長、成大副校長,也在南臺科大擔任校長,在當行政主管的時候,你其實是有權力來做這些的改變,你覺得在那個時候你的學校有沒有這些的規想?

  5. 吳主任委員誠文

    有,在我任內都有改變。

  6. 柯委員志恩

    你在的時候都有改變?對。所以你到目前為止,接任國科會之後,面對這些問題,你又做了哪一些的改變跟成效?你講的這些話,學術界有一些微詞,你認為有需要做一些修正嗎?

  7. 吳主任委員誠文

    這個方向還是一樣,國科會已經做了很多的改變,我們在所有計畫的申請、獎勵的評量等等是依照這個方向,所有的……

  8. 柯委員志恩

    什麼樣的方向?目前來說,你是不要去寫太多的論文數量,不考慮數量、考慮質量……

  9. 吳主任委員誠文

    我從來沒有講過不要寫太多論文,不是用論文的數量來評量老師的成就……

  10. 柯委員志恩

    當然啊!

  11. 吳主任委員誠文

    所以不要扭曲我的意思。

  12. 柯委員志恩

    沒有人扭曲啊!是你這樣的寫法……

  13. 吳主任委員誠文

    我從來沒有說不要寫太多論文,從來沒有講。

  14. 柯委員志恩

    我也沒有說你說不要寫太多論文啊!但是……

  15. 吳主任委員誠文

    你剛剛講了!

  16. 柯委員志恩

    拜託,我剛剛講的是引據你的一個說法,很多在算論文,像論件計酬,實在丟臉。主委,我是引用你的說法,我也試圖讓你澄清,希望人家不要去扭曲你的意思。

  17. 吳主任委員誠文

    論件計酬這個事情,我是絕對反對的。

  18. 柯委員志恩

    我當然也反對啊!但是我只是在告訴你,我們不要爭辯這個,我只是告訴你說,目前學界對於你這樣一個說法、「丟臉」這個說法,他們是有意見的,我只是告訴你……

  19. 吳主任委員誠文

    丟臉連我也丟臉,不是只有他,所有的人都丟臉。

  20. 柯委員志恩

    所以你現在已經到了學界的程度,我們就來看一下這個部分,以基礎科學來說,完全同意你的這個部分,我們一直強調基礎研究非常的重要,基礎研究跟應用研究跟技術發展來說的話,基礎研究其實在比例上面還是低於其他兩個層面,然後很多人……

  21. 吳主任委員誠文

    在基礎研究方面,我們臺灣學者的數量是在減少的,但我們的經費年年在增加,所以每個人平均得到的研發經費都在增加當中。

  22. 柯委員志恩

    目前為止,如果你的數目不斷在減少,你覺得這個問題在哪裡?

  23. 吳主任委員誠文

    是人口在減少啊!

  24. 柯委員志恩

    人口在減少,還是我們對於基礎……

  25. 吳主任委員誠文

    學生的人數……

  26. 柯委員志恩

    還是我們對於基礎研究投入的學者專家越來越少,因為整個國家的政策對於所謂的技術還有對於應用科學來說,他們認為可以獲得的比率比較高,會不會是因為這個緣故?

  27. 吳主任委員誠文

    我們的學者平均得到的計畫補助的件數在提高,得到的計畫每個計畫補助的金額都在提高當中,但是我們的博士生在減少,委員都知道啊。

  28. 柯委員志恩

    我了解,是啊,所以我們未來在基礎研究這部分,有沒有辦法跟其他的應用研究或是跟所謂技術層面等量齊觀,這是我們要的,因為我們都認為,基礎研究是一切研究的基礎,我們只是不想讓它的論文數不斷在減少的過程當中,讓投入基礎研究的人會越來越少,這是本席質疑的重點。我覺得,主委,我剛剛說你是暴投,我現在是試圖讓你有一個可以澄清的機會,不要扭曲我的想法。我們同樣都是來自學界,我不會認為你說論文是如何,所以你不要用這樣的態度來面對本席,我覺得這不是討論事情的方式。

  29. 吳主任委員誠文

    我還是強調,不能只用論文的數量……

  30. 柯委員志恩

    我也同意啊!因為有太多學者專家,太多、太多新進人員,因為論文數不夠,讓他們在未來的學術界當中受到非常大多……很多沒有辦法,這點我完全同意啊。

  31. 吳主任委員誠文

    所以,在我任職的學校,我儘量在修改辦法,用比較公平的評量方式……

  32. 柯委員志恩

    當然是啊,我們也認為應該用多元的評量方法……

  33. 吳主任委員誠文

    沒有錯,所以我們國科會……

  34. 柯委員志恩

    這點我們得到一個共識嘛。我只是認為說,大家就這件事情上面不需要再說什麼不斷在逼……我是讓你有澄清的機會,你反而誤解我的意思。

  35. 吳主任委員誠文

    因為他們沒有改,我才會講。

  36. 柯委員志恩

    他們沒有改什麼?

  37. 吳主任委員誠文

    改這個評量的辦法,我現在在鼓勵……

  38. 柯委員志恩

    那你現在當國科會主委,你在給大家做這個部分,你改的部分有沒有得到所謂成效上面的改進嘛?

  39. 吳主任委員誠文

    現在就是慢慢引導,這個是需要時間的,國科會已經改了,因為國科會以前也曾經使用……

  40. 柯委員志恩

    是,五年來你如果說這部分,你要把過去五年你的paper的產量,因為你可以加權多少,以至於有很多的人,在這個過程裡面,因為過去的學術量不夠,讓他每次申請國科會的時候都受到非常大的阻礙,這是事實嘛,對不對?

  41. 吳主任委員誠文

    過去是這樣,這個評量全部也都是全國的學者一起在互評嘛……是啊!所以國科會已經把這個規則改了,我們去年就改了喔……

  42. 柯委員志恩

    去年嘛,對不對?所以我們就來看看,未來這個部分有沒有因為這樣的改變……

  43. 吳主任委員誠文

    好啊,那……

  44. 柯委員志恩

    讓更多人來去看待,這是我們共同的期待嘛,這點……

  45. 吳主任委員誠文

    可以啊!

  46. 柯委員志恩

    這點共識沒有問題嘛,對不對?

  47. 吳主任委員誠文

    那我們就花時間看看會不會改變。

  48. 柯委員志恩

    是,所以大家都知道你要投好球,但是很多話講得太直,我覺得這就是個暴投。我們來看一下,有關於我們高雄第三園區的部分,因為這個屬於南科的範圍當中,目前來說我們是不是已經很確定我們P6台積電的擴廠,因為我們看到南科有一個擴廠的計畫,很顯然很像是P6要在楠梓區來建廠嘛?

  49. 吳主任委員誠文

    P6台積電已經提出他的需求……

  50. 柯委員志恩

    對,是在?

  51. 吳主任委員誠文

    現在高雄市政府也很努力……

  52. 柯委員志恩

    我們都很希望能夠在這個地方。

  53. 吳主任委員誠文

    但是還是要經過我們二階環評。

  54. 柯委員志恩

    當然是,而且最重要的是水跟電的問題,因為那時候為了要友善環境,也符合你剛剛說的永續,所以我們希望能夠運用再生水。但是我們檢視一下,目前整個再生水的層面來說,平均大概日產量是10萬CMD,高雄市政府也推動興建橋頭再生水廠,但是你這樣整個加加減減來說,我說實在的,水這個部分,如果P6再進來的話,真的是用水上會有很大的一個問題喔!

  55. 吳主任委員誠文

    報告委員……

  56. 柯委員志恩

    以再生水來說的話。所以我現在只是問說,南科有沒有考慮自己能夠來蓋再生水廠?

  57. 吳主任委員誠文

    報告委員,在國科會協助之下,高雄市政府已經把楠梓的再生水廠也加進來……

  58. 柯委員志恩

    也加進來了嘛。

  59. 吳主任委員誠文

    所以楠梓跟橋頭兩個……

  60. 柯委員志恩

    所以水這部分,目前來說,面對P6,目前這個水量……

  61. 吳主任委員誠文

    沒問題。

  62. 柯委員志恩

    你認為是沒有問題?

  63. 吳主任委員誠文

    沒問題,超過他的需求。

  64. 柯委員志恩

    然後也不會影響到我們的民生用水嘛?因為量的……

  65. 吳主任委員誠文

    不會,不會影響。

  66. 柯委員志恩

    那電的部分,我們再來看一下。你可以看得出來,台電過去的報告中有標明供電量跟需求量,這個在之前的報告裡面有,可是在修正完之後,目前我沒有看到台電供電量的規劃,只有用電的需求量,沒有看到規劃的供電量。因為水跟電是非常重要的,所以我們強烈地要求這一塊也要盯緊。因為這一塊盯緊的話,我們才有辦法,不然廠商來的話沒有電。目前為止,我沒有看到電的規劃。

  67. 吳主任委員誠文

    沒問題,我們……

  68. 柯委員志恩

    對,這個部分你一定要做好處理……

  69. 吳主任委員誠文

    好,沒有問題。

  70. 柯委員志恩

    水電的處理,大家都希望台積電進駐,但是水電是關鍵,而且重點是不要因為用水、用電量這麼大的廠進駐而影響到民生,所以這部分要保證絕對有。最後一個我們來問一下有關AI,AI的導入,我剛剛也看到了,目前為止我們也經過國際認證,包括台灣杉二號、三號跟創近一號,目前為止,我們在有關於建構共同的模型算力基礎的建設上,這部分是沒有問題的。我想請問,目前我們各單位,特別是國防部,有跟你們討論要把AI應用到他們的計畫當中嗎?目前。

  71. 吳主任委員誠文

    目前沒有。

  72. 柯委員志恩

    目前沒有。為什麼我要問這個問題?因為現在在中東戰爭當中,美國是大力的用他們的算力去做,而且他們建構了非常多的中心,但是它也常常會變成,因為就非常精準的層面來說,也讓很多人把它當作是一個破壞很大的基地,因為怕它太過精準,然後會對他們伊朗的本土造成很大的損害。我們高雄因應這樣的需求,也有所謂的AI算力專區,我其實比較擔心在民用跟軍用的層面,到底要怎麼樣去規範AI的倫理,為什麼呢?為什麼要提出這個部分?因為美國來說的話,有一個美國的AI公司叫做Anthropic,因為他目前為止,完全不要讓美國的國防部跟他們來做這方面的合作,以致於川普非常不高興,他甚至把它當作是一個國家安全議題,認為此舉構成供應鏈風險。因為他們認為AI用在國防上還是有它的倫理考量,所以它會引起國防跟商業倫理的兩難。我們已經通過AI基本法了,主委,你有沒有在這個層面上去做一些規範,否則把AI放在未來的戰爭當中,其實對人類來說是一個相當大的挑戰,有沒有這樣的規劃?

  73. 吳主任委員誠文

    我們的AI基本法已經通過了……對。那在AI基本法裡面,我們其實……

  74. 柯委員志恩

    我們沒有討論到這一塊喔。

  75. 吳主任委員誠文

    我們沒有討論這一塊,但是我們明確的講,我們政府的施政,一定要依照AI基本法的規範……

  76. 柯委員志恩

    沒有,我個人認為你這一塊其實還應該再做一些界定,因為在全世界當中都已經面臨了,軍事應用跟商業倫理的兩難。很多人認為說把AI用在國防,特別是在作為攻擊的層面上,是有倫理的問題,這是未來可能會發生的。所以我說即使是通過了,但是這方面未來可能要再進一步擬定得更明確一點,否則這個部分來說的話,會造成非常大、非常大的一個問題。

  77. 吳主任委員誠文

    不過國防議題不在國科會的主政範圍,這個當然是……

  78. 柯委員志恩

    但是你們在AI的部分,所以我剛才問,有沒有跨部會地來跟你們做更大範圍的研商?因為這個畢竟未來都會是全面性地去做處理跟應用的。

  79. 吳主任委員誠文

    好,如果國防部要跟國科會來討論此事,我們會跟他來……

  80. 柯委員志恩

    所以目前沒有?

  81. 吳主任委員誠文

    目前沒有。

  82. 柯委員志恩

    那目前AI基本法裡面也還沒有,尚未要有是否可以廣泛的運用,目前為止也都還沒有做這樣的規劃跟處理?

  83. 吳主任委員誠文

    目前沒有,因為AI基本法裡面其實對保障人權已經很明確的講出來,有七個項目在人權的保障上,所以這部分我認為是沒有問題的。

  84. 柯委員志恩

    我們就來看看嘛,不過還是把它放在這部分,因為未來可能你都會應用得到,好不好?

  85. 吳主任委員誠文

    好,謝謝,謝謝委員。

  86. 主席

    謝謝柯志恩委員。下一位有請羅智強委員質詢。

對話紀錄沒有收錄的發言

這場會議很長,上面的對話紀錄只保留了一部分。以下是柯志恩在同一段發言裡、上面沒有出現的話,逐字取自公報,但看不到前後其他人說了什麼;需要完整脈絡請看公報原文。

  1. 柯志恩

    當然是啊,我們也認為應該用多元的評量方法……這點我們得到一個共識嘛。我只是認為說,大家就這件事情上面不需要再說什麼不斷在逼……我是讓你有澄清的機會,你反而誤解我的意思。

  2. 柯志恩

    去年嘛,對不對?所以我們就來看看,未來這個部分有沒有因為這樣的改變……讓更多人來去看待,這是我們共同的期待嘛,這點……這點共識沒有問題嘛,對不對?

  3. 柯志恩

    當然是,而且最重要的是水跟電的問題,因為那時候為了要友善環境,也符合你剛剛說的永續,所以我們希望能夠運用再生水。但是我們檢視一下,目前整個再生水的層面來說,平均大概日產量是10萬CMD,高雄市政府也推動興建橋頭再生水廠,但是你這樣整個加加減減來說,我說實在的,水這個部分,如果P6再進來的話,真的是用水上會有很大的一個問題喔!以再生水來說的話。所以我現在只是問說,南科有沒有考慮自己能夠來蓋再生水廠?

  4. 柯志恩

    所以水這部分,目前來說,面對P6,目前這個水量……你認為是沒有問題?然後也不會影響到我們的民生用水嘛?因為量的……那電的部分,我們再來看一下。你可以看得出來,台電過去的報告中有標明供電量跟需求量,這個在之前的報告裡面有,可是在修正完之後,目前我沒有看到台電供電量的規劃,只有用電的需求量,沒有看到規劃的供電量。因為水跟電是非常重要的,所以我們強烈地要求這一塊也要盯緊。因為這一塊盯緊的話,我們才有辦法,不然廠商來的話沒有電。目前為止,我沒有看到電的規劃。

  5. 柯志恩

    對,這個部分你一定要做好處理……水電的處理,大家都希望台積電進駐,但是水電是關鍵,而且重點是不要因為用水、用電量這麼大的廠進駐而影響到民生,所以這部分要保證絕對有。最後一個我們來問一下有關AI,AI的導入,我剛剛也看到了,目前為止我們也經過國際認證,包括台灣杉二號、三號跟創近一號,目前為止,我們在有關於建構共同的模型算力基礎的建設上,這部分是沒有問題的。我想請問,目前我們各單位,特別是國防部,有跟你們討論要把AI應用到他們的計畫當中嗎?目前。

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為柯志恩本人的發言。