從這段發言整理出的主張
政府機關使用人工智慧應有哪些規範?認為即使人工智慧基本法已通過,仍應進一步界定人工智慧軍事應用的規範;全球已面臨軍事應用與商業倫理的兩難,且有意見認為將人工智慧用於國防、特別是攻擊用途涉及倫理問題,未來可能要將相關規範擬定得更明確,否則會造成重大問題。「沒有,我個人認為你這一塊其實還應該再做一些界定,因為在全世界當中都已經面臨了,軍事應用跟商業倫理的兩難。很多人認為說把AI用在國防,特別是在作為攻擊的層面上,是有倫理的問題,這是未來可能會發生的。所以我說即使是通過了,但是這方面未來可能要再進一步擬定得更明確一點,否則這個部分來說的話,會造成非常大、非常大的一個問題。」發言紀錄
- 柯委員志恩
謝謝召委,請吳主委。
- 主席
有請吳主委。
- 吳主任委員誠文
柯委員好。
- 柯委員志恩
主委好。你自從上任之後,其實對學界也是愛之深責之切,不過你現在很顯然是三罵學界,我們來看一下:第一個,你認為花這麼多錢沒有諾貝爾得主,很丟臉;第二個,你說目前的論文大家都只看數量,按件計酬,也滿丟臉的;第三個,學術界每個人在罵政府投資資源太少,你認為政府做了很多,所以對這種說法很看不起。我知道主委你很想投好球,可是以這種說法來說,真的就是像暴投一樣。你自己也曾經擔任清大副校長、成大副校長,也在南臺科大擔任校長,在當行政主管的時候,你其實是有權力來做這些的改變,你覺得在那個時候你的學校有沒有這些的規想?
- 吳主任委員誠文
有,在我任內都有改變。
- 柯委員志恩
你在的時候都有改變?對。所以你到目前為止,接任國科會之後,面對這些問題,你又做了哪一些的改變跟成效?你講的這些話,學術界有一些微詞,你認為有需要做一些修正嗎?
- 吳主任委員誠文
這個方向還是一樣,國科會已經做了很多的改變,我們在所有計畫的申請、獎勵的評量等等是依照這個方向,所有的……
- 柯委員志恩
什麼樣的方向?目前來說,你是不要去寫太多的論文數量,不考慮數量、考慮質量……
- 吳主任委員誠文
我從來沒有講過不要寫太多論文,不是用論文的數量來評量老師的成就……
- 柯委員志恩
當然啊!
- 吳主任委員誠文
所以不要扭曲我的意思。
- 柯委員志恩
沒有人扭曲啊!是你這樣的寫法……
- 吳主任委員誠文
我從來沒有說不要寫太多論文,從來沒有講。
- 柯委員志恩
我也沒有說你說不要寫太多論文啊!但是……
- 吳主任委員誠文
你剛剛講了!
- 柯委員志恩
拜託,我剛剛講的是引據你的一個說法,很多在算論文,像論件計酬,實在丟臉。主委,我是引用你的說法,我也試圖讓你澄清,希望人家不要去扭曲你的意思。
- 吳主任委員誠文
論件計酬這個事情,我是絕對反對的。
- 柯委員志恩
我當然也反對啊!但是我只是在告訴你,我們不要爭辯這個,我只是告訴你說,目前學界對於你這樣一個說法、「丟臉」這個說法,他們是有意見的,我只是告訴你……
- 吳主任委員誠文
丟臉連我也丟臉,不是只有他,所有的人都丟臉。
- 柯委員志恩
所以你現在已經到了學界的程度,我們就來看一下這個部分,以基礎科學來說,完全同意你的這個部分,我們一直強調基礎研究非常的重要,基礎研究跟應用研究跟技術發展來說的話,基礎研究其實在比例上面還是低於其他兩個層面,然後很多人……
- 吳主任委員誠文
在基礎研究方面,我們臺灣學者的數量是在減少的,但我們的經費年年在增加,所以每個人平均得到的研發經費都在增加當中。
- 柯委員志恩
目前為止,如果你的數目不斷在減少,你覺得這個問題在哪裡?
- 吳主任委員誠文
是人口在減少啊!
- 柯委員志恩
人口在減少,還是我們對於基礎……
- 吳主任委員誠文
學生的人數……
- 柯委員志恩
還是我們對於基礎研究投入的學者專家越來越少,因為整個國家的政策對於所謂的技術還有對於應用科學來說,他們認為可以獲得的比率比較高,會不會是因為這個緣故?
- 吳主任委員誠文
我們的學者平均得到的計畫補助的件數在提高,得到的計畫每個計畫補助的金額都在提高當中,但是我們的博士生在減少,委員都知道啊。
- 柯委員志恩
我了解,是啊,所以我們未來在基礎研究這部分,有沒有辦法跟其他的應用研究或是跟所謂技術層面等量齊觀,這是我們要的,因為我們都認為,基礎研究是一切研究的基礎,我們只是不想讓它的論文數不斷在減少的過程當中,讓投入基礎研究的人會越來越少,這是本席質疑的重點。我覺得,主委,我剛剛說你是暴投,我現在是試圖讓你有一個可以澄清的機會,不要扭曲我的想法。我們同樣都是來自學界,我不會認為你說論文是如何,所以你不要用這樣的態度來面對本席,我覺得這不是討論事情的方式。
- 吳主任委員誠文
我還是強調,不能只用論文的數量……
- 柯委員志恩
我也同意啊!因為有太多學者專家,太多、太多新進人員,因為論文數不夠,讓他們在未來的學術界當中受到非常大多……很多沒有辦法,這點我完全同意啊。
- 吳主任委員誠文
所以,在我任職的學校,我儘量在修改辦法,用比較公平的評量方式……
- 柯委員志恩
當然是啊,我們也認為應該用多元的評量方法……
- 吳主任委員誠文
沒有錯,所以我們國科會……
- 柯委員志恩
這點我們得到一個共識嘛。我只是認為說,大家就這件事情上面不需要再說什麼不斷在逼……我是讓你有澄清的機會,你反而誤解我的意思。
- 吳主任委員誠文
因為他們沒有改,我才會講。
- 柯委員志恩
他們沒有改什麼?
- 吳主任委員誠文
改這個評量的辦法,我現在在鼓勵……
- 柯委員志恩
那你現在當國科會主委,你在給大家做這個部分,你改的部分有沒有得到所謂成效上面的改進嘛?
- 吳主任委員誠文
現在就是慢慢引導,這個是需要時間的,國科會已經改了,因為國科會以前也曾經使用……
- 柯委員志恩
是,五年來你如果說這部分,你要把過去五年你的paper的產量,因為你可以加權多少,以至於有很多的人,在這個過程裡面,因為過去的學術量不夠,讓他每次申請國科會的時候都受到非常大的阻礙,這是事實嘛,對不對?
- 吳主任委員誠文
過去是這樣,這個評量全部也都是全國的學者一起在互評嘛……是啊!所以國科會已經把這個規則改了,我們去年就改了喔……
- 柯委員志恩
去年嘛,對不對?所以我們就來看看,未來這個部分有沒有因為這樣的改變……
- 吳主任委員誠文
好啊,那……
- 柯委員志恩
讓更多人來去看待,這是我們共同的期待嘛,這點……
- 吳主任委員誠文
可以啊!
- 柯委員志恩
這點共識沒有問題嘛,對不對?
- 吳主任委員誠文
那我們就花時間看看會不會改變。
- 柯委員志恩
是,所以大家都知道你要投好球,但是很多話講得太直,我覺得這就是個暴投。我們來看一下,有關於我們高雄第三園區的部分,因為這個屬於南科的範圍當中,目前來說我們是不是已經很確定我們P6台積電的擴廠,因為我們看到南科有一個擴廠的計畫,很顯然很像是P6要在楠梓區來建廠嘛?
- 吳主任委員誠文
P6台積電已經提出他的需求……
- 柯委員志恩
對,是在?
- 吳主任委員誠文
現在高雄市政府也很努力……
- 柯委員志恩
我們都很希望能夠在這個地方。
- 吳主任委員誠文
但是還是要經過我們二階環評。
- 柯委員志恩
當然是,而且最重要的是水跟電的問題,因為那時候為了要友善環境,也符合你剛剛說的永續,所以我們希望能夠運用再生水。但是我們檢視一下,目前整個再生水的層面來說,平均大概日產量是10萬CMD,高雄市政府也推動興建橋頭再生水廠,但是你這樣整個加加減減來說,我說實在的,水這個部分,如果P6再進來的話,真的是用水上會有很大的一個問題喔!
- 吳主任委員誠文
報告委員……
- 柯委員志恩
以再生水來說的話。所以我現在只是問說,南科有沒有考慮自己能夠來蓋再生水廠?
- 吳主任委員誠文
報告委員,在國科會協助之下,高雄市政府已經把楠梓的再生水廠也加進來……
- 柯委員志恩
也加進來了嘛。
- 吳主任委員誠文
所以楠梓跟橋頭兩個……
- 柯委員志恩
所以水這部分,目前來說,面對P6,目前這個水量……
- 吳主任委員誠文
沒問題。
- 柯委員志恩
你認為是沒有問題?
- 吳主任委員誠文
沒問題,超過他的需求。
- 柯委員志恩
然後也不會影響到我們的民生用水嘛?因為量的……
- 吳主任委員誠文
不會,不會影響。
- 柯委員志恩
那電的部分,我們再來看一下。你可以看得出來,台電過去的報告中有標明供電量跟需求量,這個在之前的報告裡面有,可是在修正完之後,目前我沒有看到台電供電量的規劃,只有用電的需求量,沒有看到規劃的供電量。因為水跟電是非常重要的,所以我們強烈地要求這一塊也要盯緊。因為這一塊盯緊的話,我們才有辦法,不然廠商來的話沒有電。目前為止,我沒有看到電的規劃。
- 吳主任委員誠文
沒問題,我們……
- 柯委員志恩
對,這個部分你一定要做好處理……
- 吳主任委員誠文
好,沒有問題。
- 柯委員志恩
水電的處理,大家都希望台積電進駐,但是水電是關鍵,而且重點是不要因為用水、用電量這麼大的廠進駐而影響到民生,所以這部分要保證絕對有。最後一個我們來問一下有關AI,AI的導入,我剛剛也看到了,目前為止我們也經過國際認證,包括台灣杉二號、三號跟創近一號,目前為止,我們在有關於建構共同的模型算力基礎的建設上,這部分是沒有問題的。我想請問,目前我們各單位,特別是國防部,有跟你們討論要把AI應用到他們的計畫當中嗎?目前。
- 吳主任委員誠文
目前沒有。
- 柯委員志恩
目前沒有。為什麼我要問這個問題?因為現在在中東戰爭當中,美國是大力的用他們的算力去做,而且他們建構了非常多的中心,但是它也常常會變成,因為就非常精準的層面來說,也讓很多人把它當作是一個破壞很大的基地,因為怕它太過精準,然後會對他們伊朗的本土造成很大的損害。我們高雄因應這樣的需求,也有所謂的AI算力專區,我其實比較擔心在民用跟軍用的層面,到底要怎麼樣去規範AI的倫理,為什麼呢?為什麼要提出這個部分?因為美國來說的話,有一個美國的AI公司叫做Anthropic,因為他目前為止,完全不要讓美國的國防部跟他們來做這方面的合作,以致於川普非常不高興,他甚至把它當作是一個國家安全議題,認為此舉構成供應鏈風險。因為他們認為AI用在國防上還是有它的倫理考量,所以它會引起國防跟商業倫理的兩難。我們已經通過AI基本法了,主委,你有沒有在這個層面上去做一些規範,否則把AI放在未來的戰爭當中,其實對人類來說是一個相當大的挑戰,有沒有這樣的規劃?
- 吳主任委員誠文
我們的AI基本法已經通過了……對。那在AI基本法裡面,我們其實……
- 柯委員志恩
我們沒有討論到這一塊喔。
- 吳主任委員誠文
我們沒有討論這一塊,但是我們明確的講,我們政府的施政,一定要依照AI基本法的規範……
- 柯委員志恩
沒有,我個人認為你這一塊其實還應該再做一些界定,因為在全世界當中都已經面臨了,軍事應用跟商業倫理的兩難。很多人認為說把AI用在國防,特別是在作為攻擊的層面上,是有倫理的問題,這是未來可能會發生的。所以我說即使是通過了,但是這方面未來可能要再進一步擬定得更明確一點,否則這個部分來說的話,會造成非常大、非常大的一個問題。
- 吳主任委員誠文
不過國防議題不在國科會的主政範圍,這個當然是……
- 柯委員志恩
但是你們在AI的部分,所以我剛才問,有沒有跨部會地來跟你們做更大範圍的研商?因為這個畢竟未來都會是全面性地去做處理跟應用的。
- 吳主任委員誠文
好,如果國防部要跟國科會來討論此事,我們會跟他來……
- 柯委員志恩
所以目前沒有?
- 吳主任委員誠文
目前沒有。
- 柯委員志恩
那目前AI基本法裡面也還沒有,尚未要有是否可以廣泛的運用,目前為止也都還沒有做這樣的規劃跟處理?
- 吳主任委員誠文
目前沒有,因為AI基本法裡面其實對保障人權已經很明確的講出來,有七個項目在人權的保障上,所以這部分我認為是沒有問題的。
- 柯委員志恩
我們就來看看嘛,不過還是把它放在這部分,因為未來可能你都會應用得到,好不好?
- 吳主任委員誠文
好,謝謝,謝謝委員。
- 主席
謝謝柯志恩委員。下一位有請羅智強委員質詢。
對話紀錄沒有收錄的發言
這場會議很長,上面的對話紀錄只保留了一部分。以下是柯志恩在同一段發言裡、上面沒有出現的話,逐字取自公報,但看不到前後其他人說了什麼;需要完整脈絡請看公報原文。
- 柯志恩
當然是啊,我們也認為應該用多元的評量方法……這點我們得到一個共識嘛。我只是認為說,大家就這件事情上面不需要再說什麼不斷在逼……我是讓你有澄清的機會,你反而誤解我的意思。
- 柯志恩
去年嘛,對不對?所以我們就來看看,未來這個部分有沒有因為這樣的改變……讓更多人來去看待,這是我們共同的期待嘛,這點……這點共識沒有問題嘛,對不對?
- 柯志恩
當然是,而且最重要的是水跟電的問題,因為那時候為了要友善環境,也符合你剛剛說的永續,所以我們希望能夠運用再生水。但是我們檢視一下,目前整個再生水的層面來說,平均大概日產量是10萬CMD,高雄市政府也推動興建橋頭再生水廠,但是你這樣整個加加減減來說,我說實在的,水這個部分,如果P6再進來的話,真的是用水上會有很大的一個問題喔!以再生水來說的話。所以我現在只是問說,南科有沒有考慮自己能夠來蓋再生水廠?
- 柯志恩
所以水這部分,目前來說,面對P6,目前這個水量……你認為是沒有問題?然後也不會影響到我們的民生用水嘛?因為量的……那電的部分,我們再來看一下。你可以看得出來,台電過去的報告中有標明供電量跟需求量,這個在之前的報告裡面有,可是在修正完之後,目前我沒有看到台電供電量的規劃,只有用電的需求量,沒有看到規劃的供電量。因為水跟電是非常重要的,所以我們強烈地要求這一塊也要盯緊。因為這一塊盯緊的話,我們才有辦法,不然廠商來的話沒有電。目前為止,我沒有看到電的規劃。
- 柯志恩
對,這個部分你一定要做好處理……水電的處理,大家都希望台積電進駐,但是水電是關鍵,而且重點是不要因為用水、用電量這麼大的廠進駐而影響到民生,所以這部分要保證絕對有。最後一個我們來問一下有關AI,AI的導入,我剛剛也看到了,目前為止我們也經過國際認證,包括台灣杉二號、三號跟創近一號,目前為止,我們在有關於建構共同的模型算力基礎的建設上,這部分是沒有問題的。我想請問,目前我們各單位,特別是國防部,有跟你們討論要把AI應用到他們的計畫當中嗎?目前。
文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為柯志恩本人的發言。