柯志恩於第11屆第5會期教育及文化委員會第8次全體委員會議

1. 柯委員志恩

   謝謝召委，我們先請數發部的侯次長好了。

2. 主席

   有請數發部侯次長。

3. 柯委員志恩

   次長好。非常感謝召委今天排定的AI主權時代所衍生非常多問題的議題，當然我們肯定AI基本法已經三讀通過，但是到現在，面對AI的時代，我們還是有很多細節需要來做討論。在進入主題之前，我先請問侯次長，目前高德地圖真的是鬧得沸沸揚揚，每個人都說它可能有資安的疑慮，但是地方政府卻認為目前並沒有個資外洩的問題。中央說有疑慮，地方說沒有資安的疑慮，次長，就你的觀點，到底是誰的認知有問題？

4. 侯次長宜秀

   首先跟委員說明，我們處理的原則是依據資通安全法第十一條的規定，就是公務機關不得下載、安裝或使用危害國家……

5. 柯委員志恩

   我知道，我的意思是，你們有做過這個評估……因為剛剛特別提到，高雄市交通局認為我們這些個資沒有外洩的問題，而且它純粹是用大數據的方式，其實這個政府不禁還好，一禁，它馬上就變成熱門下載app，上個禮拜還是第一名，這個禮拜變成第二名，所以顯然政府所謂的國安疑慮跟人民的使用是有一些落差的。我還特別來問，而且不要忘記你們上一次也特別發布的，去年數發部及國安局認定有高風險的五款中國製造app當中，像抖音幾乎就是排名第4名，微信、小紅書在社交類排名大概是第10名和第11名，我當然認為政府替人民把關是天經地義，但是你就應該檢視所有的app，所以到目前為止，你們認為高德地圖還是有資安的危險嗎？

6. 侯次長宜秀

   向委員報告，因為高德地圖是中國廠商的地圖，他會受到中國法律的拘束，在中國的法律底下，據我們所了解，關於他的情報法及網路安全法的規定，中國政府是可以隨時取用這些使用者的資料的。

7. 柯委員志恩

   我個人認為還是一句話，為了資安，你們可以做任何的事情，可是我覺得在發布這個消息之前，應該要有更審慎且一致的標準。如果你覺得這是有資安疑慮的話，但到目前為止，大家還是在用我剛剛所條列的不管是抖音或是小紅書等等，所以我才說這與民眾的認知有一些落差，而且就以大家感受最深刻的詐騙來說，以app來說，從數發部的網路詐騙通報查詢網內一個月詐騙平臺分布來看，那個是個資的問題，到底有沒有資安的問題，每個人見仁見智，但是這個部分裡面，人民受傷最多的、有關於詐騙的app的問題裡面，32萬則當中，Threads占了28.6%，Facebook占了24.8%，Instagram占了17.2%，這才是人民切身關切的。你們永遠都是在這裡告訴大家這些有國安疑慮，然後要禁、要禁、要禁，卻不去思考為什麼大家要用高德地圖，說實在我用了，我也不覺得有那麼好用，很多人看法就不一樣，但是我個人覺得app的標準應該要一致，像詐騙的部分，數發部目前為止束手無策啊！所以到底哪個軟體是我們人民在使用的時候最需要、最應該提高警覺的？數發部在這個層面上面也應該有更積極的作為嘛！

8. 侯次長宜秀

   是，跟委員報告，就app來說，還是必須看它所適用的準據法，因為中國的app有他原廠地國的法規，跟其他國家不一樣……

9. 柯委員志恩

   高德這部分，次長，我同意，只要有資安疑慮，你可以提出你的看法，但我現在是要告訴你，目前跟人民最相關的app當中，他們都是使用這些，其實這些部分的詐騙比率更高，在更高的狀況下，你會不會做出像高德一樣的警訊，告訴大家這些都是大家應該要注意的？我覺得這才是數發部的角色跟責任，我所要強調的是這一點，我並沒有說你們不應該完全不顧人民的資安問題，你要搞清楚我的重點好不好？所以關於這個部分，你應該更強調的去宣導，很多詐騙都是來自於這些，這些都需要大家共同去做。所以我才說不要有雙標，任何只要跟人民有關的，不管是跟資安或者是跟這個有關，都要做相同的提醒，不要顧此失彼。還有很重要的是，今天因為AI的倫理，時間的關係，你們特別建置了兩個很重要的任務，一個是建立AI風險分類框架與指引，沒錯吧？是。另一個是推動AI模型評測機制。是。關於AI風險分類框架與指引，我認為這是非常重要的，是重中之重，因為這涉及到各部會當中，這個法規是否充足以及風險管理的規範到哪裡。以目前來說，到選舉的時候，AI出來的東西簡直讓我們疲於奔命，我們看到有很多AI生成的扭曲訊息，即使AI基本法第五條已經明文規定，但它畢竟是一個基本大法，很多的細節並未規定，導致我們要承受很多AI生成之後造成資訊扭曲的部分，然後我們跟數發部檢舉，以Meta為例，你們最大的做法就是：好吧！那我們就通知Meta，然後把它下架。但如果這個分類的方法、框架一出來之後，就不用每次都由數發部來做處理，你們可以分門別類給不同的單位去做處理，沒錯吧？

10. 侯次長宜秀

    跟委員報告，其實目前就已經是由數發部統籌給各部會來處理。

11. 柯委員志恩

    好，你們預計這個要審查多久？

12. 侯次長宜秀

    我們現在已經把風險分類框架送到行政院了。

13. 柯委員志恩

    什麼時候可以下來？

14. 侯次長宜秀

    要看行政院那邊處理的狀況。

15. 柯委員志恩

    需要很快就下來，因為對我們來說，這樣我們才知道對等在什麼地方，包括我們用AI來做遠距醫療，我就可以直接去找衛福部，什麼事情要找什麼部會，所以你必須要在最快時間把它放出來，這樣我們才會知道，不然你們數發部真的會忙死啦！同意！

16. 侯次長宜秀

    跟委員報告，我們現在已經跟各個部會在進行協作中，也開了很多次的工作坊……

17. 柯委員志恩

    好，你們儘量趕快把這個管理規範訂出來，因為過去基本法只是個大框架，很多的細節、我們所遭遇的問題都來了。請回座。關於遭遇的問題，我想請中研院彭副院長以及國科會陳副主委，因為這個很重要，這面臨到學術倫理的問題，這完全打破我們以前在教書……各位都教過書吧？對。我們以前最重要的就是第二章文獻探討、reference，對不對？對。當老師的、指導教授不是每天都要去看它到底跟我們之間的研究有什麼關係，現在這塊反而是老師最不曉得該怎麼辦的，為什麼？因為學生比我們更了解這個資訊，他把他全部的資料丟進去，AI把它生成連老師都沒有辦法出來的，以致在最後文獻參考資料的部分，以前我們只要把出自哪裡放出來就好，現在這麼多的整合，而且你們還要找到源頭，但是要從AI生成的資料當中找到源頭，必須要有一些技術跟方法，這叫我們怎麼辦呢？兩位學術單位，你們要怎麼辦？

18. 彭副院長信坤

    報告柯委員，中研院學術處已經有這個能力，而且我們已經在做這個動作，任何一個paper、任何一個計畫，我們都有辦法用AI去偵測到底是AI生成的，還是AI改寫的，甚至改寫了哪一部分，我們都可以mark起來，我們有在使用這個軟體。

19. 柯委員志恩

    我不想看到我們以前寫的paper，到最後被它生成之後，我看到這個，覺得看起來很像是我以前寫的，可是又好像不是，因為整合了很多。都會有這個狀況！然後以前你只要標注幾年幾月、什麼時候、在什麼地方出版，但現在光是後面的參考資料，我看都需要重新定義。中研院有這三個部分，但是我覺得目前為止還是……這都是在AI基本法之前你們就已經先做的。對。國科會也是，但基本法公布之後，你們有沒有在參考指引上面做更細緻的分工、更細緻的分法？

20. 陳副主任委員炳宇

    跟委員報告，我們有根據生成式AI的進展，針對這些內容再做一些調整。

21. 柯委員志恩

    所以我們什麼時候可以在網站上看到？

22. 陳副主任委員炳宇

    我們應該是隨時調整完都會隨時公告在……

23. 柯委員志恩

    身為老師，我真的覺得馬上就會遭遇到這樣的問題，而且最重要的是，我也同意你們說未來只要用AI，它會有一些浮水印等等之類的，但是在學校裡面，不是每個人都可以像你們兩個單位做成這樣，所以你們這樣的技術是有辦法完全下放到所有的學術單位、任何公私立大學、168間所有的公私立大學都可以來做這樣的使用嗎？否則你會造成這些老師……

24. 彭副院長信坤

    我們中研院的部分是要購買、要有版權、要有中研院的IP才可以使用。

25. 柯委員志恩

    是，那學校怎麼辦呢？我們這些老師看學生報告的時候，以前看到學生寫出這樣的報告，我就會給他很高分，但現在看到學生寫報告寫得這麼完整，跟他平常的表現不一樣，我都要稍微質疑一下，這到底是用抄的還是他自己想的，這個就會造成我們很大的困擾，這部分怎麼辦？不能只有在你們中研院啊！包括國科會未來在審查的時候，包括五年創作的部分，都是我們審查的標準，你怎麼樣面對這個問題？

26. 陳副主任委員炳宇

    跟委員報告，這個還是要回到學術的本質上去做探究，我們的確會再透過很多的管道去讓老師們……

27. 柯委員志恩

    你就趕快拜託隔壁的中研院，他們要版權什麼的，你就拜託中研院，好不好？請他們把這個技術給你們，到最後我們要申請中研院的學術獎勵或是個人的專案獎勵的時候，搞不好大家都先用中研院的系統掃過一遍，告訴我們這個部分……當然原創性還是非常重要，對不對？是。但變成我馬上想到的第一個就是文獻探討的部分，以前大家覺得還要花很多時間，現在學生搞不好最後全部丟給AI生成，然後老師也搞不清楚，因為根本不知道，重點是對我們來說，一份寫這麼好的報告，以前都給他最高的肯定，現在第一個就馬上質疑到底是誰寫的，這才是我們現在面臨最大的問題！

28. 彭副院長信坤

    對我們來說，這部分不是問題，現在可以偵測到72%、68%。

29. 柯委員志恩

    好，既然你們已經有研發這個系統，就全部丟給老師。最重要的還是一句話，AI的臺灣模式到底是要像美國比較放寬、不要那麼多的限制，還是要像歐盟一樣？我們絕對要有臺灣的模式，趁最後時間告訴我們，你覺得在學術界來說，到底應該廣泛？還是在學術界當中，反而是像歐盟一樣，要給相當大的限制範圍？

30. 陳副主任委員炳宇

    因為AI基本法在制定的時候，就經過很多次討論，基本上，我們希望AI基本法能夠衡平比較創新跟風險控管的機制，但是在學術界，我們是更加鼓勵創新，希望大家能夠利用AI工具進展到其他的研究當中。

31. 柯委員志恩

    是，如果進入到更大的研究工具，就應該在一些文獻、歷史資料允許這樣的原則，透過一些科技方法幫我們把歷史資料做一系列的統整，統整完之後，基於這個部分，再去做額外的創新，這樣應該才是……當70%可以偵測出來的時候，到底是偵測出他是抄襲，還是資料完整，這個界定恐怕又是另一方面的問題了，對不對？

32. 彭副院長信坤

    分成兩塊，它有寫AI生成的部分以及AI改寫的部分，我手上就有資料，我過去半年已經用得很熟悉了。

33. 柯委員志恩

    好，還是一句話，副院長不要只有你們中研院在用，我們也需要，不管是改寫還是生成，要讓大學也能用，否則我剛剛所提到的問題還是會繼續發生。最重要的是到最後的參考書目當中，我真的認為應該有個準則，提供大家更好的方向，否則解決不了，好不好？感謝，謝謝。

34. 主席

    謝謝柯志恩委員的質詢。請機關代表回座。接下來有請葛如鈞委員進行詢答。

文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為柯志恩本人的發言。