沈發惠於第10屆第7會期財政委員會第8次全體委員會議

1. 沈委員發惠

   （9時58分）數位部李次長、國科會林副主委，很抱歉把你們二位都請上來，我先在這裡感謝主席今天安排這樣的議程，因為上個禮拜本席在這裡針對目前ChatGPT等等這些AI人工智慧運用在金融相關機構的一些問題，就金管會的部分我們有進行過一番討論，在討論之後，我們認為事實上還是有很多的問題並不是金管會自己本身的問題，而是我們政府機關在面對人工智慧這麼迅速而且是在超乎我們想像的短時間內的發展，我們政府的因應確實有很多部分不是光金管會或財政部這些財經部門自己要獨立面對的問題，而是我們整個政府要面對的，但是對於目前這些的相關運用到底是由國科會主管還是由數位部主管，這部分我搞不太清楚，我也看到國科會的相關業務報告有提到，目前人工智慧的AI基本法草案是由國科會負責草擬的，對不對？

2. 主席

   請國科會林副主任委員說明。

3. 林副主任委員敏聰

   目前我們正在草擬一個草案，但是這件事事實上行政院有三個政委，他們組成一個協調小組，因為這是跨部會的。

4. 沈委員發惠

   對，但是我看你們的業務報告，關於主管機關這部分，到時候這個AI基本法草案應該是由國科會主管吧？還是數位部？

5. 林副主任委員敏聰

   我們正在研擬，會跟各部會一起協商。

6. 沈委員發惠

   最後主管機關會是誰？

7. 林副主任委員敏聰

   這部分我們要聽從行政院，行政院最後會做決定。

8. 沈委員發惠

   你們現在正在草擬，你們認為應該是誰？行政院一定是參照你們草擬的……

9. 林副主任委員敏聰

   從新興科技的角度來講，國科會一向，比如說科技基本法，這比較是一般基本法的部分，我們從這個角度去草擬。

10. 沈委員發惠

    所以是你們嘛，對不對？

11. 林副主任委員敏聰

    是，從新興科技的基本角度……對，沒錯。

12. 沈委員發惠

    草擬這次AI基本法的整個過程，草擬過程就是由你們來草擬了，對不對？

13. 林副主任委員敏聰

    是，目前是這樣。

14. 沈委員發惠

    那未來屬於臺灣自己，符合臺灣自身需求的AI系統的發展、建模，也是國科會負責，對不對？

15. 林副主任委員敏聰

    目前我們有一個專案已經啟動。

16. 沈委員發惠

    對，所以目前也是國科會負責立法跟建模？

17. 林副主任委員敏聰

    建模是要提供一個foundation model，基礎的model。

18. 沈委員發惠

    請問兩位，目前現階段我們對於政府相關的各部會在運用人工智慧方面的規範，是由誰主管？

19. 林副主任委員敏聰

    基本法還是基本法，真正跟目的事業主管機關有相關的業務，那就要作用法，要各個……

20. 沈委員發惠

    不是，現在基本法在立法，目前，我跟你講，作用法部分我上個禮拜有列出來，有四十幾個法案都要處理……

21. 林副主任委員敏聰

    對，是，沒錯。

22. 沈委員發惠

    金融的相關規定都必須立法，都必須處理。我現在要問的是，在立法完成之前，現在這個階段，政府各個部門、各個機關他們可以自由地運用AI系統嗎？ ChatGPT可以直接納入各行政機關，他們可以直接運用這個系統來處理公務嗎？

23. 林副主任委員敏聰

    目前還沒有法律規範，所以我們正要積極……

24. 沈委員發惠

    沒有法律規範，所以可以？

25. 林副主任委員敏聰

    目前沒有，但是它會衍生出一些……

26. 沈委員發惠

    未來規範政府各機關使用會是哪一個單位？是數位部還是國科會？

27. 林副主任委員敏聰

    國科會沒有辦法去規範。

28. 沈委員發惠

    李次長，你表示一下意見。

29. 主席

    請數位部李次長說明。

30. 李次長懷仁

    跟委員說明，數位部這邊會用資安的角度來規範，主要是規範資安跟機敏的部分，因為這本來就是數位部的業務，但是不涉及資安跟機敏的部分，那就由國科會自己去規劃。

31. 沈委員發惠

    那目前的ChatGPT屬不屬於資安？

32. 李次長懷仁

    目前還沒有看到它有資安這個問題。

33. 沈委員發惠

    目前還沒有看到有資安問題，是說還沒有發生資安問題，還是說目前你們數位部認為ChatGPT沒有資安的問題？

34. 李次長懷仁

    目前還沒有看到有資安的問題。

35. 沈委員發惠

    你們認為目前ChatGPT還沒有資安的問題？

36. 李次長懷仁

    因為它只是一個網頁式的，它就跟……

37. 沈委員發惠

    義大利在3月30日時，因為運用ChatGPT，發生大規模的資安外洩的問題……

38. 李次長懷仁

    跟委員說明，義大利不是發生大規模資料外洩的問題，義大利是以GDPR、以個人資訊保護來處理這件事情。

39. 沈委員發惠

    對，但是它就是因為運用人工智慧，所以發生這樣的狀況，是不是？

40. 李次長懷仁

    那它就變成個資法的範疇了，那就不是機敏資料，那不是資安的狀況。

41. 沈委員發惠

    所以，並不是目前看到ChatGPT有資安的問題吧？

42. 李次長懷仁

    目前沒有看到有資安的問題。

43. 沈委員發惠

    好，等一下我再跟你探討這個問題。現在我要問的是，因為你們兩個部會現在的分工變成，ChatGPT相關的立法跟建模的部分由國科會負責，但是資安的部分卻由數位部負責，聽起來現在是這樣。以日本為例，日本比我們慢，他們在2021年（2年前）成立了數位廳，他們成立了數位廳之後是由誰負責的呢？直接由首相兼任，首相就兼任數位廳的首長，因為他們認為跟資安相關的數位管理是跨部會的，所以由首相來直接負責數位廳，另外他們再設置數位大臣，數位大臣並不是數位廳的主管，主管是首相。

44. 我認為有關人工智慧的管理，目前政府相關的權責劃分並不清楚，所以這個部分就請兩位一起。

45. 在日本，日本事實上將這個部分提升到首相的層級，岸田首相跟OpenAI的執行長就直接會面討論，未來人工智慧在政府機構的運用，他們的結論是還要消除一些憂慮之處，也就是還有很多必須擔憂的，而不是說沒有資安的問題。資安是其中之一，還有未來對於著作權的保障，因為在AI上面生成的東西沒有著作權的來源，著作權的保障也會是未來運用上面的一大問題，日本的現狀是這樣。

46. 關於這個部分，其實現在全世界各國大家都還不知道怎麼辦，像美國之前他們基本上由各大銀行自主地去禁用人工智慧，但是現在美國已經開始針對這個部分徵求公眾的意見，為期60天，現在還在徵求公眾意見的階段，也還沒有一個定論。對於臺灣來講，我想我們面臨比他們更嚴峻的環境，為什麼？因為現在中國在發展它自己的模組，目前中國的百度有發展一個叫「文心一言」，對不對？百度自己在發展一個號稱中國的ChatGPT；阿里巴巴則推出「通義千問」；另外還有很多諸如「日日新」、「360智腦」等等。

47. 問題是未來我們大家建立的模組，所有這些華文資料全部統統都會納入人工智慧學習的資料庫裡面，但是中國所發展的這些人工智慧模組，中國的「生成式人工智能服務管理辦法」就明定應當體現社會主義核心價值，不得含有顛覆國家政權、推翻社會主義制度、煽動分裂國家之內容。也就是說你現在去跟「文心一言」聊天，問它習近平做得怎麼樣，它不能回答你，不敢回答你；你去問它新疆維吾爾人的處境，它不能回答你，它也不敢回答你，它回答你它就犯法。不敢回答還是好的，甚至很多是他們的立場，他們會提供假訊息，告訴你西方的民主制度哪裡不好，告訴你為什麼臺灣是中國不可分割的一部分等等，這些大量的相關資訊未來他們就輸入他們的「文心一言」，輸入他們發展的人工智慧模組裡面，未來我們國家，我們臺灣同樣處於華人世界，我們所面臨的是這樣的處境，未來你問臺灣的人工智慧，它就會告訴你土豆就是馬鈴薯。

48. 針對這個部分，目前國科會在負責立法、負責建模，我希望數位部在這個部分要及早因應、超前部署，未來可能很多假訊息，現在是透過通訊軟體，未來假訊息就直接透過人工智慧模組進入臺灣。所以，我們現在探討人工智慧這個議題，政府在人工智慧的運用上面要關注的不只是ChatGPT，而是未來要面對的是類似「文心一言」等中國發展的相關模組，這部分我希望數位部跟國發會能夠提早因應，好不好？以上。

文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為沈發惠本人的發言。