邱若華於第11屆第2會期交通委員會第9次全體委員會議

1. 邱委員若華

   謝謝主席，請數發部的黃部長及資安署的謝署長。

2. 主席

   請黃部長及謝署長。

3. 黃署長彥男

   委員好。

4. 邱委員若華

   部長好。同樣的，我們延續剛剛的AI議題，有幾個問題要請教部長及署長，我們一起來探討。我們今天要討論的是ChatGPT，ChatGPT在2022年12月的時候推出，隨後就在全球掀起了浪潮，根據ChatGPT研發公司OpenAI的資料顯示，每週經常使用戶數有2億人，由此可見生成式AI已經成為全球的主流趨勢還有普及化，本席現就生成式AI所造成的潛在風險和未來發展的可能性就教於部長和署長。2022年12月之後，公部門所有的資通設備還有所屬的場域全面禁用抖音和TikTok，公部門所配有的手機、平板及電腦都不能下載這兩款app，請問署長和部長，當時全面禁用抖音和TikTok的原因是什麼？

5. 黃部長彥男

   第一個就是像這種軟體都有可能會有個資的問題，因為我們會給它很多個資，所以會有個資外洩的疑慮，就是因為這樣的緣故，所以我們有規定，至少在公部門不准用抖音。

6. 邱委員若華

   部長您提到的是個資的疑慮。

7. 黃部長彥男

   個資跟資安。

8. 邱委員若華

   就是個資跟資安的疑慮，只要是對我們國家的資安有造成風險的疑慮，本席都贊成加強來做規範。根據媒體報導，去年5月2號，南韓三星集團也在他們內部的信件指出發現旗下員工將敏感式的程式碼上傳至生成式AI的服務平台，恐怕會導致商業機密外洩，所以他們禁止員工在公司內部所有的資訊設備上使用該類型的服務，違規者恐面臨解僱的命運。三星集團也在去年4月進行了問卷調查，有六成五的員工認為生成式AI對於企業的安全造成威脅；美國的資安公司Group-IB也在2023年6月21號公布，從2022年6月到2023年5月，根據他們的數據調查顯示，有多達10萬個ChatGPT的個資外洩，在2023年5月到達高峰。尤其更重要的是，那個報告還指出洩漏區域以亞太地區最為嚴重，高居榜首，其次是中東、非洲還有歐洲，面對這個問題，去年行政院也在8月的時候通過「行政院所屬機關（構）使用生成式AI參考指引」，金管會也在今年6月20號通過「金融業運用人工智慧（AI）指引」，代表生成式AI確實有資安疑慮。請問部長和署長，你們知道這個指引的內容嗎？

9. 黃部長彥男

   這個指引我知道。

10. 邱委員若華

    既然知道，可否指出其中最重要的幾點？

11. 謝署長翠娟

    報告委員，第一個是公務的資料不要上傳，因為這是外面的，而且你也不能信任它到底會把你的資料拿去做什麼用。第二個是機敏資料不要完全上去。第三個指引是不要完全信任它給你的，因為它有些時候是自己創的，所以它給你的指導不能完全信任。另外，這個指引有要求我們要選用比較可信賴的服務，但是就資安來說，其實只要是外部的、不能做設定跟防護的，你應該在使用上都是參考，那也同步回應剛剛委員問到的，其實我們會希望公務機關所有用的軟體都應該要有原因，不是為了公務使用而是你自己的興趣的話，就不要在公務的場所去使用，所以有些時候有些軟體我們會覺得經過申請是合理且是他工作需要的，那當然是可以用，但是如果他只是為了個人的休閒……

12. 邱委員若華

    因為時間的關係，我這邊要請教部長一個問題，數發部是不是發展我們AI科技主要的主管機構之一？對啦！

13. 黃部長彥男

    是其中之一，我們是好幾個部會一起合作要做AI的發展跟管理。

14. 邱委員若華

    其中建立AI生態系、算力還有資料蒐集及人力的培育是在我們數發部，沒有錯吧？

15. 黃部長彥男

    對，有一部分工作是在我們這裡。

16. 邱委員若華

    既然數發部的資安署是我國公部門資訊安全相關業務的重要機構，那請問署長還有部長，生成式AI服務平台像是ChatGPT等相關應用程式是否有危害國家資通的疑慮呢？

17. 黃部長彥男

    我們對危害國家資通安全的定義是針對中國製的設備、產品，如果以這個……

18. 邱委員若華

    本席這邊要提到的是目前有很多國際知名企業為了防止洩密因此禁用ChatGPT，那ChatGPT在我們臺灣目前如何呢？

19. 黃部長彥男

    我們政府有參考指引嘛，至於私人企業就由他們自己去做決定，我們並沒有要求。

20. 邱委員若華

    請教部長，三星算不算是大的集團企業？

21. 黃部長彥男

    對，三星是他們自己決定。

22. 邱委員若華

    除了三星，還有美國的蘋果呢？還有Amazon、Verizon及美國的美國銀行、花旗集團，都禁止在他們內部公司使用。

23. 黃部長彥男

    這個也是他們自己決定的。

24. 邱委員若華

    那在我們臺灣，我們的公部門是不是應該要禁止使用ChatGPT？

25. 黃部長彥男

    我剛剛講過，這個東西是由各個單位自己去決定，那我們……

26. 邱委員若華

    對於目前我們行政院推出的指引，部長和署長認為力度夠嗎？

27. 黃部長彥男

    現在就是說不能把公……事實上我們的指引裡面對這個有一些要求，再請署長說明一下。

28. 謝署長翠娟

    報告委員，其實不管如何，現在的規定是只要是公務跟機密都不應該傳上去，但我們覺得除了ChatGPT之外，所有要跟你要的資料，因為現在所有的軟體跟所有的系統都試著跟你要資料，都不應該……

29. 邱委員若華

    剛才提到TikTok跟抖音，部長有提到是中國嘛，那現在說的ChatGPT，美國的Apple跟Samsung、Verizon他們也都是禁用的，這樣是不是有雙重標準？

30. 謝署長翠娟

    報告委員，其實我們的指引跟相關的規範是你不應該把公務的東西傳給你不認識的人，包含ChatGPT後面的分析方不知道是誰。

31. 邱委員若華

    我們數位部內部的員工有沒有使用過ChatGPT？你們正在建立一個AI生態系，應該有去瞭解ChatGPT目前所提供的服務內容大概是什麼樣吧！

32. 黃部長彥男

    有去研究，因為生成式AI會用到好幾個工具，包括GAN-generate、Google等等都有，我們會瞭解它們的功能是什麼，不過我們……

33. 邱委員若華

    我想它收集的數據不只是在Google吧！是全球各網站。

34. 黃部長彥男

    我剛剛講過就是幾個重要的，就是大型語言模型……

35. 邱委員若華

    如果是這樣子的話，那在發布我們臺灣新聞時，其他在海外的用戶也可以知道目前我們的國情，比如軍力還有國防相關等等。

36. 黃部長彥男

    我們沒有把我們這些資料拿去……

37. 邱委員若華

    我不是說這個，是說在ChatGPT上面，只要透過這個OpenAI的服務，他也可以知道我們目前臺灣的情況。

38. 黃部長彥男

    如果有人把這個資料給它做訓練或是上傳才會，但是我們的機敏資料是不會上去的。是啦！

39. 邱委員若華

    但是本席認為資安署應該針對我們會涉及到機密的公部門各機關，像是國防部、外交部、國安等單位，要全面禁用ChatGPT，部長和署長的看法為何？

40. 黃部長彥男

    我們的指引目前就是這樣規範的，就是我們不能把公務的資料放到……

41. 邱委員若華

    沒有人會把公務的資料放在ChatGPT上面。

42. 黃部長彥男

    可是它如果拿不到我們的資料，它的LLM model就不會有我們的資料，所以就不用擔心別人會看到我們的資料，因為我們的資料不會給它用，所以它根本看不到。

43. 邱委員若華

    你有沒有想過我們會把相關的提問放上去，之後有可能會洩漏。

44. 黃部長彥男

    所以我們在公家機關裡面，公務的資料……

45. 邱委員若華

    我是說在提問的過程中。

46. 黃部長彥男

    對，我知道，所以在這裡面，我們不應該用它來做我們公務的一些工作，因為在這裡面的確是有可能……

47. 邱委員若華

    請部長和署長回去之後再研議，再給本席書面報告。謝謝！謝謝主席！

48. 黃部長彥男

    好，謝謝！

49. 主席

    謝謝邱若華委員。接下來邀請陳雪生委員發言。

文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為邱若華本人的發言。