李昆澤於第10屆第7會期交通委員會第9次全體委員會議

1. 李委員昆澤

   （10時18分）唐鳳部長，現在ChatGPT的發展非常地快速，應用也多元，不管是相關文本的生成，不管是報告、新聞、劇本，甚至是翻譯或校對，它都有這樣的功能。

2. 主席

   請數位部唐部長說明。

3. 唐部長鳳

   是。

4. 李委員昆澤

   或者它也可以用於程式語言的編寫，透過指定，它還可以寫相關的程式語言。

5. 唐部長鳳

   我寫程式就常常用。

6. 李委員昆澤

   甚至它還通過Google初級工程師的一個考試。另外它也是重要的資訊助理，不管是行程的安排或相關的工作流程等等，它都逐步地扮演這樣的角色，也逐步地成熟。但它衍生出相關的個資跟資安的問題，數發部還是有重要的把關責任，那你們初步的作為是什麼？簡單說明一下。

7. 唐部長鳳

   謝謝委員給我這個機會說明，首先像我剛剛提到，我自己寫程式也有用這種生成式的AI，也有用語言模型，但是我所使用的模型是完全跑在那台筆電裡面，完全沒有連到網際網路，所以就可以確保我不管寫什麼程式，只要在那台電腦裡面就不會被攔截或竊聽等等，像這樣我們叫做地端的，就是在自己可以掌控的機器上部署，這個是一件非常重要的事情。

8. 李委員昆澤

   部長重視個人資安、個人資料的保護，但是我們從實際的運用來看，世界各國都有出現一些問題，以日本為例，神奈川縣橫須賀市的市政府已經開始用ChatGPT來協助處理公務；臺灣桃園、臺南都有基本的運用；法國也有醫生透過這樣的模組來協助撰寫病例。但是也有比較保守的國家，像日本的鳥取縣，基於資安上的疑慮，禁止公務員安裝或使用；美國也因為AI的這個技術引起資安的疑慮，所以他們的商務部國家電信暨資訊署也向民眾徵詢規範意見；義大利也發生這種資安的問題，所以他們都有初步的保障跟防範的機制。

9. 請教部長，你認為應不應該禁止公務員使用ChatGPT？對於使用的過程，數位部要不要主動徵詢相關民眾的看法跟意見？另外，對於個資的保護，像用戶姓名、卡號末4碼以及與AI對話的標題等內容的外洩等等狀況，你們有沒有什麼具體的建議跟作法？

10. 唐部長鳳

    像委員簡報右下角的義大利之前確實有一些希望ChatGPT去調整的，後來他們有調整了，所以這個禁令後來有解除。

11. 李委員昆澤

    那我們呢？

12. 唐部長鳳

    我們也是一樣的，在國科會的召集之下，公務員怎麼用ChatGPT這類生成式的AI大概有兩個很重要的原則，一個是我們現在運用這些生成式的AI所生成出來的東西跟搜尋引擎所找到已經有的東西不一樣，它會自己無中生有，這個無中生有有時候是沒問題的，但是很多時候是有問題的，就是它自以為是很有道理，但事實上完全不正確，所以我們處理公務要很清楚地知道，不能直接拿它做出來的內容當作公務使用，直接給出去或直接做成判斷等等，這個是不可以的，因為這個技術的特性……

13. 李委員昆澤

    部長，問題是出在我們有一些未公開的資料，或者是一些未去識別化的資料，如果公務機關使用，它還是有可能產生個資、資安的問題。

14. 唐部長鳳

    第二個部分就是個資的問題，個資的問題有一個解決方案，就是像我剛剛講的，完全在你可以掌控的地端的機器上面來使用這樣的技術，這個國科會目前也有做可信任的AI對話引擎，這樣的模型應該很快就可以讓公務機關來push。

15. 李委員昆澤

    部長，我還是要提醒你，ChatGPT等生成式AI以及外掛軟體會產生隱私的問題、詐欺的問題以及情色暴力的問題，不管是民眾的個資或者是政府公務的運用或是產業的問題，我們都必須要注重其安全性。像Cyberhaven有相關的統計，統計他們旗下企業用戶160名員工，有8.2%在職場有使用，有3.1%將不能外流的資料上傳，這些都是以企業的機密文件為多，其次是顧客的資料；三星電子一開始也是開放，現在也是禁用了，好像在5月開始就禁止他們員工使用。

16. 這些過程我們必須要掌握一個重點，就是我們的政府公務員將非公開的資訊或者是未去識別化的資料透過ChatGPT，導致民眾或政府的資料外洩，這是一個嚴重的問題。另外，數位部對於這樣個資跟資安的問題，對民間、對政府有什麼具體的建議？

17. 唐部長鳳

    像委員這張簡報就綜整得非常好，本來企業的機密資料就不應該流到外面，不管是ChatGPT也好，或者搜尋引擎也好，或者是個人使用的e-mail帳號也好。現在的問題只是說，因為很多人覺得語言模型真的很方便，所以他什麼都跟那個語言模型講，產生一種依賴性。我們解決這個的方式就是要讓企業內部部署所謂地端的語言模型的功能，可以很快地跟ChatGPT一樣強，這樣就不會外洩，因為沒有傳到外面，又可以做到語言模型的功能。

18. 李委員昆澤

    部長，因為時間的關係，我從短期跟長期提出具體建議，短期應該要加強安全性的指引，長期還是要建立相關的規範。依據行政院目前的框架，數位部的任務是，負責AI法制的議題中，制定AI產品測試規範及測試驗證。目前的進度呢？

19. 唐部長鳳

    目前我們在資通安全研究院已經有專門的人力來做這件事情，也跟之前工研院等等的法人合作……

20. 李委員昆澤

    有在做研究，什麼時候會有初步的成果出來？

21. 唐部長鳳

    因為國科會這邊可信任對話引擎應該預計年底前會推出，我想中間的開發版本我們就會一起來驗測。

22. 李委員昆澤

    部長，短期應該還是要訂定安全指引，參考國科會的「人工智慧科研發展指引」另外訂定「人工智慧使用安全指引」作為過渡措施；我想也應該舉辦公聽會跟教育講座，讓社會形成AI使用的安全意識。長期的目標當然是要完善基本法令的規範，要明定AI產品的安全標準跟規範，建立機制、個別測試驗證AI產品的安全性。

23. 唐部長鳳

    我覺得這都非常好，在公部門的使用指引，如同我今天的專案報告，在國科會已經有研擬，我們會全力在資安上配合；然後委員剛剛提到聚集民眾的意見，這個我們在策略司有一個叫點子松的活動，會在6月到9月進行意見徵集；最後測試驗證的規範這個是由資安院在處理……

24. 李委員昆澤

    部長都有具體的時程出來，希望能夠如期如質完成，以上。

文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為李昆澤本人的發言。