徐富癸於第11屆第5會期交通委員會第16次全體委員會議

民主進步黨民主進步黨・屏東縣第2選舉區

從這段發言整理出的主張

人工智慧應如何依風險分級管理?主張政府對 AI 代理人這類消費型 AI 工具應更積極因應,在不同宣傳媒體提醒民眾這類工具雖然好用但風險很大,例如資料或信用卡憑證可能遭竊。「我想未來對於這樣的一個消費型AI工具,我們應該要更積極,甚至在不同的宣傳媒體裡面提醒大家,好用歸好用,但是風險很大,所以要注意。」

發言紀錄

  1. 徐委員富癸

    謝謝主席,有請數發部林部長。

  2. 主席

    請林部長。

  3. 林部長宜敬

    委員早安。

  4. 徐委員富癸

    部長早。部長,現在進入AI的時代,所以你們相關業務我想未來也會面對很多的壓力跟責任,尤其目前對岸對我們文攻武嚇,甚至認知作戰的威脅從來沒有消失過。我知道數發部今年也特別增列了數位政府資安生態防護推動計畫,還有政府的數位韌性強化計畫、資安治理的AI化計畫,還有相關的網路主動式防禦關鍵研究計畫,這些計畫的經費大概高達六億五千多萬。但是目前根據審計部113年中央政府總預算的審核報告,對於關鍵基礎設施各項領域的資通安全通報途徑尚未一致,而且對於領域資安防護基準也還沒有訂立一個標準,所以我個人認為資安署對於app的資安管理,目前還是面臨很大的一個問題,是面臨人力上的問題還是什麼技術上的問題?可不可以先說明一下?

  5. 林部長宜敬

    現在資安署對於app的檢測主要是以中製app為主,為什麼我們都以檢測中製app為主呢?第一個,因為依照中國國家情報法第七條的規定,中國人民或者是組織都有支持、協助與配合國家情報工作的責任,意思就是民眾上傳到中國伺服器的資料,中國政府隨時可以去調閱,只要為了情報工作都可以,我們認為這是一個相當大的風險。我們現在一方面在檢測一些中製的app,另外一方面,我們希望把這個制度跟技術建立起來。如同剛才委員所講的,我們現在檢測的速度的確是比較慢,我們希望提高量能。

  6. 徐委員富癸

    部長,我覺得檢測的速度真的不能慢,這個非常涉及到國安的危機,尤其你們上個禮拜公布了4款中製app的資安檢測結果,確實發現這些app即使在關閉的狀況之下,還是會持續進行背景的資料蒐集,甚至把我們相關的一些通訊錄,甚至一些傳輸資料傳送到中國境內的伺服器,就表示這是有計謀式的蒐證。我們以高德地圖為例,我想這個問題我也在委員會追蹤了很久,在檢測項目裡面,不管是安卓系統或是iOS系統,甚至各檢出8項到11項問題點。目前我知道我們的政府部門公開禁止這些app,但是一般民眾的使用率還是很高,數發部除了提醒民眾小心這樣的一個警語之外,有沒有更積極的作為?

  7. 林部長宜敬

    我們現在除了禁止公務部門使用以外,譬如說在校園裡面,我們也會透過教育部的教育網路,就是學校的Wi-Fi都會阻絕這些有高風險的app,另外由政府資助的免費Wi-Fi網路(iTaiwan),我們接下來也會攔阻這些高風險的app。我覺得最重要的還是民眾要知道這有多大的風險,如同剛剛委員所講的,我手機都已經把app關掉了,結果它還在背景裡面蒐集我們這些資料,我想一般民眾如果真的知道實情的話……

  8. 徐委員富癸

    他們不知道。

  9. 林部長宜敬

    他知道這個實情的話,一定會覺得這是非常不應該的事情。

  10. 徐委員富癸

    部長,我記得我上次質詢部長的時候,部長也有特別說未來要啟動跨部會的協調,甚至國防部相關部會的業者進行一個適當的隱蔽措施。目前你有邀集Apple、Google跟微軟這些系統來開會了嗎?

  11. 林部長宜敬

    有,我都有跟他們開過會,我們也會跟……因為這個主責機關是國防部,國防部那邊會有一些考量,看哪些到底要怎麼樣處理、地圖要怎麼處理,這個我們已經跟國防部討論過,國防部會有他們的政策考量跟處理,他會告訴我們要如何處理。

  12. 徐委員富癸

    部長,我還是要提醒一件事情,你看圖面上,我們的國防機密顯露無遺,都呈現在這個圖資上面。中國製的app在臺灣通常沒有設立分公司,也沒有一個合法落地的代理商,未來針對這樣的無落地代理,甚至直接境外提供服務的高風險app,作為我們的主管機關,難道我們沒有任何的實質管轄權嗎?未來要怎麼因應這些有可能發現國安危機的問題?要怎麼防範?

  13. 林部長宜敬

    事實上,如果有這種狀況的話,感謝委員提供這個訊息,我們會去跟他溝通,請他們移除這些資料,如果他們拒不配合的話,我們當然可以依照我們國家的法律,要求Apple跟Google把這個app下架。

  14. 徐委員富癸

    部長,我覺得我們一定要有強硬的手段,要不然你要求他們,他們不理你的話,你也沒辦法,我們也要有一些行政手段,看怎麼處理。

  15. 林部長宜敬

    是,委員說得沒錯,如果他們拒不配合,我們就會要求把它的app下架。

  16. 徐委員富癸

    我們甚至應該主動警告、下架、封鎖,我們也有我們自己的作為。部長,我想你要採取強硬的手段,好不好?

  17. 林部長宜敬

    是,了解,謝謝。

  18. 徐委員富癸

    部長,我請教一下,您最近有沒有聽到很多年輕人在養龍蝦?

  19. 林部長宜敬

    有,當然。有嗎?

  20. 徐委員富癸

    你自己有養嗎?有養。對於OpenClaw養龍蝦的部分,你個人覺得這是好事還是壞事?

  21. 林部長宜敬

    它的影響力非常大,以前的生成式AI都只能陪我們聊天,但現在譬如我要去日本旅遊7天,以前它只能幫我規劃行程,現在幫我規劃行程以後還能直接幫我訂機票、訂旅館等等,通通幫我處理好了,能力非常大,但是也非常危險,因為它也會刷我的信用卡,一不小心就把我的信用卡刷了一個大洞出來,事實上,我本身就遇過這個事情。

  22. 徐委員富癸

    部長,所以站在你的角度,你認為這是一個數位分身好的工具嗎?還是認為這是一個未來在資安我們可能沒有辦法防範的漏洞?

  23. 林部長宜敬

    它的確是一個數位分身,事實上已經到數位跟實體合體的分身,它能力很大,但是現在新技術出來,通常資安就有很多漏洞。我在3月的時候去美國參加全世界最大的資安大會(RSAC),幾乎整場大家都在談龍蝦的資安問題。這個也是很大的商機,但是短期之內風險真的非常大,短期之內,除非自己有比較強的信心、很小心。我們現在積極地跟臺灣的資安業者還有國外業者合作,希望趕快把這些資安的防範通通做起來,因為是新出現的技術,而且這個資安本身就是一個商機。

  24. 徐委員富癸

    誠如部長剛剛講的,你自己也有在養龍蝦,你也發現不管是上網、調用工具,甚至買賣股票都非常的好用。是。但是我們資安院上個禮拜公布資安檢測報告,也證明目前AI代理人的工具非常脆弱。如果說這個網頁被植入一個隱藏語意的指令,有可能你在電腦裡面所有的資料、瀏覽過的東西,甚至信用卡的憑證,一瞬間就都被拿走了。

  25. 林部長宜敬

    是,委員講的完全沒錯。

  26. 徐委員富癸

    那怎麼辦?因為你專業,你知道要怎麼防範,一般鄉親不曉得。年輕人現在趨之若鶩,要怎麼樣避免這些年輕人受害?要怎麼處理?

  27. 林部長宜敬

    在短期之內要非常非常小心,真的要提醒所有的民眾,養龍蝦的時候要非常非常小心,看到所有的說明,還有要安裝新的功能、新的skill,都要很小心。在中長期我們想辦法跟資安產業合作,趕快提供一些工具,讓一般的民眾都很方便、快速地把這些資安漏洞堵起來。

  28. 徐委員富癸

    這點我還是要提醒部長,因為這個絕對是未來很多人會使用的一個工具。我們在人工智慧基本法裡面有明定,你們要推動一個AI風險的分類框架,這個標準什麼時候會公布?

  29. 林部長宜敬

    這個已經送行政院了。這個風險分類框架,如果順利的話,應該一個月內……

  30. 徐委員富癸

    一個月內?

  31. 林部長宜敬

    如果順利的話,因為我們已經送行政院了。

  32. 徐委員富癸

    我想未來對於這樣的一個消費型AI工具,我們應該要更積極,甚至在不同的宣傳媒體裡面提醒大家,好用歸好用,但是風險很大,所以要注意。

  33. 林部長宜敬

    完全同意,感謝委員的提醒。

  34. 徐委員富癸

    好,謝謝。

  35. 林部長宜敬

    謝謝委員。

  36. 主席

    謝謝徐富癸委員,謝謝部長。接下來我們請許智傑委員發言。

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為徐富癸本人的發言。