林楚茵於第11屆第5會期交通委員會第2次全體委員會議

民主進步黨民主進步黨・全國不分區及僑居國外國民

從這段發言整理出的主張

人工智慧應如何依風險分級管理?質疑僅以提醒方式因應中國製AI應用程式上架平臺的做法不足夠。「我們只有提醒嗎?這樣的提醒足夠嗎?」人工智慧應如何依風險分級管理?要求數發部研議設置通報綠色通道或專線,讓民眾通報有資安風險的中國製AI,使其有機會被下架或處理。「我建議你們回去後,能給一個綠色通道,給一個所謂的通報專線,就像詐騙一樣,我們把這種有資安風險的中國製AI,也讓他有機會被下架或被處理,好不好?」

發言紀錄

  1. 林委員楚茵

    謝謝主席。主席,有請林部長。

  2. 主席

    我們請林部長。

  3. 林部長宜敬

    委員好。

  4. 林委員楚茵

    部長好,辛苦了。時間都來到12點鐘了,大家在這裡開會,討論的是AI相關的發展,當然也包括了軟體的應用。我知道部長日理萬機,而我現在要提的這一部劇,你可能沒時間看,不過最近非常的紅,就是在社群平臺上由BLACKPINK其中一位成員演了一齣戲,叫做「訂閱男友」,裡頭透過AI虛擬的方式,就是以後大家不用談戀愛了,跟AI談戀愛就好。為什麼我用這個做引子,是因為我現在要關注的問題,就是現在AI的使用非常普遍,像用Gemini、ChatGPT,甚至於連做報告、看的PTT都是使用AI,但是他也演進成為陪聊,所謂的聊天app,而這個聊天的app現在已經被越來越多的使用者認為他是中國製造,中國製造的問題,部長比我們更清楚,尤其是中國有所謂的網路管理辦法以及中國有所謂相關的安全辦法,國安局其實都已經提醒了,就是這些中國製造的app,確實不只是偷窺你的資訊、蒐集你的資訊,甚至於會植入中國的所謂價值觀,甚至於去改寫歷史,包括現在我所蒐集到的,不論是媒體的報導或者是使用者他們特別在網路上分享的,像這個BIMOBIMO曾被媒體說,他其實是可以偷窺使用者家裡的環境跟狀況,而他背後是武漢聚發科技有限公司,他會告訴使用者說,自古以來,臺灣就是中國的領土;另外一個是叫做「碎碎念記帳本」,更多的網友說,其實在跟你聊天記帳的過程,他植入了很多時事,而這些時事的內容不盡合理,甚至於是某些政治立場。對於我們來說,現在面對這樣子放上去的app,我們只有提醒嗎?這樣的提醒足夠嗎?現在我來截取一段國安局的報告,裡面特別提到了生成式的AI語言模型,潛藏的除了資安風險之外,甚至於會搜羅你個人的個資,甚至於進一步可能危及到國家安全。所以我比較具體地問數發部,現在像這樣的app放到平臺上面之後,數發部有管理的能力嗎?還是說現在拿Apple手機的,你就去App Store;如果是拿所謂另外一套Google系統的,你就是到Google的商店,這些放上去的不勝枚舉,非常的大海茫茫,對於現在我們已經看到的、這樣一個具體呈現出來的,就是中國製造的AI資安破口,數位部有沒有一個想法來做處理?

  5. 林部長宜敬

    關於中製app的風險,我們分幾個方面來講,第一個方面,我們所謂傳統的資安,譬如說裡面有沒有木馬、有沒有病毒,這是第一個部分;第二是個資的風險,我們知道有些app會蒐集個資,但中國的app蒐集個資特別地危險,為什麼呢?因為依照中國的法律,中國的政府可以隨時要求所有這些軟體公司,把他蒐集到的這些資訊都交給政府,所以這一點我們必須讓大家都知道。再來就是意識形態的問題,我們是希望他的觀點跟臺灣一樣,事實上有很多事情,譬如說三權分立是不是好事?臺灣不管藍、綠、白,我們都認為……對不起,有人認為是五權分立,至少權力制衡臺灣,大家都認為是好事,可是中國的觀點就認為這個是資本主義的民主制度,是不好的,所以我們是分成這幾方面來做。而我們的具體做法,第一個,我們的資安署跟資安院會做一些檢測,就是把一些中國製的app還有其他的app,我們來做檢測,看看他會蒐集哪些個資;他在蒐集個資的過程中,有沒有明確取得使用者的同意?接下來我們會定期發布報告,因為我們能量有限,所以我們會開始做一些……

  6. 林委員楚茵

    像這種民眾直接就反映的,包括我前面講的這兩個app,有沒有辦法用一個路徑或是一個SOP就可以處理下來,甚至於讓他有機會下架?因為現在民眾比較關心,我也知道數發部能力有限,包括很多產業的發展等等也要做,只是說像這種已經透過媒體報導,又或者是透過網路已經被認定就是怪怪的,這個部分可以處理嗎?我其實比較想知道的是要怎麼處理呢?

  7. 林部長宜敬

    針對大家比較有在使用的,坦白講,一些媒體在報導的我們會優先去處理,既然委員提到了我們資安署就會趕快去檢查,針對這幾個來做檢測報告。

  8. 林委員楚茵

    是,等於是說你們固定會有檢測報告,但現在還是停留在比較是提醒的部分。但是現在如果發現了,除了跟媒體講或是寫在網路上,那有沒有通報的綠色通道或途徑?還是說可以怎麼樣讓數位部知道?有沒有?如果沒有,我們是不是可以研議一個方式?我覺得,就像詐騙一樣,要集結眾人之力,不然你們真的會累死!

  9. 林部長宜敬

    沒錯、沒錯。

  10. 林委員楚茵

    中國只要換個名字、換個樣態,可能他還是可以借屍還魂或者是另起爐灶,同樣的東西再來做處理。我建議你們回去後,能給一個綠色通道,給一個所謂的通報專線,就像詐騙一樣,我們把這種有資安風險的中國製AI,也讓他有機會被下架或被處理,好不好?

  11. 林部長宜敬

    是,非常謝謝委員的提議,我們會處理,不過也跟委員說明一下,因為在資安上面,通常駭客進攻防守方有一個手法,就是把防守方累死,他就一直來通報,譬如一天給我通報1,000個app,就把我們累死了,然後真正有問題的,反而我們就沒時間去處理。

  12. 林委員楚茵

    好,沒關係,這個你們可以去判斷,但至少我認為可以架一個通道讓民眾一起來當資安守門員,好不好?

  13. 林部長宜敬

    好,非常謝謝委員。

  14. 林委員楚茵

    好,謝謝。

  15. 主席

    好,非常感謝林楚茵委員。接下來我們邀請謝衣鳯委員,謝衣鳯委員,謝衣鳯委員不在。高金素梅委員,高金素梅委員,高金素梅委員不在。蘇清泉委員,蘇清泉委員,蘇清泉委員不在。鄭正鈐委員,鄭正鈐委員,鄭正鈐委員不在。接下來我們邀請游顥委員發言。

對話紀錄沒有收錄的發言

這場會議很長,上面的對話紀錄只保留了一部分。以下是林楚茵在同一段發言裡、上面沒有出現的話,逐字取自公報,但看不到前後其他人說了什麼;需要完整脈絡請看公報原文。

  1. 林楚茵

    是,等於是說你們固定會有檢測報告,但現在還是停留在比較是提醒的部分。但是現在如果發現了,除了跟媒體講或是寫在網路上,那有沒有通報的綠色通道或途徑?還是說可以怎麼樣讓數位部知道?有沒有?如果沒有,我們是不是可以研議一個方式?我覺得,就像詐騙一樣,要集結眾人之力,不然你們真的會累死!中國只要換個名字、換個樣態,可能他還是可以借屍還魂或者是另起爐灶,同樣的東西再來做處理。我建議你們回去後,能給一個綠色通道,給一個所謂的通報專線,就像詐騙一樣,我們把這種有資安風險的中國製AI,也讓他有機會被下架或被處理,好不好?

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為林楚茵本人的發言。