林倩綺於第11屆第4會期司法及法制委員會第9次全體委員會議

中國國民黨中國國民黨・全國不分區及僑居國外國民

從這段發言整理出的主張

人工智慧應如何依風險分級管理?質疑銀行導入的AI風險控制模型過於敏感,使無涉詐民眾被列為預防性凍結對象,導致不能提款、不能轉帳、生活停擺「因為其實很多民眾沒有涉詐,但因為銀行導入的AI風險控制模型過於敏感,結果被列為預防性凍結的對象,導致不能提款、不能轉帳,生活因此而完全停擺」人工智慧應如何依風險分級管理?要求銀行重新評估AI模型對於弱勢族群的歧視「你們是不是要要求銀行重新評估AI模型對於弱勢族群的歧視?」人工智慧應如何依風險分級管理?質疑目前銀行的AI不是智慧偵測而是全面掃射,使防詐變成防民、風險控管變成擾民「目前銀行的AI不是智慧偵測,看起來像是全面掃射,結果防詐變成了防民,風險控管變成了擾民」人工智慧生成的內容(含深度偽造)應如何標示或規範?質疑對AI僞造名人詐騙廣告查核後下架的速度,趕不上其生成的速度「感覺你們查核後下架的速度,都趕不上他們生成的速度,怎麼辦?」人工智慧生成的內容(含深度偽造)應如何標示或規範?認為在AI生成詐騙速度很快的情況下,若仍停留在要求平臺自制及民眾自行小心查證,將有所不足「其實現在速度那麼快,我們如果還停留在平臺要自制,然後民眾自己要小心多加查證……」

發言紀錄

  1. 林委員倩綺

    謝謝主席,本席先導一下言,請金管會做一下準備。我們今天在這邊是針對太子集團整個跨國犯罪引發各界譁然,但是今天的詢答,剛才本席聽了很多的數字還有一些報告,其實民意代表在這邊就是反映民眾的觀點,我們期待行政單位你們在回應上可以多一些對民意的同理,因為你們掌握公權力,也有相關的專業。剛才我們講到名次或報告,但重點是現在許多民眾有苦說不出,被坑殺了也無語問蒼天,結果看到那麼大的案子,現階段的處理可能讓大家有一些疑慮,這些案子也引發了很多擾民的政策,所以本席今天要在這邊為一些民眾請命,因此接下來我們就請金管會,銀行局局長有在嘛?童局長。

  2. 主席

    請局長。

  3. 童局長政彰

    委員好。

  4. 林委員倩綺

    童局長,謝謝。我想您這邊應該也都有收到一些訊息,最近普發1萬有一個方式就是讓民眾利用銀行帳戶來領取,但是又引發了愈演愈烈的問題,銀行帳戶無預警會被凍結,許多民眾因此就產生了一些問題。這個問題請你們多加注意,因為其實很多民眾沒有涉詐,但因為銀行導入的AI風險控制模型過於敏感,結果被列為預防性凍結的對象,導致不能提款、不能轉帳,生活因此而完全停擺,結果銀行又常常把這樣的風險責任丟給民眾,把負擔也丟給民眾,這樣子的制度是不是走偏,也應該開始做一些處理跟調整?本席舉幾個例子,有個行業叫外送員,他因為常常有多筆的小額收入,結果竟然遭凍結而兩週不能提款,他為了付房租差點去借高利貸。你們雖然聽起來覺得很離譜,可是小市民的生活就是這樣,很多時候那個時間是不容毫秒的差異。另外,有一些民眾跟朋友聚餐在分帳,社團的小額匯款總額不到5萬塊,結果也被當成疑似人頭帳戶。有一些長者為了領取敬老金而開戶,因為半年沒有動用存款,結果又被郵局凍結。有一些家屬繼承了500萬,帳戶遭凍結了8個月,導致醫藥費、喪葬費也領不出來。銀行櫃檯也常常出現民眾匯小孩的學費,結果卻因此而顯示異常。金融體系為了防弊,結果搞了半天,成為了民眾的成本,這樣是不是有點矯枉過正?目前銀行導入了一些AI模型,將快進快出或多筆小額視為高風險,但是有一些職業,像外送員、網拍或短租的一些弱勢族群的典型金流……導致人民生活上的困難,所以有一些警界人士也警告,銀行如果管太嚴,這一些弱勢族群就被迫要跟地下金融機構借錢,反而助長了高利貸的事業,也有一些洗錢的疑慮。因此本席在這邊要談的是,銀行防詐是不是過度嚴苛,結果產生了一種新的風險?本席要請教,金管會是不是有盤點?各家銀行目前導入AI風險模型,你們有沒有要求銀行調整一下預防性凍結的標準?將帳戶限制處分的範圍更聚焦在真正可能的詐騙犯,而不是日常金融往來的民眾。目前每家銀行的標準差異也很大,民眾沒有辦法知道,金管會認為這樣合理嗎?第二個部分,因為已經造成大家生活上的麻煩,民眾如果要解鎖帳戶,結果銀行端還要求提供金流的來源,從生活費到聚餐到社團的贊助都要舉證,金管會會不會認為這樣的舉證其實對民眾來講有過度負擔,變成銀行將打詐的責任轉嫁給民眾?第三個,目前相關銀行凍結了民眾的帳戶,其救濟的機制是如何呢?最後一個,你們是不是要要求銀行重新評估AI模型對於弱勢族群的歧視?目前交易模式的推斷,打擊其實有點過廣,像我們剛才講到的外送員、長者、小商家都只是金融體系的一般使用者,他們不是詐團成員,也相對弱勢,打詐是必要,但是打錯對象就會變成傷害,也助長其他類型的犯罪。目前銀行的AI不是智慧偵測,看起來像是全面掃射,結果防詐變成了防民,風險控管變成了擾民,請問您的看法?

  5. 童局長政彰

    謝謝委員關心這個議題,這個案件最主要的背景是因為銀行的警示帳戶一直不斷地飆升,從111年開始,每一個月平均增加的警示帳戶大概有2,000到3,000戶,所以從今年開始,我們有加強要求銀行必須要去正視這個問題,也提出了相關的指導方式,當然部分銀行……

  6. 林委員倩綺

    你們針對剛才本席提的那個部分有啟動一些機制嗎?是……還是因為這幾年來一直有這樣的情況,所以你們要求他們要針對這些帳戶去做一些警示,而產生了這些擾民的狀況呢?

  7. 童局長政彰

    跟委員報告,最主要是因為警示帳戶飆升的議題,所以我們在今年有要求金融機構必須要去強化其風險控管,因為有少部分銀行本身的警示帳戶數比較高,所以他們為了要趕快降低他們的警示帳戶數,因此他們……

  8. 林委員倩綺

    看起來是你們要求一些績效,他們為了要趕快符合這個績效,結果搞得很擾民。

  9. 童局長政彰

    應該不是說績效,我們最主要是要強化銀行在偵測警示帳戶的風險偵測能力,所以有少部分的銀行……

  10. 林委員倩綺

    導致這樣子的狀況,你們是不是可以趕快做個處理?

  11. 童局長政彰

    有,我們先前就……

  12. 林委員倩綺

    尤其是最近普發現金,這個問題才又爆出來嘛,對不對?對。就很大量的爆出來。

  13. 童局長政彰

    跟委員報告,我們先前有了解,的確有少數的銀行導入AI,他們把相關的風險參數,就是預警參數設得比較嚴、比較敏感,所以導致一些民眾就被設為預控,而預控最主要的……

  14. 林委員倩綺

    好的,謝謝,因為時間關係,我趕快做建議,然後你們趕快提出相關報告,好不好?因為現在發生很多普發現金1萬塊卡住了,不是只有卡住那1萬塊,是卡住整個戶頭,是不是能夠趕快了解做個處理?第二個部分,你們有沒有做全面的檢討?為了解決警示帳戶的問題,結果現在產生這個新的問題,而且目前的量很大,常常衝擊到的都是比較弱勢、相對弱勢的族群,所以你們是不是可以在1個月內提出相關檢討給本席?

  15. 童局長政彰

    我們會有書面報告給委員,但是我先跟委員報告,針對1萬塊的部分,我們已經通令銀行清查,沒有設定到這1萬塊,今天民眾因為……

  16. 林委員倩綺

    我們都看到相關報導,而且有相關的反應嘛。

  17. 童局長政彰

    我們有清查過了。

  18. 林委員倩綺

    所以這個部分如果有,就麻煩你們即刻處理,不要因為這樣一個項目而導致全面被凍結,好不好?

  19. 童局長政彰

    我們有清查過,不會設定到這1萬塊。

  20. 林委員倩綺

    謝謝,本席因為時間的關係,就是個案請你們趕快處理,然後為了因應警示帳戶問題而導致其他的問題,也請你們整體檢討,好不好?

  21. 童局長政彰

    我們已經有召開會議,銀行都有採取相關的措施,我們會再提交說明報告給委員。謝謝。

  22. 林委員倩綺

    接下來本席請數發部、調查局、警政署的代表,及打詐指揮中心指揮官。本席要談AI生成的詐騙廣告,現在非常氾濫,以假亂真的取材,已經成為新型的國安問題,我想各位應該都同意吧。目前你們各單位經常拿出相關的統計數據,看起來好像是做得OK,但事實上民眾感受不到,就如同剛才本席所講的,今天我們會站在這邊質詢是民意代表的職責,雖然你們可以拿一些數據做佐證,但是最重要的是民眾個案的切身感受才是最大的影響。根據165打詐儀錶板統計,10月份平均每天要受理441件詐騙案,財損大概接近2億,詐騙手法其實本席之前就知道了,只是現在非常嚴重,已經全面跟AI技術結合,刑事局這邊也公布4大類的假名人詐騙手法,包括假名人贈書、假名人賣保健品、假名人投資群組,本席認為很重要的而且很嚴重的是AI生成的偽造名人短影音。我在這邊提醒,Grok的生成式影片,還有AI語音模型的發展,已經讓詐騙廣告擬真程度,讓民眾沒有辦法辨別,這個情況不是只有像本人,而是事實上真的像本人。本席其實有看過黃國昌委員、館長等名人的AI深偽訪談內容,被作為推廣加密貨幣平臺;去年陳建仁院長在受質詢的時候,本席也看到有委員做的AI擬真,他也幾乎被騙過了,所以在你我身邊都可能發生,我們自己都有可能碰到。最近這些東西都還在Threads或者是網友擷取流傳,看起來是本人、聲音也是本人,在沒有辦法查證之下,我們會誤信的機率非常高。所以連作家吳淡如都表示,目前他應該是被數發部列為全臺最容易被仿冒的名人之一,我想對他來講也是不勝其擾。所以本席要請教各部會,對於AI偽造名人的廣告,數發部目前的措施是如何?在平臺強制下的機制運作狀況,跟跨國族群的企業合作狀況,是不是有比較暢通?還有現在詐騙的短影音都放在Facebook,我們常用嘛,還有Instagram、Threads、YouTube、X(Twitter)、TikTok,你們是不是已經跟Meta、Google,還有TikTok這些海外企業簽訂對偽造名人影音內容的合作協定?請數發部回答。

  23. 黃副署長雅萍

    謝謝委員的質詢。有關於名人偽造的部分,事實上在我們列管的四大業者跟七大平臺裡面,大概都已經做好聯繫,並且針對剛剛提到偽影音的部分,因為如果是用AI生成的,依照詐危條例相關規定,事實上是必須要做揭露的。剛剛委員有提到有很多部分,民眾可能其實也分辨不大清楚,可以透過我們的網詐通報查詢網做通報,我們一旦確認以後,就會立刻去進行下一個動作。

  24. 林委員倩綺

    這個問題其實真的還滿嚴重,你知道要一些長者經過這些步驟,真的是還有一段距離,唉……另外我想請教一下調查局還有警政署,目前對於假名人的AI詐騙有沒有專案偵辦?這其實是一種混合型的新型態,你們有沒有針對這個部分成立相關的專案小組?

  25. 張署長榮興

    有,我們刑事局有成立專案小組,對這個部分會主動搜尋。委員剛才講的很有道理,在廣告平臺裡面的狀況,這些都是在詐欺之前的源頭,所以這個應該是所有詐騙裡面最重要的,每一個最新型的詐騙AI生成模式,我們第一時間大概就掌握,然後會去搜尋,搜尋完之後會要求下架停止解析,這些廣告平臺如果沒有依照規定,我們還是會移給數發部做裁罰。所以其實最重要的還是在整個網路廣告平臺的自主管理是最重要的。

  26. 林委員倩綺

    是,每次碰到這種問題,各部會就說是警政署負責的,很多東西都是你們負責,你們在第一線其實很辛苦,但是本席今天也要提醒的是……

  27. 張署長榮興

    其實打詐是整個團隊,我們當然是主動會有專門小組去做,所以剛剛委員所提的贈書、保健品、假名人的廣告或是生成影片模式,我們隨時都有……

  28. 林委員倩綺

    感覺你們查核後下架的速度,都趕不上他們生成的速度,怎麼辦?

  29. 張署長榮興

    像有一些是跨境投放的狀況,當然最重要的就是網路廣告平臺業者本身的自制跟稽核,有一些是今天下架之後,明天再變成一個不同的。

  30. 林委員倩綺

    我想現在已經是一個還蠻無法自制跟自律的世界。

  31. 張署長榮興

    所以委員你可以看到,比如我可以公開講Meta或是FB的這些狀況是最嚴重的。

  32. 林委員倩綺

    其實現在速度那麼快,我們如果還停留在平臺要自制,然後民眾自己要小心多加查證……

  33. 張署長榮興

    這個已經有防詐條例可以做規範跟處罰。

  34. 林委員倩綺

    對我們來講都是法、都是條例,但對民眾來講,就是生活我們怎麼樣過得簡單一點,當我們有這麼多技術、這麼多科技、這麼多平臺協助,還有這麼多部會參與的情況之下,結果大家生活得越來越辛苦。

  35. 張署長榮興

    我們是同步的……

  36. 林委員倩綺

    我們知道警政署是很辛苦的,其實各部會跟這些主題都有關,不管是前段、中段、後段,我想你們應該都有很多處理的經驗,在這些經驗裡,我認為應該有更積極的一些作為。我們知道警政署很辛苦,本席問的很多的問題,到最後要嘛衛福部負責,要嘛警政署負責,不好意思,法務部你們應該有一些經驗,在跨平臺處理的時候,我覺得應該要整體連通,然後速度跑得比犯罪快一點,這樣我們就不會一直在後面追趕,謝謝警政署。我最後講一下,請司法院跟法務部,謝謝。我接下來談的是詐騙案的爆量跟第一線人員的問題。我們請司法院及法務部相關代表,本席關心很久了,每一次都提,就是司法院第一線人員的處境。我們知道大家現在面臨最多的就是詐騙案,整個司法體系已經超載了,不僅是承辦人員的人力不足,制度面本身也很難去因應這樣結構性的問題。本席也提出一些建議,你們可不可以在程序上做一些調整,比如減輕司法人員的負擔,有沒有可能例如擴大認罪協商制度的適用範圍,可以減少除外的範圍,擴大可協商的範圍,這個部分是不是就可以制度性或結構性的減輕第一線人員的負擔?因為詐騙案每年都超過數十萬件,對司法的能量其實蠻耗費的,目前整體刑案量以詐騙刑案量最多,第一線檢察官、書記官、法官都過勞,但是我們目前沒有辦法很快地直接處理這些問題,所以有沒有可能本席建議放寬認罪協商的程序,用程序改革來減輕司法的負擔、第一線人員的負擔?我們知道你們常常在徵聘人員,但是不是可以研議看看,讓證據明確而且犯罪樣態非常清楚的犯罪,可以更彈性來運用本席上面所講的一些程序上簡易處理的方法,你們是不是可以研議呢?

  37. 李廳長釱任

    謝謝委員關心這個議題,有關於司法人員的負擔,確實非常的沉重。

  38. 林委員倩綺

    本席每一次都會提這個,今天就提出這樣一個可能的方式。

  39. 李廳長釱任

    所以在法制上,就相關詐欺案件的部分,我們已經擴大獨任審判的範圍,把原先需要合議的案件減少,把獨任審判的案件擴大到所有的詐欺案件都可以獨任審判。這部分也經過法務部同意,新的詐危條例已經有做類似的修正,把人解放出來,把合議庭原先綁3個法官來審理變成獨任法官就可以審理。至於協商的部分,我們也注意到,原先它有一個除外規定,就是把死刑、無期徒刑、三年以上有期徒刑除外,我們希望能把底線門檻的部分改成最輕本刑五年以上的話,可以擴大協商的範圍。

  40. 林委員倩綺

    因為時間的關係啦,你們是不是把相關報告送到本席的辦公室?

  41. 李廳長釱任

    沒問題,這部分我們有在研議。

  42. 林委員倩綺

    本席也要檢視一下,你們這些方法有沒有符合整個國際的趨勢,相對比較彈性,而且對於人權也有一些關注跟保護的方向,好不好?

  43. 李廳長釱任

    謝謝委員關心。

  44. 林委員倩綺

    好,謝謝。

  45. 主席

    謝謝林委員。接下來請吳思瑤委員。

對話紀錄沒有收錄的發言

這場會議很長,上面的對話紀錄只保留了一部分。以下是林倩綺在同一段發言裡、上面沒有出現的話,逐字取自公報,但看不到前後其他人說了什麼;需要完整脈絡請看公報原文。

  1. 林倩綺

    導致這樣子的狀況,你們是不是可以趕快做個處理?尤其是最近普發現金,這個問題才又爆出來嘛,對不對?對。就很大量的爆出來。

  2. 林倩綺

    我們都看到相關報導,而且有相關的反應嘛。所以這個部分如果有,就麻煩你們即刻處理,不要因為這樣一個項目而導致全面被凍結,好不好?

  3. 林倩綺

    對我們來講都是法、都是條例,但對民眾來講,就是生活我們怎麼樣過得簡單一點,當我們有這麼多技術、這麼多科技、這麼多平臺協助,還有這麼多部會參與的情況之下,結果大家生活得越來越辛苦。我們知道警政署是很辛苦的,其實各部會跟這些主題都有關,不管是前段、中段、後段,我想你們應該都有很多處理的經驗,在這些經驗裡,我認為應該有更積極的一些作為。我們知道警政署很辛苦,本席問的很多的問題,到最後要嘛衛福部負責,要嘛警政署負責,不好意思,法務部你們應該有一些經驗,在跨平臺處理的時候,我覺得應該要整體連通,然後速度跑得比犯罪快一點,這樣我們就不會一直在後面追趕,謝謝警政署。我最後講一下,請司法院跟法務部,謝謝。我接下來談的是詐騙案的爆量跟第一線人員的問題。我們請司法院及法務部相關代表,本席關心很久了,每一次都提,就是司法院第一線人員的處境。我們知道大家現在面臨最多的就是詐騙案,整個司法體系已經超載了,不僅是承辦人員的人力不足,制度面本身也很難去因應這樣結構性的問題。本席也提出一些建議,你們可不可以在程序上做一些調整,比如減輕司法人員的負擔,有沒有可能例如擴大認罪協商制度的適用範圍,可以減少除外的範圍,擴大可協商的範圍,這個部分是不是就可以制度性或結構性的減輕第一線人員的負擔?因為詐騙案每年都超過數十萬件,對司法的能量其實蠻耗費的,目前整體刑案量以詐騙刑案量最多,第一線檢察官、書記官、法官都過勞,但是我們目前沒有辦法很快地直接處理這些問題,所以有沒有可能本席建議放寬認罪協商的程序,用程序改革來減輕司法的負擔、第一線人員的負擔?我們知道你們常常在徵聘人員,但是不是可以研議看看,讓證據明確而且犯罪樣態非常清楚的犯罪,可以更彈性來運用本席上面所講的一些程序上簡易處理的方法,你們是不是可以研議呢?

  4. 林倩綺

    因為時間的關係啦,你們是不是把相關報告送到本席的辦公室?本席也要檢視一下,你們這些方法有沒有符合整個國際的趨勢,相對比較彈性,而且對於人權也有一些關注跟保護的方向,好不好?好,謝謝。

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為林倩綺本人的發言。