民主進步黨・全國不分區及僑居國外國民從這段發言整理出的主張
政府機關使用人工智慧應有哪些規範？認為以AI作為辦案輔助的風險相對高，主張應有清楚界限，否則科技偵查可能從打擊犯罪變成擴大蒐集人民資料「但若作為辦案輔助來說，風險是相對高的，因為當中其實有很多機敏資料，例如通訊資料、定位資料、金融資料或網路活動紀錄，這些都跟人民隱私有關，若沒有清楚界限，那麼科技偵查可能就會從打擊犯罪慢慢變成擴大蒐集人民的資料」政府機關使用人工智慧應有哪些規範？要求法務部依據數發部已公布的AI風險分類框架，對目前試辦的檢察AI科技計畫進行完整的風險評估。「不過因為過去並沒有AI風險分類框架，過去數發部也沒有，但現在已經有了，所以是不是可以依據該框架來做完整的風險評估？」發言紀錄
- 張委員雅琳
謝謝主席，有請部長。
- 主席
有請鄭部長。
- 鄭部長銘謙
委員早。
- 張委員雅琳
部長早。我今天主要想跟部長討論兩個問題，有一個是關於新時代智慧檢察AI科技計畫，另外一個就是跟少年矯正學校有關係的題目。首先，我先來問AI科技計畫，我看到你們的預算裡面有列，但我還是要提醒部長，AI用在司法就要小心再小心，因為一個不小心、一個誤判或出錯都可能影響一個人的人生，部長應該認同我這句話吧？
- 鄭部長銘謙
是，這是一個輔助性的。
- 張委員雅琳
對，但是針對這個輔助性我就想要請教一些細節，因為這個計畫內容裡面包含用AI自動產製案件量大、重複性高的刑事案件結案書類，像是我們最近有非常、非常多的詐欺相關案件，也會透過AI自動生成被害人紀錄，還有訓練AI來分析筆錄、建議偵查方向，並且比對卷宗資料、提供決策建議。我想了解，你們是怎麼形成AI輔助計畫的想法？是看到其他國家有相關案例或研究，所以這次才做這樣的計畫嗎？
- 鄭部長銘謙
跟委員報告，事實上這計畫從111年就開始了，因為運用AI的確可以提升行政效率……
- 張委員雅琳
對，但現在有哪個國家有這樣的做法嗎？因為……
- 鄭部長銘謙
我們並沒有用AI來取代所有的書類製作與案件偵察……
- 張委員雅琳
我懂，我的意思是說……
- 鄭部長銘謙
我們之所以要運用，是因為AI是全球化趨勢，因而做了試辦，所以我們現在是試辦的階段。
- 張委員雅琳
我知道是試辦。
- 鄭部長銘謙
另外，剛才委員關心有關詐欺的部分，目前起訴的附表，包括被害人與車手取款的附表，是以現在卷證的資料去寫出來的……了解。
- 張委員雅琳
部長，我關注的是，現在其實還看不到有任何國家透過AI來協助辦案，對不對？並沒有相關案例，對不對？我們應該是全世界第一個吧？
- 鄭部長銘謙
以前有某個國家說用AI來辦案，因為……
- 張委員雅琳
哪一個國家？這個……我查不到資料。
- 鄭部長銘謙
我是說有一個國家……後來被禁止了，它是用AI、用人工智慧來摘錄，取代所有的案件處理……
- 張委員雅琳
我知道。
- 鄭部長銘謙
我們現在的計畫內容是只有比較機械型的部分才用AI來做勾稽而已，來作為參考……
- 張委員雅琳
我知道你的意思……
- 鄭部長銘謙
但還是不能盡信，我們也知道委員所關心的重點，所以之後還是需要一一驗證。
- 張委員雅琳
我知道，但為什麼其他國家連我們這樣的程度都沒有？其實大家都不免擔心，相關團體也告訴我們，一般在行政輔助上的風險層級是低的；但若作為辦案輔助來說，風險是相對高的，因為當中其實有很多機敏資料，例如通訊資料、定位資料、金融資料或網路活動紀錄，這些都跟人民隱私有關，若沒有清楚界限，那麼科技偵查可能就會從打擊犯罪慢慢變成擴大蒐集人民的資料，因此只要開始使用，風險就存在了。雖然現在只是試辦計畫，而我也收到你們的回復，當中提及未來正式上線時，會依照人工智慧法的風險框架去做分析。所以我想請教部長，數發部的AI風險分類框架已經公布了，法務部預計何時會依照框架對AI科技計畫進行完整的風險評估？
- 鄭部長銘謙
我們會依照人工智慧基本法來做風險評估……
- 張委員雅琳
對，所以我問預計什麼時候？畢竟現在已經公布了，你們的排程大概是什麼時候？還是你們這個計畫不是今年要上線？
- 鄭部長銘謙
這部分我們隨時都有在做檢視。跟委員報告，事實上……
- 張委員雅琳
這個計畫什麼時候要上線？你們預計在什麼時候上線？
- 鄭部長銘謙
這部分我是不是請檢察司副司長來說明？
- 張委員雅琳
好，可以。
- 簡副司長美慧
跟委員報告，這是一個三年期的科技計畫，目前為試辦階段，在四個地檢署試辦，因此會蒐集這四個地檢署試辦的回饋意見，希望可以透過科技化的方式來輔助檢察官處理機械性、事務性等事情，不要重複浪費檢察官的人力。
- 張委員雅琳
所以115年的計畫是延續之前未完成計畫所編列的預算嗎？
- 簡副司長美慧
從111年開始就是三年期計畫，現在是第二個三年期計畫……
- 張委員雅琳
第二個三年期的開始嘛？
- 簡副司長美慧
是，第二個三年期。
- 張委員雅琳
第二個三年期你們預計什麼時候要開始？
- 簡副司長美慧
目前就是第二期的開始，現在都還在試辦當中，我們現在希望可以生成簡易的，像酒駕的書類是用……
- 張委員雅琳
好，我懂你意思了。也就是說你們現在已經開始了，是延續性計畫，對不對？
- 簡副司長美慧
對，試辦。
- 張委員雅琳
不過因為過去並沒有AI風險分類框架，過去數發部也沒有，但現在已經有了，所以是不是可以依據該框架來做完整的風險評估？
- 簡副司長美慧
跟委員報告，就初步研判與檢視，我們認為不至於產生人工智慧基本法第五條所列之高度風險，目前的研判是不至於，將來正式上線時，我們會按照人工智慧基本法的規定來處理。
- 張委員雅琳
沒問題，請把你們的評估報告送到司法及法制委員會，好不好？
- 簡副司長美慧
好，是，謝謝委員。
- 張委員雅琳
什麼時候可以送給我們？
- 簡副司長美慧
如果一個月……
- 張委員雅琳
你們都已經做完了，不是嗎？既然評估都沒有問題，為什麼還要一個月？
- 簡副司長美慧
我們只是初步的檢視評估，若要提供給委員的話，就要寫得再更完整一些。
- 張委員雅琳
這樣要一個月嗎？應該只是強化而已吧？兩個禮拜可以嗎？好，是。好不好？
- 簡副司長美慧
謝謝委員。
- 張委員雅琳
再來也是一個提醒，也就是AI偏誤的問題。基本上我們倒給AI什麼樣的資料，AI就會產出什麼樣的結果，所以倒資料這件事就要非常、非常小心。我想要了解的是，因為司法資料從來都不是中性的，可能有哪一些案件經常被偵辦，有哪些族群經常被盤查，哪些地區可能被列為高風險，哪些人的說法可能比較容易被信任，這些都可能放在資料裡面。因此我想了解，目前在試辦時有沒有做相關的偏誤測試或檢測？
- 鄭部長銘謙
酒駕跟詐欺案件有做這樣的……現在試辦的就是用酒駕跟詐欺案件……
- 張委員雅琳
酒駕跟詐欺，是嗎？對。我想請問，酒駕與詐欺可能會牽扯到不同樣態的被害人，也可能會有兒少，可能也會涉及性別的部分，所以是不是會邀請外部專家一起來評估？會不會因為這些人相對比較弱勢，造成系統資訊上的偏誤？或者他可能比較不善於表達，於是在AI的資料上就讓他承受了更高的被標記的風險，有沒有可能？
- 鄭部長銘謙
跟委員報告，其實現在AI只是輔助工具，而且是以現有的卷證資料去做擷取勾稽而已……
- 張委員雅琳
我知道，但卷證資料就是可能會有偏誤，尤其經過大量訓練之後，所以我才想問是不是有偏誤測試？
- 鄭部長銘謙
還是需要人工去做最後的確認。
- 張委員雅琳
沒關係，我們會再了解你們是如何去做資料的訓練，好不好？
- 鄭部長銘謙
而且我們AI的資料並不是從外面蒐取的……
- 張委員雅琳
我知道。
- 鄭部長銘謙
因為我們是用人工去挑、去整理……
- 張委員雅琳
沒關係……
- 鄭部長銘謙
這樣反而會有錯誤，其實AI的運用除了可以提升行政效率外，也可以提高正確性，而且我們沒有去擷取外部的資料。
- 張委員雅琳
我知道，但就算是過去的醫療診斷資料，在其他國家也是會擔心可能會有標的與訓練上的問題……
- 鄭部長銘謙
所以最後需要人工確認，就是要由人工來做驗證。
- 張委員雅琳
沒關係，我們再約時間來了解你們如何把資料倒進去，好不好？就是你們怎麼倒資料、你們的流程是怎麼做的，好不好？我們再約時間，因為我今天還有其他問題要問。再來，我想請教矯正署有關矯正學校的問題。過去談到少年矯正學校時，常常把四所矯正學校一概而論，一起談預算、人力、處遇、技訓等等，但其實這四所學校落差有一點大，像明陽比較接近少年刑罰的執行，而其他三所比較是感化教育；其次，他們轉變成學校型態的時間也有落差，對不對？因此這四所學校所需要的支持都不太一樣！我想要了解，過去在編列預算時是怎麼編列的？去年被通案刪減了一千六百多萬，你們是如何配置刪減數？是四所學校直接除以四、一千六直接除以四，然後大家一起分？抑或你們是怎麼分的？有關編列與刪減部分可以簡單說明一下嗎？
- 林署長憲銘
謝謝委員關心。有關去年被刪減的一千六百多萬，我們是先看各機關的需求，再做平均的刪減，大概會影響機關的建築維護與設備添購，以及專業輔導人力的聘請，我們會視各學校的需求做不一樣的刪減。至於三所感化教育學校與一所刑罰執行的學校，則整體包括在裡面，依各學校的狀況來平均分配，以符合其需要。
- 張委員雅琳
所以基本上你們就是以學校提出來的需求去做刪減或編列，對嗎？是、是。好。我想要了解的是，我這次去看的時候，學校有反映刪減的預算其實直接影響到學生們……我們去看的是敦品中學，說是直接影響到學生可以接受心理諮商輔導的次數。我想有一個非常重要的重點，這些孩子終究要復歸社會，對不對？我們的目標其實是要幫助這些學生回到社會。因此刪減心理支持與輔導次數，就會影響到他們未來離開學校後會不會再犯、是不是能夠順利銜接？這就是關鍵之處。所以希望未來在刪減時……當然我還是希望，而且我當天也要求矯正署，要把實質影響具體提供給司法及法制委員會委員的手上，讓所有委員很清楚的知道，今天你刪減這筆預算，到底對於實質的現場，特別是對我們的少年們會造成什麼樣的影響，這份資料我那時候是要求兩個禮拜內，所以應該是下禮拜會到。我剛剛也有聽到主席也非常關心我國監所的一些人權議題，所以我也希望這份資料再追加，是不是可以針對監所的處境上面，去年的預算刪減實際上對他們的影響是什麼，這樣我們委員會接下來要做審查時，大家會更清楚地知道我們今天所關心的到底跟預算有沒有關係，我們在做預算刪減或凍結的時候就要更謹慎小心，可以嗎？這個是不是可以一併提供給我們所有司法及法制委員會的委員，好不好？
- 林署長憲銘
可以，謝謝委員的支持。
- 張委員雅琳
接下來，未來如果委員們真的下手，就是還是有刪減的時候，拜託可不可以不要去刪減到我們孩子的心理諮商跟特教支持的經費，好不好？可以嗎？
- 林署長憲銘
是，我們會儘量爭取，謝謝委員。謝謝。
- 主席
謝謝張委員。接下來，我們邀請沈發惠委員發言。
對話紀錄沒有收錄的發言
這場會議很長，上面的對話紀錄只保留了一部分。以下是張雅琳在同一段發言裡、上面沒有出現的話，逐字取自公報，但看不到前後其他人說了什麼；需要完整脈絡請看公報原文。
- 張雅琳
好，我懂你意思了。也就是說你們現在已經開始了，是延續性計畫，對不對？不過因為過去並沒有AI風險分類框架，過去數發部也沒有，但現在已經有了，所以是不是可以依據該框架來做完整的風險評估？
- 張雅琳
所以基本上你們就是以學校提出來的需求去做刪減或編列，對嗎？是、是。好。我想要了解的是，我這次去看的時候，學校有反映刪減的預算其實直接影響到學生們……我們去看的是敦品中學，說是直接影響到學生可以接受心理諮商輔導的次數。我想有一個非常重要的重點，這些孩子終究要復歸社會，對不對？我們的目標其實是要幫助這些學生回到社會。因此刪減心理支持與輔導次數，就會影響到他們未來離開學校後會不會再犯、是不是能夠順利銜接？這就是關鍵之處。所以希望未來在刪減時……當然我還是希望，而且我當天也要求矯正署，要把實質影響具體提供給司法及法制委員會委員的手上，讓所有委員很清楚的知道，今天你刪減這筆預算，到底對於實質的現場，特別是對我們的少年們會造成什麼樣的影響，這份資料我那時候是要求兩個禮拜內，所以應該是下禮拜會到。我剛剛也有聽到主席也非常關心我國監所的一些人權議題，所以我也希望這份資料再追加，是不是可以針對監所的處境上面，去年的預算刪減實際上對他們的影響是什麼，這樣我們委員會接下來要做審查時，大家會更清楚地知道我們今天所關心的到底跟預算有沒有關係，我們在做預算刪減或凍結的時候就要更謹慎小心，可以嗎？這個是不是可以一併提供給我們所有司法及法制委員會的委員，好不好？接下來，未來如果委員們真的下手，就是還是有刪減的時候，拜託可不可以不要去刪減到我們孩子的心理諮商跟特教支持的經費，好不好？可以嗎？
文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為張雅琳本人的發言。