從這段發言整理出的主張
人工智慧生成的內容(含深度偽造)應如何標示或規範?認為如果書狀的重要內容、法律研究或引用的資料是AI生成,應課予基本的查證跟揭露責任。「本席認為如果書狀的重要內容、法律研究或引用的資料是AI生成,應該要課予基本的查證跟揭露的責任。」人工智慧生成的內容(含深度偽造)應如何標示或規範?要求司法院就明知或重大過失未經查證、卻向法院提交AI虛構的法律依據或裁判的情形,與法務部及律師公會研議裁罰規範。「如果明知重大的過失,但沒有查證,結果還向法院提交了AI虛構的法律依據或裁判,司法院是不是應該要跟法務部及律師公會研議一下一些裁罰法的規範?」發言紀錄
- 林委員倩綺
謝謝主席翁召委,先請司法院高秘書長。
- 主席
請高秘書長。
- 高秘書長金枝
委員好。
- 林委員倩綺
高秘書長,您好。本席今天第一個問題,先就有關於司法跟行政機關的資料斷鏈會不會影響相關的司法正義跟您就教,也就是行政機關相互橫向聯繫的問題。我們從一個案例來談,高等法院最近審理了一起越南移工過失致死的案件,因為在6月開庭的時候,兩名被告都沒有到庭,後來查詢才發現兩個人早已經被移民署驅逐出境,雖然有發布通緝,但是人都已經離境了,後續的刑事審判要怎麼進行?被害人家屬要如何來追究相關責任?就變得有點困難。依本席的理解,一審判決無罪,但是如果沒有聲請限制出境,法院也認為沒有羈押或境管的必要,不能因為案件還沒有定讞就無限期限制外國人離境,這會涉及無罪推定跟基本人權,但是這個案件暴露出法院知道案件還在進行,結果移民署可能掌握當事人已經逾期居留,依法可以驅逐出境,變成兩套制度各自依法行政之下,資訊沒有互通,就產生被告離開臺灣的結果。請教一下秘書長,第一個,目前法院跟移民署之間,對於涉案外國人的刑事案件進度是不是還在上訴、有沒有需要到庭,整體來講,有沒有制度化的通報跟查詢機制?第二個,要不要建立分級處理制度?例如涉及重大犯罪,被害人死亡或重傷,被告仍有高度到庭必要的時候,民刑事求償尚未完成的案件,行政機關決定強制驅逐之前,是不是應該要向法院或檢察機關查詢案件的狀態,然後再決定是不是要暫緩執行?這個部分本席認為司法院跟移民署、法務部應該建立一些比較確實的資訊互通平臺,然後即時聯繫。不曉得您對於本席剛才提出意見的看法為何?
- 高秘書長金枝
謝謝委員。其實從這個案件裡面,我們現在已經和法務部、移民署……這個案件的發生,真的是有點斷接,對於這部分怎麼樣如委員所說的,要整個從頭到尾完全聯繫在一起,我們和法務部、移民署已經互相講清楚、說明白什麼時候應該要通報,譬如檢察官起訴送來的資料就要寫清楚,法官對於這個個案是不是要繼續境管或怎麼樣處理,也要說清楚,當然最重要的是移民署跟法院之間彼此有什麼動作,大家也要聯繫清楚,也就是如同委員所說的通報機制,因為這個案件讓我們做了很多的改善。
- 林委員倩綺
好,謝謝秘書長。先前就是因為這個案子後,大家發現了資訊斷鏈的狀況,因此你們現在也即時做補救。今天談的其實是這個移民案件,但是法院跟行政機關橫向聯繫也常存在斷點,有沒有可能在其他的領域也發生?本席這邊提醒幾個面向,你們是不是要再做檢視?比如說兒少案件也涉及了社政、教育、警政跟法院;毒駕的案件可能會涉及警政、檢察、法院跟監理機關,在法院做處分之後,相關的行政機關有沒有即時收到資訊?或者是行政機關要採取重大措施之前,有沒有確認整個司法的程序狀態?這個部分各機關如果依照自己的法規來辦理,最後會不會變成共同製造出制度性的漏洞?所以本席要求,法院跟移民、警政、社政、教育及監理等行政機關,針對哪一些類型案件需要即時做資訊的交換,哪一些程序可能需要事前的做查詢,哪些情況要建立跨機關通報機制,是不是可以請司法院做一下檢視?
- 高秘書長金枝
跟委員報告,其實相關刑事判決,如果行政機關他們有需要的時候,以前早期書記官都是要把判決書寄給相關機關,這個是判決以後。至於剛剛委員所說是在審判程序中,其實我們現在各機關,尤其資訊數位化後,很多數位資訊的聯繫,我們跟警政、跟衛福,尤其是我們少家廳在衛福、精衛法這部分有設立數位系統。我們也期待跟法務部設立一個數位平臺,從最源頭到審判,甚至到將來檢察官的執行都能夠走數位化,大家資料在上面,除非必須要隱蔽,或者有機密問題外……
- 林委員倩綺
有個資或某些資訊不能外洩。
- 高秘書長金枝
其實應該能夠在平臺上大家共通,這個是我們現在共同在努力的方向。因為很多情形,譬如我們判決寄出去了,但收受的機關有沒有放在平臺上,它可能是用文書存放的方式,這個資訊就會不見……
- 林委員倩綺
我想可能在你們建構這個平臺的時候,每一個單位都要針對這個平臺,能夠真的互取……
- 高秘書長金枝
對,要能互相介接。
- 林委員倩綺
而且對他們來講是實際能夠執行的。
- 高秘書長金枝
對,其實各機關應該都有平臺針對他們所需要資料做存檔或建立,因此哪些資料可以共享、能夠介接,這個是我們現在努力的方向。像我們現在跟衛福部為了精衛法庭,在資料的介接上就很順利……
- 林委員倩綺
所以,本席就提醒,你們可能有些已經在做,有些現在還在討論,討論的時候,是不是針對最後在平臺的互通跟順暢性,或者是每一個平臺要怎麼用,大家彼此能夠就這些案件真正達到執行的效能,這個是重要的。
- 高秘書長金枝
對,謝謝委員。
- 林委員倩綺
最重要就是要確保整個司法的正義,確保整個司法的程序不會因為行政機關彼此資訊斷鏈失去作用,所以這個部分,後續您是不是可以給本席研究室相關資訊,關於你們平臺的作業流程跟必要的法制精進報告,可以嗎?
- 高秘書長金枝
因為我們是最後端的審判機關,前面的偵查機關、警政機關,如果大家資料能夠共通,除了機密以外,如果能夠共通的話,就不會發生剛剛委員所說的這種擔憂的現象。所以我們也非常期待法務部能夠跟我們互相共通,其實一個串流過來,大家能輕鬆即時接獲資訊,這都是我們共同在努力的方向。我們會再跟委員……
- 林委員倩綺
看起來後續你們跟法務部還要再做更緊密的討論……
- 高秘書長金枝
對,沒錯。
- 林委員倩綺
如果有相關的結果,是不是能把剛才本席所講的有關資訊,還有作業流程及你們要精進的方式,先給本席一個簡要的報告,如果真的有一些實際的進行,請你們後續再補上,好不好?是。好,謝謝。接下來還是跟你們有關的,本席也要提醒,不曉得你們有沒有意會到,AI的訴狀大量進入法院,有些風險控管的議題應該要來處理內外雙軌的制度,也就是本席剛才談的資訊斷鏈會讓訴訟的程序可能發生漏洞,但是另外一個快速正在發生的資訊風險,就是當生成式AI訴狀開始湧入法院,有些錯誤跟虛構、或者是無法追溯來源的法律資訊如果沒有好好控管,整個司法的負擔跟風險會很大。最近一個案例是桃園地院有法官在判決當中直接提醒當事人要找一個人類律師。我想我們在許多的系統上都有系統提醒跟你確認「你是否是人類?」可是現在看起來,連法院的訴狀都會產生這樣的問題。所以到底你的律師是不是人類,會導致剛才本席所講的資訊錯假及資訊來源不明相關的議題。實際上已經發生了氾濫的AI生成書狀,雖然AI的生成對人有很大的協助,但是可能會發生假設進去的資訊不是那麼精確,甚至AI可能也會自己做一些想像,結果輕微可能會發生前後矛盾、抓不到重點;更深一層,它可能引用根本不存在的法條、判例跟實務見解,在這個資訊爆炸的時代,我想每個人都有可能會產生誤判了。所以雖然AI降低了法律文書的門檻,可以協助整理資料、製作一些時間軸,提供很多的協助,但是很關鍵的是如果最後這樣直接送入法院,也迫使法官、法官助理及書記官要花很多時間去判別、查證,有時可能大家還不知道究竟這個部分有沒有問題,那更遑論查證了!我們知道司法院今年已經函頒所屬機關使用人工智慧系統的指引,對法院內部人員已經有資安、個資以及人工覆核的要求,但是從剛才那個案例,看起來是臺灣的司法對於律師及一般民眾外部使用的明確AI規範,目前可能還有一些需要再調整、改進的。所以我請教你,司法院目前有沒有掌握AI生成訴狀進入法院的實際狀況?有沒有評估對這一類書狀的審理時間、查證的負擔跟書記官行政工作的影響?第二個部分,司法院有沒有評估法院內部人員跟外部訴訟參與者雙軌AI的規範?基本上目前對於律師跟一般民眾利用AI製作訴狀,還蠻缺乏明確的揭露義務,本席認為如果書狀的重要內容、法律研究或引用的資料是AI生成,應該要課予基本的查證跟揭露的責任。最後,如果明知重大的過失,但沒有查證,結果還向法院提交了AI虛構的法律依據或裁判,司法院是不是應該要跟法務部及律師公會研議一下一些裁罰法的規範?以上這三點,是不是請您做個回應?
- 高秘書長金枝
我非常非常贊同委員的意見,這個應該是現在各界都會面對的。我先跟委員報告,律師的管理是法務部主管,它一定要對這部分積極管理。然後我可以跟委員報告,其實我們都知道在AI的模型裡面,如果用NotebookLM,它絕對確認資料範圍是固定的,用別的東西可能會有幻覺。委員也有看到我們的指引,法官使用AI是不能夠用一般商用型的,除非我們將來資料是落地的,這個是很絕對的,商用型的資料是出去的,因為裡面有太多個資、機敏資料,所以我們的指引裡面寫得很清楚。萬一律師用AI作成書狀,如同委員說的,我們都知道常常會夾雜一些幻覺或是幻覺的法條,其實這就是法官的責任,當你要用律師的書狀,其實就是法官承擔的責任,你就要去分辨書狀,一定要分辨,其實這個分辨並不難,將來如果我們有資料落地型的AI工具來協助,其實馬上就可以分辨,這個是我們即將要做的事情。律師對於書狀要負什麼責任,我希望法務部能夠嚴格要求,因為這在世界各國、美國都一直發生,其實這個是妨礙司法的。如同這件案件,其實法官最重大的負擔就是在於律師提出來的書狀,絕對要去查證他所引的資料,一定要,因為你要引他的資料,你一定要查證他所引的資料,這就是負擔……
- 林委員倩綺
不知道未來AI可不可以生成到也可以把那個查證的源頭生成出來,不過這是另外一個層次的議題。
- 高秘書長金枝
對,其實我相信AI的功能真的很強,只是我們怎麼用,前提是我們要注意幻覺的形成,也一定要盡到查證的義務,我相信這是所有使用AI模型都要面對的。
- 林委員倩綺
這是全面性的問題。AI當然不是問題,但是最重要的是AI沒有規範是問題,可是AI生成的速度跟我們在追的速度,目前很難講。所以當事人如果大量使用錯誤的AI資訊,法院查證的成本也會變高,最重要的是大家最後的腦力、人力可不可以因應,也不是到最後所謂處罰的問題。前面大家有沒有這個能耐、速度和AI相比,我覺得這是一個基本的問題,你們可能在思考本席所建議的方向時,也要考慮到前面那個層次的問題,好不好?
- 高秘書長金枝
我們會朝這個方面,因為要使用AI,就如同委員講的,這就是我們要面對、解決的問題,謝謝委員提醒。
- 林委員倩綺
謝謝秘書長。接下來請法務部次長。
- 黃次長謀信
委員好。
- 林委員倩綺
剛才法務部也有大概略聽到相關的議題,法務部、司法院都有一些重疊到我們要處理跟因應的狀態,也請你們考量並研究如何因應。最後跟您請教檢察機關在辦案過程當中跨部會資料整合的問題,我們也是以一起案件來做個討論。橋頭地檢署偵辦一起現役軍人的酒駕案件,被告原本是緩起訴處分,結果因為沒有依照期限繳納5萬塊的處分金,檢方就撤銷他的緩起訴並起訴,結果這個案件到了法院,卻因為檢方把撤銷緩起訴的處分書寄到被告原本的戶籍地及居住地,沒有按照刑事訴訟法第六十二條準用民事訴訟法第一百二十九條規定,透過服役的軍事機關送達,因此法院認定送達程序不合法,撤銷了起訴處分尚未明確,最後裁定公訴不受理,現在這個被告在緩起訴期間入伍,而且役期是到2029年,也不是臨時或短暫的身分變動。在這個過程當中,被告在偵查、緩起訴或執行期間,發生身分變更的時候,就像剛才我們所講的已經入伍成為現役軍人,有沒有辦法主動即時取得相關資訊?接下來,如果目前檢察機關和國防部、內政、戶政等行政機關已經有資料介接或查詢機制,是不是在實際執行上有一些缺漏,所以沒有辦法直接發揮作用,是不是系統沒有更新,或者是某些技術性問題?這個案件本來應該是可以在事前確認送達程序的瑕疵,結果後來導致這樣的結果,不曉得你對這個案件或者是整體制度有什麼看法?
- 黃次長謀信
跟委員報告,因為這個案子被告的身分在送達的時候已經是現役軍人,所以按照刑訴準用民訴的規定,的確是應該向他所該管的軍事機關或者長官送達。這個案子後來是向被告的住所及居所地做補充送達,或者相關留置送達,送達本身的確是不合法,所以法院下一個不受理判決沒有錯,因為撤銷緩起訴處分還沒有確定。但是跟委員報告,這畢竟是法院的刑事判決,就檢察官來講,刑事判決回來之後,檢察官還是可以重新偵查,再行做相關的起訴與否決定,所以這不影響被告在實體上的權利,但程序上的確是有瑕疵,這是第一點。第二點,委員有提到送達的部分是不是要跟軍事機關有一些相互的聯繫,事實上,我們跟軍事機關之間有一個聯繫要點,規範彼此相互的聯繫,但前提是檢察官必須要知道這個人目前是現役軍人,所以在我們檢察官的辦案系統裡面,事實上,在資訊介接方面,檢察官有一個系統,理論上是可以查知這個被告目前是否在服役當中,理論上是這樣。但前提是檢察官有沒有去查,所以這個涉及到個案檢察官在被告起訴的時候有沒有敏感度,就是這個被告在這個年歲有可能是在服役當中。
- 林委員倩綺
這就是敏感度的問題,每個人不一樣。
- 黃次長謀信
對,所以這是當檢察官的基本認知,我們在各種場合也有提醒檢察官,在有可能入役的年齡,就要上系統去查他目前是不是在服役當中,如果沒有查清楚就會導致這個個案後面送達不合法、撤銷緩起訴不合法,甚至起訴不合法的問題。
- 林委員倩綺
所以從這個個案來看有沒有一些通案的因應,全面盤點在國防跟戶政機關之間的嫁接,你們再去做一下確認,系統如果有漏接就可以及時補強,系統如果已經完備就檢討整個標準作業流程,還有人員的訓練,特別是針對現役軍人、在監受刑人或收容人等特殊身分的送達規定,是不是也藉這個案子可以再做一些檢視?基本上,我們就從個案來看看,整體通案需要再做一些檢討的部分,本席這邊就提供你這個個案作為制度性檢討的案例,好不好?
- 黃次長謀信
跟委員報告,法律沒有問題,工具也沒有問題,檢察官的專業也沒問題,現在就是他的敏感度問題,就是檢察官在個案終結之前要更敏感地去查覺我剛才跟委員報告的,他有可能是現役軍人。
- 林委員倩綺
或許可以提供相關的資訊,再提醒一下檢察官。
- 黃次長謀信
我們會在檢察長會議的時候跟檢察長宣達這件事情。
- 林委員倩綺
好,謝謝。
- 主席(林委員倩綺代)
下一位請翁曉玲委員。
對話紀錄沒有收錄的發言
這場會議很長,上面的對話紀錄只保留了一部分。以下是林倩綺在同一段發言裡、上面沒有出現的話,逐字取自公報,但看不到前後其他人說了什麼;需要完整脈絡請看公報原文。
- 林倩綺
所以,本席就提醒,你們可能有些已經在做,有些現在還在討論,討論的時候,是不是針對最後在平臺的互通跟順暢性,或者是每一個平臺要怎麼用,大家彼此能夠就這些案件真正達到執行的效能,這個是重要的。最重要就是要確保整個司法的正義,確保整個司法的程序不會因為行政機關彼此資訊斷鏈失去作用,所以這個部分,後續您是不是可以給本席研究室相關資訊,關於你們平臺的作業流程跟必要的法制精進報告,可以嗎?
- 林倩綺
謝謝秘書長。接下來請法務部次長。剛才法務部也有大概略聽到相關的議題,法務部、司法院都有一些重疊到我們要處理跟因應的狀態,也請你們考量並研究如何因應。最後跟您請教檢察機關在辦案過程當中跨部會資料整合的問題,我們也是以一起案件來做個討論。橋頭地檢署偵辦一起現役軍人的酒駕案件,被告原本是緩起訴處分,結果因為沒有依照期限繳納5萬塊的處分金,檢方就撤銷他的緩起訴並起訴,結果這個案件到了法院,卻因為檢方把撤銷緩起訴的處分書寄到被告原本的戶籍地及居住地,沒有按照刑事訴訟法第六十二條準用民事訴訟法第一百二十九條規定,透過服役的軍事機關送達,因此法院認定送達程序不合法,撤銷了起訴處分尚未明確,最後裁定公訴不受理,現在這個被告在緩起訴期間入伍,而且役期是到2029年,也不是臨時或短暫的身分變動。在這個過程當中,被告在偵查、緩起訴或執行期間,發生身分變更的時候,就像剛才我們所講的已經入伍成為現役軍人,有沒有辦法主動即時取得相關資訊?接下來,如果目前檢察機關和國防部、內政、戶政等行政機關已經有資料介接或查詢機制,是不是在實際執行上有一些缺漏,所以沒有辦法直接發揮作用,是不是系統沒有更新,或者是某些技術性問題?這個案件本來應該是可以在事前確認送達程序的瑕疵,結果後來導致這樣的結果,不曉得你對這個案件或者是整體制度有什麼看法?
文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為林倩綺本人的發言。