何志偉於司法及法制委員會第15次會議一、邀請法務部部長率所屬單位主管列席報告業務概況及立法計畫,並備質詢

民主進步黨民主進步黨・臺北市第2選舉區

從這段發言整理出的主張

人工智慧生成的內容(含深度偽造)應如何標示或規範?認為Deepfake如果不正當、惡意地去做傷害性的使用是不對的。「當然我們認為Deepfake如果不正當、惡意地去做傷害性的使用是不對的。」人工智慧生成的內容(含深度偽造)應如何標示或規範?認為不論是真實影片或Deepfake,其比例原則說明不夠清楚,是否應該要做調整「我認為不管是真實的或者是Deepfake,它的比例原則說明不夠清楚,是否應該要做調整?」人工智慧生成的內容(含深度偽造)應如何標示或規範?主張不能只談罰幾年、罰多少錢,真正要做的是停止傷害、停止二次傷害、三次傷害。「我們真正要做的是停止傷害、停止二次傷害、三次傷害,這才是真正該做的」人工智慧生成的內容(含深度偽造)應如何標示或規範?認為第三百六十二條之一的規定是在扼殺產業,影音界、電玩界相對關注,應說清楚。「這個部分我認為我們在扼殺的是一個產業」

發言紀錄

  1. 何委員志偉

    (10時43分)部長跟現場的同仁,非常謝謝。我相信現場的各位在法律上面都是專業的,而且以檢察官來講,是要為國家、為正義發聲的人。今天先跟部長再回憶一下過去我開過一個臺版N號房的記者會,裡面有很多未成年及成年人的不雅影片、圖片,全部散播在網路上面,而且他們很病態的組成了一個同好會,彼此之間不以錢來交易,而是以誰有圖,像是在玩pokemon一樣,集卡互相交換,這種病態的行為在美國也好,在其他國家也好,特別在歐洲系統國家是嚴格的被禁止。

  2. 今天另外一個命題討論的就是Deepfake,我先請教部長,任何一個人不管年紀、性別等等,他的真實私密影片遭外流傷害比較大?還是Deepfake的私密影片散播在網路上面被外流的傷害比較大?哪一個的情節比較嚴重?哪一種的傷害比較嚴重?真實的還是Deepfake的?

  3. 主席

    請法務部蔡部長說明。

  4. 蔡部長清祥

    委員好。都很嚴重,都是傷害別人。

  5. 何委員志偉

    是,兩個一樣嚴重。因此我樂見法務部在11月17日針對Deepfake有一個修法版本,新聞稿有說增訂製作或散播他人不實之性影音罪,在這裡就是五年到七年有期徒刑,如果有營利是七年,就教五年跟七年是怎麼決定的?

  6. 蔡部長清祥

    意圖營利處罰當然要比較重,所以我們權衡相關條文的處罰刑度來訂定。

  7. 何委員志偉

    這是第三百十五條之五,我們看第二百三十五條散播、播送、販賣文字、圖畫、影音等其他物品,處兩年。部長,我們剛剛有一個共識,不管是真的還是假的、Deepfake的,以假亂真或真實的影片都很嚴重,為什麼第三百十五條之五是五年到七年,第二百三十五條是兩年呢?有個嚴重的問題是外界在攻擊Deepfake,說弄到了不該弄的人所以刑責比較重,這個人叫蔡英文總統,外界在攻擊這個點,你要如何回應?

  8. 蔡部長清祥

    我們當初的思考是這兩個行為都不當、都很嚴重,但刑度上要有些區別。

  9. 何委員志偉

    這兩個一個是兩年,一個是五年到七年,一個是真的,一個是假的,這個的比例原則你要如何說明?

  10. 蔡部長清祥

    因為真的東西畢竟接觸到的人比較少,假的東西是任何人都可以用電腦合成或其他不法的方法製作,所以假的可能性擴及的範圍會比較大,當初是這樣思考,真的畢竟是少數人擁有,所以它的流通性不會那麼廣。

  11. 何委員志偉

    第一個你說是流通性。

  12. 蔡部長清祥

    但是做假任何人都可以做。

  13. 何委員志偉

    第二個是什麼?

  14. 第一個是依照流通性,因為Deepfake製作成本相對低,所以要用比較重的刑責來處理,這是第一個叫流通性,還有製作的成本是不是?

  15. 蔡部長清祥

    不是成本,是它可能影響的層面,且任何人都可以用電腦合成來製作,但是真的東西只有少數人擁有,它的傷害性可能沒有假的那麼大,我還是強調兩種都是不應該存在的,但是總是有一個權衡。

  16. 何委員志偉

    部長的說法我比較不能夠接受,因為現在一個LINE或一個群組裡面,可以有4,000人、5,000人,幾千人都有可能,他隨意的散播或者丟到網路上面,你不要講別的,比如中國的彭帥事件一po網,短短幾分鐘之內已經全球都知道了,所以它的可複製性是無限的;甚至未來還有區塊鏈,很多東西po到網路上面永恆存在,所以你在講流通性等等,我認為這樣做是否適當有疑慮。接下來我還是要確認這裡的五年到七年,一個叫製作,那另外一個就是有make profit營利的話,刑責一個是兩年、一個是五年到七年,我提出我的見解跟想法,當然我們認為Deepfake如果不正當、惡意地去做傷害性的使用是不對的。

  17. 另外一個命題是罰多重、罰多少錢其實不見得是受害者真正最在乎的,剛剛提到的臺版N號房裡面有很多、很多的受害人是未成年。根據兒童及少年性剝削防制條例第八條網際平臺提供者應該要移除它,可是有個問題很棘手,當犯罪人及犯罪工具是在境外而非在中華民國、非在臺灣境內的時候對受害人完全沒有用,它還留在那裡這該怎麼辦?

  18. 蔡部長清祥

    這部分要……

  19. 何委員志偉

    這是針對未成年的部分,應該下架但是還留在網路上。你應該有注意到我之前開的記者會,此時此刻如果後面project出來都還在,我馬上就可以在你面前download下來給你看,但是我不可以在這裡做這件事。如果是境外該怎麼辦?

  20. 蔡部長清祥

    我們想辦法看是用扣押方式,或是看有權責的主管機關用什麼方式一起來處理。

  21. 何委員志偉

    部長你知道嗎?最近這兩年一個美國的情色網站,美國和歐盟的作法是集結所有的力量,甚至連信用卡金融公司力量都介入了,它有一篇專題叫做被消失的童年,這些小孩minor的porn全部上去,後來全部都下架了。臺灣全世界都還在看,我們這些在宿舍的、在教室的這些非常非常令人噁心的未成年的影片都還在,自從我開記者會到現在也超過半年了還在境外,所有東西全部都交出去現在正在訴訟當中,你可不可以給我一個承諾──我們可不可以讓這些影片下架?

  22. 蔡部長清祥

    下架的問題不是法務部能夠單獨處理的,我們只能協助主管機關,比如NCC或是其他的負責單位……

  23. 何委員志偉

    因為裡面涉及成年和未成年,成年的部分依照刑法第二百三十五條我們可以沒收之,但是我們遇到一個問題是散播猥褻物品要有罪判決後法官要求下架才有可能,它不下架頂多繼續罰錢,所以這部分就是我們今天面臨的問題,不是丟出罰幾年、幾年、幾年;罰多少錢、多少錢、多少錢就好,真正對受害人最大的傷害是他們這些影片就像區塊鏈一樣,永遠留在那裡。我們真正要做的是停止傷害、停止二次傷害、三次傷害,這才是真正該做的,所以我們可以為這些青少年做些什麼事?我們可以為這些不管男性或女性的受害者做些什麼事?可以請您回應一下嗎?

  24. 蔡部長清祥

    我們非常同意委員所講的,不是只有處罰刑度的問題,是要能夠真正停止傷害,而且能夠儘快地把那些影片移除也好……

  25. 何委員志偉

    今天是不是彼此承諾一個時間點,好不好?

  26. 蔡部長清祥

    但是我能做的就是在刑法的相關條文裡……

  27. 何委員志偉

    這個不是民眾的期待,受害人高達三千、五千人,裡面記者、運動員都有,甚至公務人員、消防員、警察都有,但是他們的影片現在都還在網站上。這個部分一個月讓它們下架好不好?

  28. 蔡部長清祥

    下架不是我能單獨處理的,我願意反映,我願意共同……

  29. 何委員志偉

    我們彼此承諾,但是我們都是過程當中可以施力的人,不然我選得這麼辛苦來到質詢臺上,民眾聽到我說何志偉沒辦法……

  30. 蔡部長清祥

    如果委員主持邀請相關部會共同開會商討什麼問題……

  31. 何委員志偉

    這是另外一件事情。

  32. 蔡部長清祥

    我們樂意參加。

  33. 何委員志偉

    接下來, Clarke在2019年提出深度偽造究責法案,它說Deepfake只要口頭陳述或簡要說明讓視聽者知道並非是真實影像就可以,但是今天我認為應該要修正,增訂的第三百六十二條之一現在是完全不能做Deepfake或者simulation這些影像處理,這個是事實嗎?

  34. 蔡部長清祥

    第三百六十二條之一是指跟性影片沒有關係的其他不實影音資料,我們用妨害電腦犯罪的罪責加以處理。

  35. 何委員志偉

    第三百六十二條之一它會重是說它除非是攻擊性或不雅影片這種才算是不是?還是所有模擬的東西都不能做?

  36. 蔡部長清祥

    對,不實的。

  37. 何委員志偉

    不實的?這樣滿奇怪的!玩命關頭七的保羅沃克死掉了,現在他們全部都是用simulation動畫的東西做出來,在美國可以拍在臺灣卻不能做了,是這樣子嗎?

  38. 蔡部長清祥

    我想個案情節我們來……

  39. 何委員志偉

    這個部分我認為我們在扼殺的是一個產業,所以我請您是不是今天會後針對第三百六十二條之一發布新聞稿講清楚?講到simulation,白雪公主是最經典的案例,迪士尼的白雪公主為什麼在全世界會變得這麼紅、變成經典中的經典?是因為當初動畫就是用真人畫出來的,隨著科技跟演算法的進步之後才有後續這些動畫的產生,讓它自動化。但是我們的第三百六十二條之一是不是讓未來這些所謂的simulation都不能再做了?模擬都不能再做了?在這個部分,業界、整個影音界、包含臺灣的電玩界是相對關注的。

  40. 蔡部長清祥

    我再說明清楚一點,這個行為當然不對,但是它要有一個足以生損害於公眾或他人的結果,還是要有這個要件,而不是做這個行為就要處罰,是這個行為後面會產生足以損害於公眾或他人者,還是有要件的。

  41. 何委員志偉

    OK,因為Deepfake根本就不是新的科技,但是有些東西要講清楚,不然外界亂歪樓不好,今天總結幾個重點,第一,我認為不管是真實的或者是Deepfake,它的比例原則說明不夠清楚,是否應該要做調整?第二,針對我剛剛講的第三百六十二條之一也要再說明清楚好不好?我認為這個有違比例原則,不管是真的還是假的,我們不能讓外界去講說因為小玉弄到了不該弄的人就如何、如何,不管是真的還是假的影片,傷害都是一樣的,但是我心裡面認為散播、交流、交換真實的影片,對當事人的傷害是刻骨銘心、一輩子的,這些事情都亟待解決。以上,謝謝您的時間,謝謝主席。

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為何志偉本人的發言。