王婉諭於報告事項

時代力量時代力量・全國不分區及僑居國外國民

從這段發言整理出的主張

人工智慧生成的內容(含深度偽造)應如何標示或規範?認為處理性私密影像(含深度偽造色情影片)只修正刑法並不足夠,還需處理事前防止影像外流、私密影像下架的公權力與強制力,以及偵查審理階段的被害人保護。「我們認為只用刑法修正其實是不足的部分,包括剛剛提到的事前應該避免掉的影像外流,或者是私密影像下架的公權力,還有強制力的部分,以及在偵查和審理階段,被害人的保護措施等部分,其實都非常重要。」人工智慧生成的內容(含深度偽造)應如何標示或規範?主張私密影像下架不應只靠不具公權力的iWIN協助溝通,應採更強烈積極的手段,並借鏡韓國KCSC加強主責機關功能與跨部會合作。「本席認為,這部分我們應該要用比較強烈或是積極的手段,而不是用這樣溝通的方式。這部分我們是不是有可能可以借鏡韓國,加強主責機關的運作及功能以及協調相關部門」人工智慧生成的內容(含深度偽造)應如何標示或規範?認為iWIN每年僅約200萬元經費,相較韓國KCSC約2億元,能處理私密影像下架的範圍非常有限。「KCSC的經費每年大約編列新臺幣2億元,但是iWIN大約只有編列臺幣200萬元,在經費有限的情況下,本席覺得可以處理到的範圍其實非常有限。」

發言紀錄

  1. 王委員婉諭

    (11時44分)主席好,有請行政院蘇院長。院長,你好。我相信近幾年來我們看到非常多案件都跟性私密影像有關,許多時候都是發生在未經當事人同意的情況下,我們普遍知道的情況大概有三種,第一種是被廣泛外傳的私密照片或影像,第二個是親密關係的加害人利用性私密影像威脅或控制被害人向外求助的可能性,這些事件都引起社會軒然大波,還有就是近幾年網紅利用深度偽造(Deepfake)技術製造幾可亂真的色情影片在網路上牟利。

  2. 我知道今天雖然是軍購預算審查案,但是隨著數位科技的普及,在案件越來越嚴重也越來越多的情況下,我們看到法務部的態度就是修刑法,但是我認為這部分有必要來跟院長討論,行政院的態度是如何、修刑法就足夠了嗎?

  3. 首先,11月17日法務部提出刑法部分條文修正草案到行政院,現在民眾都還看不到草案的內容,但是根據蔡部長的說法,內容大概含有加重竊錄性影音罪、增訂散布性私密影音罪、製作或散布他人不實活動、談話、影音罪,除此之外,其實還有很多部分我覺得都很重要。其中包括第一項,我們認為親密關係當中,當親密關係的被害人受到暴力對待之後,卻遲遲不敢報案,或是提分手不成卻又不敢離開對方,其中有半數以上的原因就是可能對方持有性私密影像,雖然還沒有散布出去,其實已經造成被害人不敢對外求助的現象,像這種控制手段,也是數位暴力常見到的性勒索樣態。所以想請教,以現在法務部所研擬的刑法修正草案有可能處理到這個部分、有可能在還沒有散布出去之前就要求法院核發相關處分,建立預防性刪除法源嗎?有沒有可能在影像遭到大量複製或流出之前,就讓這些持有影像的加害人有可能交回或刪除影片?我們希望不要讓這件事情發生,我們應該在前端就開始預防和做預防性的處理。

  4. 主席

    請行政院蘇院長答復。

  5. 蘇院長貞昌

    (11時46分)委員,你好。謝謝委員指教,委員所點出來的正是現在社會一種犯罪手法及現象,隨著科技的進步,不肖之徒以新的科技做為犯罪的手段,並進而達成各種被害人嚴重的損害。所以,現在法務部已經訂出相關修正案送到院裡面來,我已經……

  6. 王委員婉諭

    裡面包含了可以處理到這一項嗎?

  7. 蘇院長貞昌

    我已經責請羅秉成政委就這些相關事項,一方面預防性防止,一方面更要減少損害擴大、流傳等,所以還有相關配套措施,第三方面就是對犯罪者的嚴厲懲處。

  8. 王委員婉諭

    目前我們只有看到刑法修正案會提出來,但修正內容是什麼?我想請教的是,以刑法來說,我們一項、一項來討論,第三項的事前即時避免性私密影像外流會在哪個部分處理?什麼時候會處理?

  9. 蘇院長貞昌

    我已經請羅政委儘快,對於達到我剛才所說這三個領域的滿足,儘快提出來,請貴院支持。

  10. 王委員婉諭

    好。所以我們一項、一項來討論,這部分可能會處理到。接下來就是性私密影像下架的法源來自哪裡?我們知道目前雖然有iWIN,但iWIN主要處理對象是兒少,希望用擴大主動服務的方式處理到成人,但這部分是不是有法源依據讓它能夠即時下架?就我的瞭解,現在是沒有法源依據的,而是要等到提告或是判決確定之後,可能在長達半年之久之後才有可能處理到這個影像,但在這情況下,影像早就已經不知道傳播到哪裡去了。所以想請教,這部分會用什麼方式處理?刑法有處理嗎?還是哪個部分?

  11. 蘇院長貞昌

    就是相關的保護對象因為有不同,原有的法律,包括兒少法等等都有,這一次拜託羅政委把相關需要改的部分都能夠到位。

  12. 王委員婉諭

    瞭解。所以聽起來是還不知道方向是什麼,但是已經有在研議當中。

  13. 蘇院長貞昌

    對。

  14. 王委員婉諭

    很顯然如果只有目前的刑法修法而已,是沒有辦法處理的,未來應該會擴大相關的部分。

  15. 蘇院長貞昌

    如果有不足,要儘量讓所有都到位。

  16. 王委員婉諭

    好,我們這邊就提出我們認為只用刑法修正其實是不足的部分,包括剛剛提到的事前應該避免掉的影像外流,或者是私密影像下架的公權力,還有強制力的部分,以及在偵查和審理階段,被害人的保護措施等部分,其實都非常重要。因為我們剛才提到的是,當這種事情發生的時候,被害人的心理狀態非常脆弱,也非常擔心,我們不只是需要處理這些影像,也應該對這些被害人有所協助,包括在出庭時候的協助、包括法律端的協助、包括陪伴的部分、包括如何能避免再次被威脅的情況等等,都非常需要,甚至是被害人的諮商輔導資源也應該一併處理。我想請教,這些部分現在都在羅政委處理的範圍之內嗎?還是未來會怎麼樣研議?

  17. 蘇院長貞昌

    對,都會往這方面整個更周延的想到,儘量把整個包括進來,因為這裡面加害者的可惡及懲處是一件事,最重要的是被害者的保護,尤其私密影片的流傳一定要儘快截斷、截止,才是最有效保護被害者的方式。

  18. 王委員婉諭

    接下來我們提供幾個我們看到的作法給院長參考,譬如以韓國為例,韓國在2020年6月以前其實跟臺灣一樣,對於性私密影像散布或是Deepfake這些新型態的犯罪,被害人只能選擇依散布猥褻物品或損害名譽等迂迴或是輕罪的法律途徑來處理,這樣顯得消極又比較沒有用。但是去年發生N號房這個重大事件之後,就大幅地推展的修法的進度和法規面的保護,不但增修了相關的法規之外,其實也給予它公權力,譬如說他們成立了KCSC,這是一個具有公權力的單位;相較於臺灣的iWIN,它其實是一個民間團體,不具有公權力,而KCSC又還涵蓋了相關跨部會的合作,包括性別平等與家庭部、通訊傳播委員會、警察廳等等,可能比較類似我國的衛福部、NCC或警政署,一起來共同制定、因應數位性犯罪工作協定,包含了數位性犯罪支援團和數位性犯罪調查本部,他們不只是處理事件發生的後續,也同時重點監控Telegram與Discord這種24小時監測系統,採用集中管制的方法來處理。

  19. 反觀臺灣,除了刑法的修訂之外,我們認為還有非常多的部分要來處理,包括像我們剛才提到的iWIN,它其實是一個民間團體,並不具有公權力,而目前服務的對象只有兒少,至於成人的部分比較像是用主動擴展服務的方式,來協助當事人及平臺業者溝通,意思就是iWIN可以協助溝通,但是平臺業者是否願意下架這些私密影像還是有賴他們自己做決定。

  20. 本席認為,這部分我們應該要用比較強烈或是積極的手段,而不是用這樣溝通的方式。這部分我們是不是有可能可以借鏡韓國,加強主責機關的運作及功能以及協調相關部門,包括剛才提到的警政署、法務部,或是通傳會、衛福部之間的網路合作。

  21. 蘇院長貞昌

    他山之石可以攻錯,因為同樣的事件有些國家也發生過,所以各國所做的處理都可以作為很重要的參考。

  22. 王委員婉諭

    最後,本席要再提醒一下,KCSC的經費每年大約編列新臺幣2億元,但是iWIN大約只有編列臺幣200萬元,在經費有限的情況下,本席覺得可以處理到的範圍其實非常有限。除了修法之外,我們也想請問院長,您認為是否有立專法的必要性來一併處理這麼多面向的部分?剛剛我提到的這些,您都表示正在研議當中,研議的方向是否可以跟我們說明?會不會朝著專法的方向來處理?如果不要這種方式,我們要怎麼處理?什麼時候才會有一個清楚的方向和輪廓讓大家清楚知道?因為這件事情其實影響了非常多人,也造成非常多起社會事件,包括我們的委員也有人受害,本席想請教我們什麼時候會採取積極的態度來處理?

  23. 蘇院長貞昌

    確實有不肖之徒利用科技的進步造成重大的危害,造成社會譁然!而……

  24. 王委員婉諭

    所以會不會立專法?從前端到後端整個來做處理。

  25. 蘇院長貞昌

    是否要用專法或是修相關的法律,我會請羅政委召集相關部會一起來研商,做最後的決定。

  26. 王委員婉諭

    所以本席想請教什麼時候可以知道最後的決定?其實N號房事件發生的時候,我們已經開始有很多的討論了,現在已經過了一年,我們仍然還在原地,才即將要修刑法及相關的配套,所以什麼都還沒有看見,我覺得這部分刻不容緩,請問什麼時候我們可以討論、聚焦是否需要專法,或者是該如何進行相關的配套?

  27. 蘇院長貞昌

    因為法務部剛剛提出相關的刑法修正草案……

  28. 王委員婉諭

    除了修正刑法之外,院長可不可以承諾一個時間?

  29. 蘇院長貞昌

    覺得還有不足夠的地方。

  30. 王委員婉諭

    非常多。

  31. 蘇院長貞昌

    所以我特別請羅政委就相關的這些……

  32. 王委員婉諭

    是,這部分我們很清楚,但本席想知道什麼時候可以開始?

  33. 蘇院長貞昌

    盡快研商,我相信很快就會進行研商。

  34. 王委員婉諭

    請問3個月內可以有一個具體的方向嗎?

  35. 蘇院長貞昌

    應該可以。

  36. 王委員婉諭

    謝謝。接下來請教院長跟海空戰力提升相關特別預算的部分,由於臺灣的國防預算採購長期以來一直被詬病過分依賴進口、又花費在昂貴且相對容易被摧毀的單項武器上,所以這次2,400億元的特別預算計畫使用國內的產線,建立大量高機動性又相對便宜的戰力,我個人是非常支持的。但是2,400億元畢竟不是一個小數目,而中科院過去一直都是著重於研發的單位,雖然我們知道他的研發能力很強,但是我相信他本身批量生產的能力恐怕不是這麼的足夠,可能不是這麼地有經驗,因為過去其實主要是供應本國的市場,導致中科院的研發量能很高,但是主要都是生產小批量的規模。我們希望針對批量生產的可行性,提出一些研究和方向跟院長及部長討論。

  37. 首先,請教中科院裡面,這些研發人員系統工程的培訓問題,因為本席過去的專業其實是在業界,所以我很清楚從研發、小量生產到批量生產,其實是需要不同的專業,而且也需要更多的整合,系統工程裡面其實就涵蓋了整合、驗證、軟硬體配合等等的部分,請教中科院的工業量產及專案管理人才足夠嗎?這些人才是否有經過專業的工程管理訓練?是從哪個方向著手?

  38. 蘇院長貞昌

    我請部長說明。

  39. 王委員婉諭

    好,謝謝。

  40. 邱部長國正

    謝謝委員給的機會,從剛剛委員所講的,的確對於中科院的運作很瞭解,中科院的人才培育,一方面從外招攬的本身具有專業、專長,另一方面就是在工作當中也做了非常多的培育,而且我們最大的特點是研發跟量產是同一批人,可能有些人聽起來會有問題,怎麼研發跟量產是同一批人,可能會有弊端,剛剛委員也有講到,因為在量少的情況下,又要與研發分成兩邊的話,會受不了這個負擔,但如果把人員管控好,一部分做研發,一部分做量產,這當中也是在做人員的訓練,也就併在裡面,科技的能力會越來越提升。

  41. 王委員婉諭

    是,但是我們看到國際間有非常多類似的線上課程或專業培訓,我覺得不只是弊端,還有專業能力的部分,因為我們沒有辦法期待同一個人擁有非常多的專業,如果有,當然很好,但是我們沒有辦法期待每一個人都擁有研發及量產的專業。所以我們想請教的是,能不能研議或研討,未來有沒有可能有通過國際機構的系統工程專業訓練之後,這樣人員的推薦或是評估?

  42. 邱部長國正

    跟委員報告,我們專長、專業有分類,譬如光電的跟飛彈的是完全不一樣。

  43. 王委員婉諭

    所以你認為研發和量產部分,系統工程部分其實不需要分開嗎?

  44. 邱部長國正

    不需要分開,因為目前為止所有的運作都很好,剛委員講的招攬國外人才,或者人員送去國外培訓,中科院都一直有在做,有些人員都是中科員派去國外培訓,學成歸國就到中科院服務,甚至現在有學校一畢業也有……

  45. 王委員婉諭

    但是我們認為系統工程對於量產,絕對是一個非常重要的關鍵,是不是可以稍微瞭解之後,提出有多少受過系統工程專業培訓的相關資料,讓我們瞭解清楚。

  46. 邱部長國正

    好的,沒有問題。

  47. 王委員婉諭

    我們也希望一個月內能有相關的資訊,先盤點人力或專業是否足夠。同時,其實大眾對於投入大批預算是否會付諸流水,又或者對財政紀律,其實有非常多的擔憂,尤其這次的特別預算又採用限制性招標,而受到非常多的質疑。所以我們認為,做好這些重大科研案的風險管理部分,其實是非常重要的,我們在此也提出一個觀念來跟院長及部長討論,對於這種重大的科研專案,事實上其他國家都非常普遍,而且用來確保開發流程的程序,有一個叫做IV&V的部分,這部分是聘用獨立且具有經驗的第三方,委託協助與製造相關的監督或開發驗證的部分,希望能夠及早發現問題,降低專案風險的一種作法。這部分其實跟國家安全沒有直接的疑慮,以美國為例,NASA就有相當多的合作單位一起進行這些獨立的驗證及確認,包括我們看到有學校、顧問公司及大型的附屬機構,甚至讓不同的單位負責不同的開發流程。我們希望不要到最後的驗收階段才發現問題,而白白浪費研發經費,有沒有可能引進或考慮使用IV&V來做中間驗證的過程?我們也希望能從開發開始就做嚴正的把關。

  48. 邱部長國正

    跟委員報告,的確在這個方面我們也很注重,現在很多委員在關切,不管是財政紀律、工作紀律或安全,我們有嚴格把關的,不光是內部,也有剛才委員強調的第三方,我們也在找第三方,但找第三方,我們要徵求大家的意見,因為假如由中科院來找的話,人家會講就是你們自己的人。

  49. 王委員婉諭

    所以我們現在確實有在討論是否要由第三方來進行驗證或進行協助,沒錯吧?

  50. 邱部長國正

    是,沒有錯。

  51. 王委員婉諭

    什麼時候會有比較清楚的方向?是由中科院來找,或是由誰來找?因為截止目前為止,我們沒有看到清楚的方向,希望能夠多加瞭解,也希望從前端就做把關,避免到後端驗證的時候才發現有問題。

  52. 邱部長國正

    瞭解,這個一定,我們要這樣來做,不會到事情發生了再解決,那就來不及了。

  53. 王委員婉諭

    是,也希望提供第三方驗證的計畫給我們參考,謝謝。

文字取自立法院公報,依公報上的講者標籤切出王婉諭本人的發言。這段發言沒有對應的影片。