從這段發言整理出的主張
人工智慧生成的內容(含深度偽造)應如何標示或規範?應避免深偽影片發生時無法可管的情況,政要、政治人物、立法委員及縣市長都可能被模仿。「所以部長,我要提醒你,你要避免這種相關的情況發生,否則一旦發生時,將無法可管,本席在這裡已經提醒你,這在政要身上都會發生,那更有可能在各種媒體發生,包括政治人物,包括我們立法委員、縣市長都可能被模仿。」人工智慧生成的內容(含深度偽造)應如何標示或規範?認為在深偽還沒有真正刑責化之前,數位部至少應做即時的反應、處理民眾檢舉,並提早因應。「還沒有真正刑責化之前,至少你們可以做即時的反應,像是人家檢舉時,這個問題要怎麼處理?這點你們要去因應,好不好?」發言紀錄
- 陳委員歐珀
(9時31分)部長,昨天行政院陳建仁院長特別出面澄清數位身分證沒有處理好,有爭議的部分要繼續處理。
- 主席
請數位部唐部長說明。
- 唐部長鳳
是。
- 陳委員歐珀
並沒有所謂買單10億的問題,他還特別提到數位身分證要有更周延的考量,請問有哪些部分必須考量?
- 唐部長鳳
謝謝委員讓我有機會說明,主要有兩個,一個是中研院,當時陳院長也在中研院,主要的建議就是要有獨立專門的個資機關來檢驗政府後端傳輸個資保護的問題,這是第一個。
第二個是在我們建置這個系統的過程裡面,我們要確保數位身分證能夠讓想用的人用,但如果他不想要使用數位身分證,他還是想用本來卡式的方式做臨櫃服務的話,他應該有相同的權益,不要因為他沒有數位身分證的使用習慣,所以就不能夠存取那些公共服務。
- 陳委員歐珀
部長,你知道我們談數位身分證談了幾年嗎?
- 唐部長鳳
當然這個版本是從2016、2017年開始規劃,但以我所瞭解的,前面還有一些別的版本。
- 陳委員歐珀
部長,國外有很多國家,包括中國,他們都使用數位身分證,臺灣到現在還沒有,我想這個期程你們不能不訂出來,到底什麼時候國人可以拿到數位身分證?
- 唐部長鳳
在國際的評比上,因為我們有自然人憑證跟行動自然人憑證,所以其實臺灣算是有的,我們在國際評比上是被算在有的那邊,之前的規劃是要不要把自然人憑證的功能內建在我們紙本的身分證裡面。
- 陳委員歐珀
對,數位身分證我們談了那麼多年,你現在怎麼跟國人說,花了那麼多錢,沒有浪費、沒有買單的問題?到底什麼時候我們可以拿到你們承諾給國人的數位身分證?我要問的是這個問題,你可不可以詳細答復一下?
- 唐部長鳳
好的,在公部門機關之間互相安全傳輸個資的T-Road系統,在全國個資保有機關,我們會在明年年底之前加速完成導入跟零信任的導入,這是在技術上;但是在法制上面,可能也需要大院通過國發會提出的個資法修法,以確保個資專責機關的成立,以我所知,籌備處會在今年下半年就成立,所以成立之後……
- 陳委員歐珀
所以到明年2024年,我們都還拿不到數位身分證,最快也要到2025年?
- 唐部長鳳
可能要看這個新的個資會的判斷。
- 陳委員歐珀
以你的規劃,最快是2025年,那時候已經換總統了。
- 唐部長鳳
因為現在個資會還沒有成立,我們也沒有辦法自己判斷。
- 陳委員歐珀
很可惜,蔡總統拿不到她任內第一張數位身分證,這個你們去檢討一下,其實連我都感到很失望。
第二點,我想請教AI深偽技術的管理問題跟產業AI化面臨的一些相關問題,我想這兩個問題都很大,AI深偽技術演進的程式發展,中國水軍假帳號的問題,這個大家都知道,也有深偽成真人,到最後連政要都被深偽,這實在令民眾難以察覺,因為他出來講時是有字幕也有影像,大家會誤以為真,事實上它卻是假的。如果現在發現有蔡總統在上面講的影片,而這種影片在臺灣大家也都看得到,那請問在臺灣播放這樣的影片有沒有刑責?
- 唐部長鳳
當然在選舉期間擾亂還有牽涉到金融詐騙等,中選會跟金管會各自有各自的監管;我們數位部的工作是做驗證跟測試,還有電子簽章的工作,以確保是我本人的話,我所簽的或是我以數位部的名義,用剛剛簡訊的短網址或短碼發送是有簽名的。
- 陳委員歐珀
部長,請你回答我這實例的問題,假如換成播放蔡總統在電視上或在各種媒體上播放這樣的影帶,說臺灣要發生戰爭了,大家要怎麼樣、怎麼樣,既有影像,也有字幕,還有聲音,這種影像如果發生在臺灣,你有沒有辦法處分?有沒有刑責?
- 唐部長鳳
以我目前的理解,您剛剛提到的選舉期間是選罷法規範的期間,亦即用各種方式意圖使人當選或不當選等,則中選會有它自己的規範,據我所知這部分有一個深偽相關的專章,好像已經在大院審議。
- 陳委員歐珀
所以目前是沒有,還沒有審出來。
- 唐部長鳳
現在只能做一般的……
- 陳委員歐珀
所以部長,我要提醒你,你要避免這種相關的情況發生,否則一旦發生時,將無法可管,本席在這裡已經提醒你,這在政要身上都會發生,那更有可能在各種媒體發生,包括政治人物,包括我們立法委員、縣市長都可能被模仿。
- 唐部長鳳
是,就是以前大家知道靜態的圖片可以P圖嘛,接下來大家現在都瞭解電話也可以……
- 陳委員歐珀
部長,還沒有真正刑責化之前,至少你們可以做即時的反應,像是人家檢舉時,這個問題要怎麼處理?這點你們要去因應,好不好?我想可能臺灣很快就會發生了。
- 唐部長鳳
好,沒問題,有關訊息防護的相關工作,我們資安部門有專門的人在處理。
- 陳委員歐珀
好不好?我已經提醒你們了,請你們提早因應。
最後,數位產業署推動產業AI化,要如何調和AI的創作跟平臺分潤的衝突,這裡有一張圖,提到孫燕姿後來公開承認說這是AI做的,不是他本人唱的,可是粉絲大家聽了很心疼,音樂的創作,包括將來連藝術創作都可以做成跟真的一樣,一般人都分辨不出來,除非他本人有道德勇氣出面承認,當然我對孫燕姿的勇氣給予肯定,但是這種事件將層出不窮,以後我們各種創作領域都會受到很大的衝擊。
- 唐部長鳳
現在文字跟圖片都已經是這樣,而委員提到的音樂更是這樣子。
- 陳委員歐珀
這跟以前影帶偽裝比起來更真了,除非是本人出面承認,不然別人都會以為是真的。
- 唐部長鳳
現在還有很多粉絲就在他自己的筆電裡面,不用……
- 陳委員歐珀
你們要去注意這個問題。
最後,有些平臺也都發現到人工串流的問題,我相信將來對於數位產業界發展會產生很大的衝突,到底你是真的還是我是真的……
- 唐部長鳳
在國內的話,我們可以透過電子簽章來判斷這是經過作者簽名,還是未經過作者授權,現在產業署也跟資安院還有資安署一起合作,試著把我們跟國際包含與歐盟等的簽章能夠做調和。
- 陳委員歐珀
對,因為這涉及到商業行為的分潤問題,有些平臺可以上,有些平臺不能上,上了之後是真的還是假的,以及之後認證的問題,我想將來數位發展部真的有很多這方面的問題要面對。
- 唐部長鳳
是的。
- 陳委員歐珀
我先提醒你,臺灣現在就是詐騙人人喊打,為大家所不能容忍的,像現在大家都是透過網路嘛!現在很多虛擬貨幣也是都在網路上交易,根本查不到實體的個人,也不用車手,我們不曉得首謀在哪裡,大部分都是在國外,所以錢都追不回來。
- 唐部長鳳
對,像委員今天這樣的質詢確實有很好的教育作用,就是讓大家知道現在在網路上即使是即時跟你進行視訊,也都有可能是合成的,只要大家都有這個概念,就是全民資安意識,變成如果沒有特別有電子簽章、有查核過的,可以驗這個簽章的,都要推定成是假的,那這個跟以前我們在網路上說有影片就有真相是完全不一樣的狀態。
- 陳委員歐珀
對,我想很多人都發生像「曾參殺人」的事情,以後會更層出不窮,沒有的事情都可以寫成真的,因為有確實看到他在那邊或確實是怎麼樣,以後也有可能看到陳雪生出現在宜蘭,不過其實這個人並不是那個陳雪生,這個陳雪生出現在馬祖比較多,比較少出現在宜蘭。我是要講有些狀況就像我們剛剛所講的,就是要讓國人瞭解到資安跟個人息息相關,每個人都可能因為沒有處理好而變成受害者。以上,謝謝。
- 唐部長鳳
謝謝委員。
- 主席
謝謝陳歐珀委員,我要到宜蘭登記參選立委。
- 陳委員歐珀
真的假的?
文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為陳歐珀本人的發言。