從這段發言整理出的主張
人工智慧生成的內容(含深度偽造)應如何標示或規範?主張請國安局與相關部會討論以法律規範Deepfake的可行性,並提出相關進度和書面報告「應該要用法律的方式來規範」人工智慧生成的內容(含深度偽造)應如何標示或規範?希望國安局和相關部會討論Deepfake相關法案的可行性「是否可以拜託國安局,和相關部會討論這個法案的可行性」人工智慧生成的內容(含深度偽造)應如何標示或規範?如果沒有辦法把全部的網路世界都規範進來,至少要研究AI人工智慧這個區塊「如果我們沒有辦法把全部的網路世界都規範進來,至少要研究這個區塊」發言紀錄
- 陳委員柏惟
(11時35分)局長好。我們需要法律的原因,是因為每個人的想法不同、作法不同,想的、做的工作也不一樣,所以我們需要法律來規範社會行為,建立道德標準。但是從1985年開始我們陸陸續續使用電腦、媒體,甚至網路。這種訊息開發的時代,我們稱之為資訊爆炸的時代,所以在網路上也需要有一套新的標準。
資訊發達的時代到了後面的時期,就是稱為AI人工智慧的時代。像最近有利用軟體換臉,製作不雅的影片,連總統都出面說話了,因為這其實已經傷害到個人相關的權益。雷同的情況甚至還包括美國總統大選時,歐巴馬指出川普假影片的事件。
請教局長,你對訊息時代所謂的訊息安全、倫理道理,有什麼樣的了解?
- 主席
請國安局陳局長說明。
- 陳局長明通
委員好。這是個嚴重的挑戰,所以我們必須加強自己的能力來應付這種挑戰。
- 陳委員柏惟
其實這是一門課程。資訊安全與倫理是一門大學的課程,當中大約提到了4個面向,即重新在網路上定義人格,包括隱私、正確、財產和使用。但是網路上很多人採匿名方式,只有代號並不知道他是誰。還有一種情況是,我放了自己打扮美麗帥氣的照片到網路上,結果照片被拿去亂用。所以在訊息時代裡,對國安局來說,如果我們能掌握到比別人更早的先機,甚至可以保護國家、影響國家安全。目前國安局的訊息人才,在比率上是否有一定的規模,是足夠的嗎?
- 陳局長明通
當然不夠,所以最近我們也增加人員了。這是非常嚴峻的挑戰,我們會繼續加強,希望委員和立法院能夠支持。
- 陳委員柏惟
你們要做網路訊息的管理,甚至包括媒體的訊息管理。本席和國外一些相關部門的官員聊天時,他們提到日本有匿名論壇、韓國也有匿名論壇,美國也有。他們有一個共識,就是新聞媒體不能抄襲匿名論壇的內容。匿名論壇會討論新聞,但新聞媒體不會主動去抄襲,如果要抄襲就必須去查證、證實。
因為本席是訊息相關科系畢業的,這些官員和我們開會時就問我,為什麼臺灣媒體會主動去抄襲?實在很奇怪。主動抄襲的過程會產生問題,因為他寫了卻沒有澄清、沒有查證,反而會影響到民眾的認知。這個現象真的在臺灣發生了嗎?
- 陳局長明通
當然,這是每天都在挑戰的。
- 陳委員柏惟
每天都發生?局長認為,為什麼臺灣在這部分和其他國家不一樣?
- 陳局長明通
其實這種情形一直向外蔓延開來。很多國家都覺得這個問題愈來愈嚴重,也和我們討論、交換意見。
- 陳委員柏惟
局長是指媒體主動報導匿名訊息的情形,愈來愈嚴重?
- 陳局長明通
我們要去注意,因為這種情形是可能的。
- 陳委員柏惟
本席現在說的重點,主要是他欠缺社會的人格。像我說話是要負責的,我們在立法院的報告、質詢,都要寫出來這些發言是誰說的。但是在網路上發言,他們不必負責任。當然局長會說可以告他們,可是有假的account,也有可能會轉賣和買賣的account。這些沒有人格、欠缺人格,不知道是誰的人格所放出來的消息,對於我們這種公眾人物或公眾議題的討論,能夠造成影響的話,其實這就是國安問題。怎麼不是呢?
- 陳局長明通
是,所以我說這是很大的挑戰。
- 陳委員柏惟
有關單位,包括國內外相關的單位,必須去關心這部分。本席一直認為,這已經不是假訊息或假帳號的問題了,這是國安的問題。
- 陳局長明通
是,因為它會愈來愈擴散,愈來愈嚴重、愈多。
- 陳委員柏惟
請教局長,你覺得這個問題要怎麼解決?
- 陳局長明通
當然這要溯源,要找出來是誰做這件事情,要有法律工具來處理這類事情。其實這是法治的問題。剛剛委員也講,要有法律的規範讓大家共同來遵守。
- 陳委員柏惟
局長說的沒錯,應該要用法律的方式來規範。這個禮拜我們發生了Deepfake的事情,其實國外也有,2019年6月份美國紐約的眾議員就提出相關法案。我不知道是否可以拜託國安局,和相關部會討論這個法案的可行性,甚至是跨部會要求AI人工智慧?如果我們沒有辦法把全部的網路世界都規範進來,至少要研究這個區塊,好不好?是否可以給我相關的進度和書面報告?
- 陳局長明通
好的,我們儘量來努力。
- 陳委員柏惟
剛剛我在報告裡看到一句話,就是中共希望對臺灣能夠維持在圍壓可控。我們知道圍壓的意思,圍是圍堵,壓就是給我們壓力。請問可控是什麼意思?他們認為什麼是可控,什麼是不可控?他們認為現在臺灣可控嗎?
- 陳局長明通
他們說這句話是和過去比較,確實有一些距離。
- 陳委員柏惟
以前比較好控制嗎?
- 陳局長明通
這我沒有進一步說明。
- 陳委員柏惟
要說出來,我們現在是分析敵人的戰力,不是分析我們現在的政策對或不對、能不能講。
- 陳局長明通
有一段時間他們覺得比較好控制。
- 陳委員柏惟
有時候比較好控制?
- 陳局長明通
有一段時間。
- 陳委員柏惟
現在比較不好控制?
- 陳局長明通
因為我們比較堅持。
- 陳委員柏惟
我們是愈來愈好控制,還是愈不好控制?
- 陳局長明通
我們不可能被別人控制。
- 陳委員柏惟
對,我們不應該被控制。為什麼一個對我們沒有控制權的國家,會希望我們被控制?這是什麼意思?
- 陳局長明通
他們一直覺得,我們是他們的,他們的是他們的。
- 陳委員柏惟
你有辦法具體說明控制這兩個字,是達到什麼程度叫控制嗎?因為他們現在也講全面控制香港,但事實上,也不是所有的香港人都服從共產黨。你認為,什麼動作、什麼樣的宣示,或是什麼樣的法律條文、國格叫做控制?
- 陳局長明通
這很複雜,層次也很多,譬如農產品能不能銷到大陸,他們就控制了,說不能銷往大陸就不能,這就是控制了。
- 陳委員柏惟
局長,我跟你報告,我連我的助理都不能控制,工作上合作是另一回事。
臺灣作為獨立自主的國家,他們沒有能力控制我們,但是可以打壓我們。像剛才講到農產品,他們是控制關稅條件,並不是控制我們出口的產品。也就是說,他們是控制自己的部分來影響我們。所以我們要思考的是,臺灣還可以做什麼事情來離開他們的控制?這部分,包括我們收到相關的訊息指出,他們想要圍壓可控時,我們要有堅定的信心,要去想到底是什麼被他們控制了,來排除這些可能。
請國安局研究看看,給我一份所謂中共接下來打算對臺灣的經濟……
- 陳局長明通
現在國際社會對我們愈來愈支持,所以他們想要控制支持我們的國家。譬如說,他們對立陶宛、捷克的動作就很多。
- 陳委員柏惟
我們不能勉強別人要和「大仙」交往,或和「小仙」交往,那是他的自由。
- 陳局長明通
他們就是要勉強別人。
- 陳委員柏惟
他們勉強別人是他們的錯,但我們不能和他們一樣。
- 陳局長明通
他們就是想要控制這個。
- 陳委員柏惟
對,我了解。包括外交面、軍事面和經濟面,你認為下個階段他們想要控制的對象,請局長給我一份書面報告,好不好?
- 陳局長明通
好。
- 陳委員柏惟
謝謝局長。
文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為陳柏惟本人的發言。