陳柏惟於外交及國防委員會第6次會議邀請國家安全局局長陳明通率相關情報機關首長提出「國家情報工作暨國家安全局業務報告」,並備質詢

台灣基進台灣基進・臺中市第2選舉區

從這段發言整理出的主張

人工智慧生成的內容(含深度偽造)應如何標示或規範?主張請國安局與相關部會討論以法律規範Deepfake的可行性,並提出相關進度和書面報告「應該要用法律的方式來規範」人工智慧生成的內容(含深度偽造)應如何標示或規範?希望國安局和相關部會討論Deepfake相關法案的可行性「是否可以拜託國安局,和相關部會討論這個法案的可行性」人工智慧生成的內容(含深度偽造)應如何標示或規範?如果沒有辦法把全部的網路世界都規範進來,至少要研究AI人工智慧這個區塊「如果我們沒有辦法把全部的網路世界都規範進來,至少要研究這個區塊」

發言紀錄

  1. 陳委員柏惟

    (11時35分)局長好。我們需要法律的原因,是因為每個人的想法不同、作法不同,想的、做的工作也不一樣,所以我們需要法律來規範社會行為,建立道德標準。但是從1985年開始我們陸陸續續使用電腦、媒體,甚至網路。這種訊息開發的時代,我們稱之為資訊爆炸的時代,所以在網路上也需要有一套新的標準。

  2. 資訊發達的時代到了後面的時期,就是稱為AI人工智慧的時代。像最近有利用軟體換臉,製作不雅的影片,連總統都出面說話了,因為這其實已經傷害到個人相關的權益。雷同的情況甚至還包括美國總統大選時,歐巴馬指出川普假影片的事件。

  3. 請教局長,你對訊息時代所謂的訊息安全、倫理道理,有什麼樣的了解?

  4. 主席

    請國安局陳局長說明。

  5. 陳局長明通

    委員好。這是個嚴重的挑戰,所以我們必須加強自己的能力來應付這種挑戰。

  6. 陳委員柏惟

    其實這是一門課程。資訊安全與倫理是一門大學的課程,當中大約提到了4個面向,即重新在網路上定義人格,包括隱私、正確、財產和使用。但是網路上很多人採匿名方式,只有代號並不知道他是誰。還有一種情況是,我放了自己打扮美麗帥氣的照片到網路上,結果照片被拿去亂用。所以在訊息時代裡,對國安局來說,如果我們能掌握到比別人更早的先機,甚至可以保護國家、影響國家安全。目前國安局的訊息人才,在比率上是否有一定的規模,是足夠的嗎?

  7. 陳局長明通

    當然不夠,所以最近我們也增加人員了。這是非常嚴峻的挑戰,我們會繼續加強,希望委員和立法院能夠支持。

  8. 陳委員柏惟

    你們要做網路訊息的管理,甚至包括媒體的訊息管理。本席和國外一些相關部門的官員聊天時,他們提到日本有匿名論壇、韓國也有匿名論壇,美國也有。他們有一個共識,就是新聞媒體不能抄襲匿名論壇的內容。匿名論壇會討論新聞,但新聞媒體不會主動去抄襲,如果要抄襲就必須去查證、證實。

  9. 因為本席是訊息相關科系畢業的,這些官員和我們開會時就問我,為什麼臺灣媒體會主動去抄襲?實在很奇怪。主動抄襲的過程會產生問題,因為他寫了卻沒有澄清、沒有查證,反而會影響到民眾的認知。這個現象真的在臺灣發生了嗎?

  10. 陳局長明通

    當然,這是每天都在挑戰的。

  11. 陳委員柏惟

    每天都發生?局長認為,為什麼臺灣在這部分和其他國家不一樣?

  12. 陳局長明通

    其實這種情形一直向外蔓延開來。很多國家都覺得這個問題愈來愈嚴重,也和我們討論、交換意見。

  13. 陳委員柏惟

    局長是指媒體主動報導匿名訊息的情形,愈來愈嚴重?

  14. 陳局長明通

    我們要去注意,因為這種情形是可能的。

  15. 陳委員柏惟

    本席現在說的重點,主要是他欠缺社會的人格。像我說話是要負責的,我們在立法院的報告、質詢,都要寫出來這些發言是誰說的。但是在網路上發言,他們不必負責任。當然局長會說可以告他們,可是有假的account,也有可能會轉賣和買賣的account。這些沒有人格、欠缺人格,不知道是誰的人格所放出來的消息,對於我們這種公眾人物或公眾議題的討論,能夠造成影響的話,其實這就是國安問題。怎麼不是呢?

  16. 陳局長明通

    是,所以我說這是很大的挑戰。

  17. 陳委員柏惟

    有關單位,包括國內外相關的單位,必須去關心這部分。本席一直認為,這已經不是假訊息或假帳號的問題了,這是國安的問題。

  18. 陳局長明通

    是,因為它會愈來愈擴散,愈來愈嚴重、愈多。

  19. 陳委員柏惟

    請教局長,你覺得這個問題要怎麼解決?

  20. 陳局長明通

    當然這要溯源,要找出來是誰做這件事情,要有法律工具來處理這類事情。其實這是法治的問題。剛剛委員也講,要有法律的規範讓大家共同來遵守。

  21. 陳委員柏惟

    局長說的沒錯,應該要用法律的方式來規範。這個禮拜我們發生了Deepfake的事情,其實國外也有,2019年6月份美國紐約的眾議員就提出相關法案。我不知道是否可以拜託國安局,和相關部會討論這個法案的可行性,甚至是跨部會要求AI人工智慧?如果我們沒有辦法把全部的網路世界都規範進來,至少要研究這個區塊,好不好?是否可以給我相關的進度和書面報告?

  22. 陳局長明通

    好的,我們儘量來努力。

  23. 陳委員柏惟

    剛剛我在報告裡看到一句話,就是中共希望對臺灣能夠維持在圍壓可控。我們知道圍壓的意思,圍是圍堵,壓就是給我們壓力。請問可控是什麼意思?他們認為什麼是可控,什麼是不可控?他們認為現在臺灣可控嗎?

  24. 陳局長明通

    他們說這句話是和過去比較,確實有一些距離。

  25. 陳委員柏惟

    以前比較好控制嗎?

  26. 陳局長明通

    這我沒有進一步說明。

  27. 陳委員柏惟

    要說出來,我們現在是分析敵人的戰力,不是分析我們現在的政策對或不對、能不能講。

  28. 陳局長明通

    有一段時間他們覺得比較好控制。

  29. 陳委員柏惟

    有時候比較好控制?

  30. 陳局長明通

    有一段時間。

  31. 陳委員柏惟

    現在比較不好控制?

  32. 陳局長明通

    因為我們比較堅持。

  33. 陳委員柏惟

    我們是愈來愈好控制,還是愈不好控制?

  34. 陳局長明通

    我們不可能被別人控制。

  35. 陳委員柏惟

    對,我們不應該被控制。為什麼一個對我們沒有控制權的國家,會希望我們被控制?這是什麼意思?

  36. 陳局長明通

    他們一直覺得,我們是他們的,他們的是他們的。

  37. 陳委員柏惟

    你有辦法具體說明控制這兩個字,是達到什麼程度叫控制嗎?因為他們現在也講全面控制香港,但事實上,也不是所有的香港人都服從共產黨。你認為,什麼動作、什麼樣的宣示,或是什麼樣的法律條文、國格叫做控制?

  38. 陳局長明通

    這很複雜,層次也很多,譬如農產品能不能銷到大陸,他們就控制了,說不能銷往大陸就不能,這就是控制了。

  39. 陳委員柏惟

    局長,我跟你報告,我連我的助理都不能控制,工作上合作是另一回事。

  40. 臺灣作為獨立自主的國家,他們沒有能力控制我們,但是可以打壓我們。像剛才講到農產品,他們是控制關稅條件,並不是控制我們出口的產品。也就是說,他們是控制自己的部分來影響我們。所以我們要思考的是,臺灣還可以做什麼事情來離開他們的控制?這部分,包括我們收到相關的訊息指出,他們想要圍壓可控時,我們要有堅定的信心,要去想到底是什麼被他們控制了,來排除這些可能。

  41. 請國安局研究看看,給我一份所謂中共接下來打算對臺灣的經濟……

  42. 陳局長明通

    現在國際社會對我們愈來愈支持,所以他們想要控制支持我們的國家。譬如說,他們對立陶宛、捷克的動作就很多。

  43. 陳委員柏惟

    我們不能勉強別人要和「大仙」交往,或和「小仙」交往,那是他的自由。

  44. 陳局長明通

    他們就是要勉強別人。

  45. 陳委員柏惟

    他們勉強別人是他們的錯,但我們不能和他們一樣。

  46. 陳局長明通

    他們就是想要控制這個。

  47. 陳委員柏惟

    對,我了解。包括外交面、軍事面和經濟面,你認為下個階段他們想要控制的對象,請局長給我一份書面報告,好不好?

  48. 陳局長明通

    好。

  49. 陳委員柏惟

    謝謝局長。

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為陳柏惟本人的發言。