中國國民黨・新北市第1選舉區從這段發言整理出的主張
人工智慧生成的內容（含深度偽造）應如何標示或規範？平臺應該也有責任做事前審查，如果是AI合成的虛偽廣告，連上架都不應該讓它上架「所以我們一直強調的是平臺應該也有責任……是。它要去做事前的審查，如果明明是這種AI合成的虛偽廣告，它連上架都不應該讓它上架」人工智慧生成的內容（含深度偽造）應如何標示或規範？詐騙、不實訊息、危害兒少訊息都很有可能利用AI技術更容易生成，應儘速防堵「不管是詐騙，不管是不實訊息，不管是危害兒少的訊息，都很有可能利用AI的技術之後反而更容易生成，這是現在科技的趨勢，所以我們一定要儘速地來防堵」發言紀錄
- 洪委員孟楷
主席謝謝，麻煩請林部長。
- 主席
部長謝謝。
- 林部長宜敬
委員早安。
- 洪委員孟楷
部長早。部長，剛才本席仔細聆聽您的業務報告，AI非常重要、資安非常重要、打詐非常重要，推動數位政府治理非常重要，有這4大面向。是。我想其中打詐的部分是跟國人最息息相關，也最深惡痛絕。是。在您兩個禮拜前來本席辦公室的時候，我也給你看網友提供的詐騙影片，我想了解一下現在的進度跟狀況。來，我們先播放一下。因為這跟你剛剛講到的AI以及詐騙有關，其實詐騙集團也很聰明，他們會日新月異地變換很多的手法。是。這個人你認識吧？當然。看得出來是黃仁勳嘛！是。來，點一下。（播放影片）第一，黃仁勳應該不會送什麼ChatGPT的書，可是對方很聰明，說是黃仁勳要送你AI實戰手冊。大家想AI教父要送你東西，是免費的很不錯，再加上他剛剛的那個聲音、語調跟黃仁勳真的有點類似。是。我們再看下一個，是張忠謀的，有沒有？是不是還有一個張忠謀的？另外還有一個張忠謀的也是這樣的影片，看得出來就像張忠謀的聲音，但實際上它看起來就是假的詐騙訊息，而且是要叫你去申請，然後讓你去點，所以這已經跟我們之前……你剛剛有報告講到所謂粉絲專業、名人的粉絲專業，以前是我創一個名人的粉絲專頁，但我不知道後面是誰，而現在它是直接用這個名人的影像去合成。我們看下一頁，不只是這個科技大佬受害，陳美鳳是個知名藝人，他到9月18日都還在自己的臉書持續講，現在不能只有肖像權，要有AI影音跟聲音的規範，不然連聲音都造假了。詐騙集團用他的聲音、用他的肖像，變成一個AI合成的影片去做詐騙。請先針對這幾個部分，簡單說明一下，目前跟這幾個平臺及怎麼防範這個新型態的詐騙做打詐。
- 林部長宜敬
首先在法律面，之前在我們通過的打詐專法裡面其實有規定，這個廣告的內容如果是由AI生成的影像或者是影片的話，那它必須做標示，所以在法源上已經有依據了，像這個都是……
- 洪委員孟楷
你有看到這個有標示嗎？
- 林部長宜敬
沒有標示，所以我們一定……就是已經有法源的依據可以要求它下架。另外在技術面，就如同我們剛剛講的，我們現在設立了網詐通報查詢網，事實上剛剛看到的那兩個黃仁勳的影片，我們之前已經透過網詐通報查詢網的機制，在通報以後我們會儘速分案，發現它在仿冒黃仁勳，我們就直接通知黃仁勳的辦公室，請他們確認這個是不是黃仁勳本人。當然也不是黃仁勳本人回復的，他太忙了，但是他的秘書就會跟我們回復這個不是黃仁勳本人，我們一旦得到確認以後，就會馬上利用自動的機制通知YouTube或者是Meta等各個平臺，要求把這個下架。所以我們剛剛看到的黃仁勳影片已經下架了，就是透過這種機制。
- 洪委員孟楷
確實是下架了，現在沒有找到，但是我要問兩個部分：第一，名人的詐騙，尤其是這種國際名人，也許黃仁勳現在是世界各國在飛，你很難在第一時間聯絡他以確認是不是本人。是。第二，其實平臺要上這個詐騙廣告是先收取廣告費用的。是。所以平臺怎麼會容許或放任一個AI生成的影片去推播，還要讓一般的民眾在看到、接收到之後再去做通報，之後再透過數發部去要求平臺下架。這樣不管是我們數發部也好，還是一般普羅大眾的消費者都變成是我們在幫平臺打工啊！
- 林部長宜敬
是，沒錯，我完全同意那個……
- 洪委員孟楷
是啊，所以我們現在要的應該是平臺自己就有科技，因為……
- 林部長宜敬
對，沒錯。
- 洪委員孟楷
魔高一尺，道要高一丈嘛！沒錯。所以我們一直強調的是平臺應該也有責任……是。它要去做事前的審查，如果明明是這種AI合成的虛偽廣告，它連上架都不應該讓它上架……
- 林部長宜敬
是，沒錯，我們……
- 洪委員孟楷
那我們現在跟這幾個平臺溝通的狀況怎麼樣？
- 林部長宜敬
事實上，就如同委員剛才講的，我們認為這是平臺的責任，所以Meta過去一年當中在我們的要求之下已經用他們的AI技術做臉部辨識，由我們數發部提供一個名單，讓它建立臺灣公眾人物臉部的……
- 洪委員孟楷
我們現在提供多少名單？600個。我們提供了600個……對。包括知名的人士……是。譬如陳美鳳，有沒有在裡面？
- 林部長宜敬
有，陳美鳳有在裡面。然後Meta會用AI臉部辨識的功能，如果有人是用黃仁勳的照片，它會馬上擋住，但是它並沒有做到影片的掃描，所以這還是個破洞。事實上，為什麼現在出現這些AI的影片？也是詐騙集團在鑽漏洞，他以前直接用黃仁勳的照片就可以開設粉絲頁，現在沒辦法，所以他現在就用影片的方式。所以我們接下來一定會要求Meta，除了掃描影像以外，對於影片，它也應該去做掃描。好。
- 洪委員孟楷
另外，因為本席剛剛看到我們所謂的詐騙通報網，就是數發部的詐騙通報網。你看那個樣態，超過9成都還是從Meta公司的下面，不管是Instagram，或是Threads等等來源，真的是超過9成，這是客觀的數據……是。現在數發部也已經有給Meta開罰了1,850萬，就累積幾個數字，我想確認一下Meta現在繳錢了沒？
- 林部長宜敬
有，他們已經繳了。
- 洪委員孟楷
繳錢了，那後續……
- 林署長俊秀
1,600萬已經繳了，但是後來的250萬，因為還在繳納期，還沒到最後的時刻，不過我們相信他也會繳。好。
- 洪委員孟楷
再回來，但是不管是1,600萬，不管是250萬，其實對Meta公司來講也杯水車薪……沒錯。我們要的是它拿出基本的社會責任，就是它應該要跟政府站在一起，這一點本席是同意剛剛部長的講法，如果我們是一個正義連線、我們是一個好人聯盟的話，我們防止詐騙就是守護人民的安全，那應該是Meta公司也好，Google公司也好，LINE公司也好，大家都加入這個好人連線，我們一起來防止詐騙集團……是。很多都是可以賺錢，但是詐騙集團的錢、黑心錢絕對不能賺，這一點也要讓這些社群媒體平臺知道。所以目前我再確定一下，你覺得他們有沒有跟我們有這樣一致的同感，好人有沒有越來越多？
- 林部長宜敬
應該是有。坦白講，剛開始我們跟Meta在談判的時候，他們事實上相當的強硬，然後我們一再地勸說，就如同委員講的，這個罰鍰對他們來講實在是只有一點點，最重要的我們是勸說他們，這是他們的社會責任，而且這會影響到他的形象，對他們公司長期來講……
- 洪委員孟楷
如果上面的頁面全部都是詐騙集團充斥，他的網友、粉絲可能也會流失，對不對？
- 林部長宜敬
是，沒錯。
- 洪委員孟楷
最後，我來確認一下，TikTok，我們有王委員現在在TikTok的影片很紅，大街小巷人人都會唱，但是有另外一位王委員講TikTok上面會讓青少年白目，所以校園要禁TikTok。是。社群媒體平臺，剛剛您的報告裡面有講，TikTok也是我們有溝通和納管的平臺之一，是不是？
- 林部長宜敬
是，關於TikTok的納管，我們對TikTok的疑慮主要有三點：第一個是它的資料儲存在哪裡，第二點是它的股權是不是主要是中資，第三點是對兒少的危害。前兩件事情，因為美國跟TikTok也有相當嚴重的爭執，他們最近在解決這個問題，如果順利解決的話，有可能這個資料就會儲存在美國，事實上，目前資料應該已經是相當一部分儲存在美國了；再來，這個股權結構也會變成是美國擁有，這一點我們還不確定；第三點就是對兒少的危害，這一點我們也積極的在跟教育部以及其他單位溝通，因為依照TikTok本身的規定，12歲以下的孩童是不准設立帳號的，13歲到15歲的青少年在TikTok上開設帳號應該是受到一定限制的，所以我們現在會朝向在中小學校園裡面利用科技的方法限制學童來使用TikTok，我們會朝這個方向來處理。
- 洪委員孟楷
中小學，你再講一遍，你說中小學……
- 林部長宜敬
就是在中小學，我們會限制學童利用學校提供的像WiFi這種網路去使用TikTok這個服務，因為本來TikTok自己就規定12歲……
- 洪委員孟楷
所以未來你是希望教育部要各中小學裡面都要查學生的手機裡面有沒有下載這個app？
- 林部長宜敬
這個事情必須取得社會共識，我們不會去查個別學童的手機，我們只是限制學校提供的WiFi……
- 洪委員孟楷
直接遮蔽？
- 林部長宜敬
對，直接遮蔽。
- 洪委員孟楷
直接遮蔽，不能用這個特定的app，是不是？是。好。我想要確認一下，其實我主要也是要問部長認為TikTok該不該禁的看法。
- 林部長宜敬
TikTok該不該禁，就如同我們剛才講的，有主要的……
- 洪委員孟楷
但聽你這樣講，是我們要等美國的溝通談判完之後，我們才要做，我們中華民國政府的立場呢？
- 林部長宜敬
對，這個事情就如同我們剛才講的，有三個主要的疑慮，這個必須有社會的共識，因為牽涉到言論自由，還有媒體自由的議題。因為這是一個新興的科技，目前我們先從我們最確定的部分就是保護兒少的地方開始做；至於他的資料儲存在中國，當然我們會……，事實上，目前TikTok已經有兩種版本，一個是抖音，抖音是中國版……
- 洪委員孟楷
所以我現在自始至終強調、討論的都是TikTok。
- 林部長宜敬
都是TikTok。那TikTok現在很多的server是設在新加坡，總部也設在新加坡，這個還是有一些資安疑慮，但是並沒有像在中國大陸的資安疑慮那麼嚴重。再來，就是它的股權，股權這個事情基本上美國人也搞不懂，臺灣我們也搞不懂，因為它做得很複雜，所以才會有這些爭議。
- 洪委員孟楷
部長，這個追根究柢回來，我覺得重點是兩個部分，就是一開始你開宗明義講的AI（人工智慧）基本法，到底我們在這個會期有沒有辦法順利的三讀通過？我想這是朝野大家共同努力的地方……是。第一、通過這樣的一個基本法，我們能夠來協助，因為社群媒體平臺上面，平臺是一回事，但是重點是上面的內容是另外一個部分，而內容的關鍵如同本席剛剛一直討論下來的，不管是詐騙，不管是不實訊息，不管是危害兒少的訊息，都很有可能利用AI的技術之後反而更容易生成，這是現在科技的趨勢，所以我們一定要儘速地來防堵。再者，你剛剛提到，如果要因應兒少保護，以兒少保護為宗旨，來去納管相關app的話，我也誠摯的要求，應該是要把多數的app都列出來。TikTok，如果認為內容有疑慮，有沒有其他的app？那就是針對兒少保護這一塊，因為有一些交友軟體不可諱言可能也有非常多兒少的議題。甚至國外有做過實驗，如果用一個12歲女性的頭貼且自稱12歲的話，只要上那個交友軟體，一天裡面可以收到上百封的交友邀請，而這些交友邀請都是成年男子居多。換言之，兒少保護的議題不僅只限在內容的部分，而是包括這些交友軟體，以及包括網路相關的。如果要一致來做這樣子納管的話，以兒少保護為出發點，可能就要請數發布更全盤的檢討……
- 林部長宜敬
是，這方面……
- 洪委員孟楷
後續這個會跟教育部一起來溝通，然後列出清單……
- 林部長宜敬
還有衛福部。
- 洪委員孟楷
好，什麼時候可以把這些相關清單給列出來？
- 林部長宜敬
這個相關的清單可能要以衛福部和教育部為主，因為兒少保護本來就是衛福部的職責，但數發部一定會主動的……
- 洪委員孟楷
對，但是既然本席已經問到這個議題，你剛剛也提到，我覺得你們比較積極一點，找衛福部、找教育部一起開會討論……
- 林部長宜敬
是，這個我們一定會。
- 洪委員孟楷
能夠因應兒少保護來列出可能不適合的，這其實就是分級制度，講白了……
- 林部長宜敬
是，沒錯。
- 洪委員孟楷
有一些app，你認為對於15歲以下的國小國中學童真的有疑慮的話，你可以去做分級，是不是？是，好。什麼時候？
- 林部長宜敬
因為今天是第一次聽到，我覺得委員這個建議非常好，我們會朝向這個方向發展，我們希望在年底之前會先有一個想法，到時候再請委員多支持……
- 洪委員孟楷
好，現在10月，那就是兩個月的時間，是不是數發部跟衛福部、教育部一起共同來討論，好不好？
- 林部長宜敬
好，謝謝。
- 洪委員孟楷
再請提供相關報告給本席，謝謝。謝謝。
- 主席（洪委員孟楷）
現在委員人數已達，先請教各位在場委員對議事錄有沒有意見？（無）沒有意見，那議事錄確定，謝謝。感謝廖先翔委員還沒有質詢就先過來協助。再來，我們請第二位質詢的蔡其昌委員質詢。
文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為洪孟楷本人的發言。