從這段發言整理出的主張
人工智慧生成的內容(含深度偽造)應如何標示或規範?主張廣電媒體運用AI影像不應一味禁止、禁用,而應由NCC訂好指引原則,讓業者有遵循方向,以利業者發展與監理機關監管。「當然我們也沒有辦法一味地去禁止、禁用AI的影像,所以在廣電媒體的運用上,我們希望NCC這邊要訂好這個指引的原則,讓業者有一個遵循的方向,我想這對於整個廣電媒體業者的發展也是好的,對於監理機關在這方面的監管應該也是有所依循啦!」人工智慧生成的內容(含深度偽造)應如何標示或規範?要求在沒有裁罰疑慮的前提下,NCC應儘快與業者做好溝通,讓廣電媒體AI應用指引確定下來。「對,所以如果沒有裁罰的疑慮,我想這個部分也是要請NCC儘快跟業者做好溝通,然後趕快讓這個AI的應用指引可以確定下來。」發言紀錄
- 陳委員素月
謝謝主席,請主席邀請陳代理主委。
- 主席
請陳代理主委。
- 陳代理主任委員崇樹
陳委員午安。
- 陳委員素月
主委早安。人工智慧崛起以及迅速發展,其實正全面地改變全球的產業以及數位生態,也造成很大的衝擊。就NCC所監管的廣電媒體來看,我們也看到曾經有生成式AI製造假新聞,要來干擾當時美國總統的選舉,我們也看到曾經有新聞媒體誤用了AI生成的影片來報導新聞,所以就這個部分,我想請教一下代理主委,AI生成的影片到底能不能運用到新聞報導裡面?
- 陳代理主任委員崇樹
跟委員報告,對於AI生成的影片,我們是有要求業者一定要做適當的標示,剛剛提到某一家報導緬甸地震,我們也有做相應的處理。至於說先前我們有委託法人來研議廣電媒體運用AI的指引,目前也大致告一段落,過程裡頭透過專業人士的研議,然後我們會內找專家學者討論,也跟業者溝通過了。目前最新的指引的重點有幾個部分,第一個部分就是要落實保障人權、公平性、沒有偏見;另外就是要有內容查核的機制;第三個就是要揭露AI生成標示,就是剛剛前面提到的;最重要的是,要以事實為依據,所以要落實法遵,不可以說因為是用AI,然後相關的就沒有在處理。業者這邊我們跟他溝通過,他們也希望能夠bottom-up,從業者的角度,他們大概也會生出自己的AI運用綱要、指引,就跟當初我們請業者做事實查證的一些指引一樣。目前的情況是,NCC的部分有一個版本,我們後續會持續再優化,至於業者的部分,經過我們兩次找他們來討論之後,他們近期開始要研擬自己的版本,以上跟委員補充。
- 陳委員素月
是,謝謝陳代理主委的說明。因為我們看到在2023年5月24日的時候,NCC事實上就已經有說明要研議廣電媒體AI使用指引,在2025年4月2日的時候也有說明,預計會在當年的第三季推出AI使用指引,應該就是2025年的9月份,第三季嘛!那現在已經是2026年3月了,又過了6個月,所以剛剛主委說明的進度,你們是委託資策會,是不是?
- 陳代理主任委員崇樹
對,資策會。
- 陳委員素月
來撰寫AI應用指引的初稿,這個初稿剛剛聽你的說明,事實上都是一個原則性的方向,可是我們得到訊息是說業者是有意見的,是反對的,是不是?
- 陳代理主任委員崇樹
對,沒錯。剛剛跟委員報告說我們兩次找業者來溝通這個指引的內容,跟他們交流意見,他們認為有些部分從媒體生產方的角度,他們覺得強調的重點可能會以他們的角度適當地調整,所以剛剛跟委員報告說業者也會提出他們自己bottom-up的版本。至於我們NCC的官版,從委託資策會以來都是持續在優化,目前的進度大概就是說,從委託資策會到現在,找外面專家學者溝通、優化,再找廣電業者來協調溝通的優化版本,其實現在已經到達這種程度,未來業者本身也會提出自己的版本。
- 陳委員素月
還要多久的時間?
- 陳代理主任委員崇樹
我們的版本優化差不多告一段落,後續業者的版本,我們當然期待他是越快越好啦!我們後續還是會跟他保持密切互動。
- 陳委員素月
業者的版本還要等多久?你們的版本出來之後,還要跟業者的版本再融合嗎?
- 陳代理主任委員崇樹
不必然,因為就跟早期事實查證原則一樣,我們NCC也有提出版本,像衛星公會還有公視也有自己的版本,還有無線媒體、電視學會也有自己的版本,大概是這樣子。就是一個法人團體,他們自己的會員有一個follow版本,再對照我們NCC的版本,大致都是,因為這個版本其實是一個行政指導的事項,並非強制法遵,但是我們會希望訂了這個指引,NCC的官版也好,業者自己訂的也好,我們希望都能夠來落實執行。
- 陳委員素月
是,因為現在AI的運用越來越普及,AI生成影像的技術是越來越精進,真的是真假難辨。當然我們也沒有辦法一味地去禁止、禁用AI的影像,所以在廣電媒體的運用上,我們希望NCC這邊要訂好這個指引的原則,讓業者有一個遵循的方向,我想這對於整個廣電媒體業者的發展也是好的,對於監理機關在這方面的監管應該也是有所依循啦!我想這個部分,所謂的AI指引應該不會有裁罰的一個延伸吧?
- 陳代理主任委員崇樹
是的,因為它算是行政指導。
- 陳委員素月
行政指導。
- 陳代理主任委員崇樹
算是軟法,軟法就是行政指導。
- 陳委員素月
對,所以如果沒有裁罰的疑慮,我想這個部分也是要請NCC儘快跟業者做好溝通,然後趕快讓這個AI的應用指引可以確定下來。
- 陳代理主任委員崇樹
好,沒問題,因為這個是發展中的科技,其實大家都是滾動式調整。是。
- 陳委員素月
接下來本席想請教一下有關詐騙的議題,我們看到內政部警政署刑事警察局在114年6月的時候曾經發布了一則新聞,提醒民眾在提交OTP碼的時候要小心,因為曾經有很多的案例就是民眾受到誘導,提交了OTP碼之後就被盜刷或者是被盜領一空。NCC在這個部分有沒有什麼精進的方法?就是針對身分驗證的技術可以更加地精進,從詐騙的源頭堵詐。
- 陳代理主任委員崇樹
是,委員講到重點,我們都是從源頭,過往有很多司法警察機關發現他是用人頭去申請門號,然後再去跟數位平臺申請帳號,這些年來我們透過機關協力,包括透過高檢署等等,然後通知相關平臺的主管機關停止數位平臺的帳號,其實這幾年下來,我們大概有18萬左右的門號對應這個數位平臺的一些帳號被砍掉,比方說LINE就砍掉了七點多萬,還有一些像海關的EZ WAY app等等相關的處理,總共砍掉了9.6萬個數位平臺的帳號。未來這個OTP的驗證部分,從NCC現在的一些技術演進,我們會從源頭端的電信門號申請要落實KYC這邊持續加強處理。
- 陳委員素月
是,有關身分的驗證,舊技術是用簡訊來做身分驗證嘛!
- 陳代理主任委員崇樹
對,目前OTP是這樣。
- 陳委員素月
以現在科技的發展,有沒有可能透過新的數位技術來防止被詐騙?
- 陳代理主任委員崇樹
今年在巴塞隆納MWC的demo裡頭,也有一些新的廠商有提出新的方式,這些我們都還在觀察當中。這個技術其實在全世界相關的產業生態裡頭,國際大廠也有在投入,如果社會、產業界大家都有共識,認為這個可行的話,未來市場有這個需求,產品或等等,在功能上都符合的話,我們應該會協同業者引入處理。
- 陳委員素月
是,現在很多的科技公司真的人才很多,可能他們也有很多新技術的研發,所以我們希望NCC就這個部分可以跟產業界多做一些交流,吸取更好的經驗跟技術,然後針對身分的驗證能夠有更精進的方案來做詐騙源頭的堵詐。
- 陳代理主任委員崇樹
是,只要有益於打詐的,我們都會全力來協助配合。
- 陳委員素月
好,謝謝主委。
- 陳代理主任委員崇樹
謝謝委員。
- 主席
謝謝陳素月委員的發言,也謝謝陳代理主委。接下來請許智傑委員發言。
對話紀錄沒有收錄的發言
這場會議很長,上面的對話紀錄只保留了一部分。以下是陳素月在同一段發言裡、上面沒有出現的話,逐字取自公報,但看不到前後其他人說了什麼;需要完整脈絡請看公報原文。
- 陳素月
是,有關身分的驗證,舊技術是用簡訊來做身分驗證嘛!以現在科技的發展,有沒有可能透過新的數位技術來防止被詐騙?
文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為陳素月本人的發言。