張嘉郡於第11屆第4會期經濟委員會第4次全體委員會議

中國國民黨中國國民黨・全國不分區及僑居國外國民

從這段發言整理出的主張

人工智慧生成的內容(含深度偽造)應如何標示或規範?認為公平會應主動出擊、努力監控AI生成的不實廣告,不能等人來才處理。「就是你要主動出擊,你不能等人家來」人工智慧生成的內容(含深度偽造)應如何標示或規範?主張公平會應協尋可判別是否為AI廣告或AI影片的工具。「你們要去協尋這些可以判別是不是AI廣告或是AI影片的工具」人工智慧生成的內容(含深度偽造)應如何標示或規範?主張應建立AI生成廣告揭露原則,讓AI生成的圖片或影片可被辨識是否為AI生成內容。「所以是不是能夠建立一個AI生成廣告揭露的原則?只要是AI生成的圖片或影片,看要怎麼樣分辨是不是AI生成的內容」人工智慧生成的內容(含深度偽造)應如何標示或規範?認為針對AI生成廣告揭露,公平會也許可以主導跨部會合作,例如與數發部合作,共同推動自律規範或教育宣導。「公平會也許可以主導一個跨部會的合作,像是跟數發部合作,共同來推動自律的規範或教育宣導」

發言紀錄

  1. 張委員嘉郡

    感謝主席。我請代理主委,謝謝。

  2. 主席

    請陳主委,謝謝。

  3. 張委員嘉郡

    謝謝主席。謝謝。陳主委好。

  4. 陳代理主任委員志民

    張委員早。

  5. 張委員嘉郡

    我看到你們這次的業務報告提到,公平會正式在研究生成式AI相關的競爭法法規的議題,也對外徵詢意見,這一點我要表示肯定,因為新時代有非常多的新工具,也需要新的規範。從生成文字,然後圖片、影音,AI技術變化非常非常的快,現在短短幾年就已經普及到整個市場,我想請教一下主委,針對AI在市場上的實際應用,你們後續有什麼具體的規劃跟行動方向嗎?

  6. 陳代理主任委員志民

    跟委員報告,我想委員也知道我們對外公開徵詢意見,目前意見已經回來了,我們內部在綜整這些相關的意見,然後思考它到底跟公平交易法的關係有哪些?接下來我們會把分析結果送到委員會討論。是。討論完了以後,我們會朝著是不是發布處理原則或政策說明,提出一個方向性的文件出來?所以目前大概規劃是這樣。了解。

  7. 張委員嘉郡

    目前AI應用中最明顯也最棘手的,就是不實廣告的生成,我想要知道的是像現在網路上充斥著用AI生成的名人代言影片,聲音、表情幾乎都一模一樣,像是你現在看到的AI陳美鳳代言的保養品,甚至就有知名的社長,像謝金河社長、藝人推出投資課程都是被冒用的、都是假的,消費者分不出真假,名人的這些權益也受損,市場信任嚴重被侵蝕,這一點你們有什麼樣具體的行為嗎?

  8. 陳代理主任委員志民

    我想不管是AI或不是AI,我想不實廣告重點是在於廣告呈現的內容跟實際是有出入的,然後這個出入會導致消費者做出錯誤的決定。所以假設今天有這樣一個冒名做不實的見證、不實的廣告,我們既有的公平交易法的不實廣告規定是可以處理的。

  9. 張委員嘉郡

    我知道,但你們要怎麼樣去協助他們揭發?你知道嗎?揭發?不是揭發,就是你要主動出擊,你不能等人家來,他也不知道啊!

  10. 陳代理主任委員志民

    不實廣告我們隨時都有在監控,在網路上都有在監控。

  11. 張委員嘉郡

    是,你要去努力監控,而且這個AI的生成跟真的一樣,搞不好你自己的偵查人員都被騙了。

  12. 陳代理主任委員志民

    我們會監控,一旦發現有問題……

  13. 張委員嘉郡

    你要怎麼分析它是AI生成的呢?你們有相關的技術嗎?因為你看連臺大院長吳明賢都被AI偽影片冒名說在用什麼喝的瘦瘦針,而且還是院方自己報的警,你知道嗎?除了本人自己來揭發說那不是我之外,你們有沒有其他判別的方式呢?

  14. 陳代理主任委員志民

    我們都有進行網路監控,當然委員談的沒錯……

  15. 張委員嘉郡

    什麼樣子的網路監控?

  16. 陳代理主任委員志民

    就是我們會在網路上看。

  17. 張委員嘉郡

    他會知道嗎?他明明看這個就是陳美鳳啊,你覺得你的網路監控人員會覺得說這肯定是AI,他怎麼判別?你現在肯定沒有工具。是。我的意思是說,科技這麼發達,你們要去協尋這些可以判別是不是AI廣告或是AI影片的工具,這是你們現在需求的。

  18. 陳代理主任委員志民

    執法精進的部分,我們也持續在做。是。

  19. 張委員嘉郡

    我想你們的報告裡面就是我想要提的,我為什麼提這幾個案例?就是因為你們的報告裡面沒有相關執法的案例,AI廣告生成的速度之快、成本之低,一天就能夠產出好幾百支影片,那這種內容透過社群媒體的擴散,它造成的影響是遠比傳統廣告來得更廣、更快,如果沒有辦法辨識或揭露機制的話,消費者將會完全陷入資訊混亂,這一點我必須要提醒主委你必須要有工具,我相信魔高一尺,道高一丈,你應該有機會可以找到這些工具,你現在已經知道你若沒有工具是不可能辨別的,它有好幾百個,你怎麼知道哪一個是真的、哪一個是假的呢?所以是不是能夠建立一個AI生成廣告揭露的原則?只要是AI生成的圖片或影片,看要怎麼樣分辨是不是AI生成的內容,我想公平會在這方面可以扮演一個更加積極的角色,因為這已經不是個別的事件了,現在已經是整個市場的新風險,公平會也許可以主導一個跨部會的合作,像是跟數發部合作,共同來推動自律的規範或教育宣導,我相信這一方面可能更是數發部的專業。AI其實應該是人類的好幫手,不能讓它變成欺騙市場的一個工具,這樣才能在科技創新與市場誠信中找到平衡點,主委,你同意嗎?

  20. 陳代理主任委員志民

    非常謝謝委員的指導,對於執法精進的部分,我們都持續在做了,尤其是數位執法技術的部分。

  21. 張委員嘉郡

    所以你們要跨部會討論一下嗎?

  22. 陳代理主任委員志民

    跨部會的部分,委員剛剛講是不是在廣告裡面揭露這是AI做的,這個部分我們回去再研究看看,是不是適合由公平會來做。

  23. 張委員嘉郡

    沒有,就是你們要主動跟數發部討論。

  24. 陳代理主任委員志民

    我們回去會再研析,也許不排除跟數發部討論一下到底這個東西應該如何來處理。我回到剛剛一開始跟委員報告的,其實我們處理不實廣告,不管它是不是AI,主要重點還是在內容的本身。

  25. 張委員嘉郡

    當然啦,它是AI製成的就已經是不實廣告了,它沒有得到當事人的授權,我在跟你講的東西跟你在跟我講的東西是不一樣的,你知道嗎?我再繼續跟你講,我想要知道像演算法在定價上的挑戰,現在大家訂飯店、訂Uber、買機票都會發現同樣的現象,只要需求一提高,所有平台上的定價就會同時上漲,過去大家會覺得一定要合意才是聯合的行為,但現在是演算法AI自己就算好了,那這樣怎麼辦?

  26. 陳代理主任委員志民

    演算法還是由人設計的,不能說這是AI算的,人就不管。

  27. 張委員嘉郡

    這個也是你要管的。

  28. 陳代理主任委員志民

    但是在聯合行為的部分,我們在執法上常會面臨到一些限制,當然剛剛委員有談到合意的部分,很難去認定,因為那個價格的match是同一時間,所以你很難看到跟隨。

  29. 張委員嘉郡

    所以我的意思是,你的思維必須跟上時代,如果很多的業者都用同一套的定價系統自動調價怎麼辦呢?

  30. 陳代理主任委員志民

    有,這個我們在白皮書裡面其實都有討論到。

  31. 張委員嘉郡

    我覺得這可能要特別去注意,這也是一個聯合壟斷的行為啊!

  32. 陳代理主任委員志民

    如果有事證的話,當然是啊!

  33. 張委員嘉郡

    你要去找啊!怎麼可能沒有事證?每天都有,好不好?每天都有,你自己看看Uber。

  34. 陳代理主任委員志民

    對,但我跟委員談到過,在執法上……

  35. 張委員嘉郡

    你再看看訂飯店,你可能太忙了,沒有時間出去玩,但是你總是會坐車吧?

  36. 陳代理主任委員志民

    我剛剛說執法上有一些侷限,就是在法律的要件上來講是有一些限制的,因為平台跟飯店算不算是競爭……

  37. 張委員嘉郡

    所以我的意思是你要再做更多的規範,否則最終犧牲的還是消費者,最終受害的也是消費者。

  38. 陳代理主任委員志民

    這是個重要議題,我們會持續的觀察。

  39. 張委員嘉郡

    好,謝謝主委。

  40. 主席

    謝謝張嘉郡委員的質詢。現在請蔡易餘委員質詢。

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為張嘉郡本人的發言。