從這段發言整理出的主張
人工智慧生成的內容(含深度偽造)應如何標示或規範?認為公平會應主動出擊、努力監控AI生成的不實廣告,不能等人來才處理。「就是你要主動出擊,你不能等人家來」人工智慧生成的內容(含深度偽造)應如何標示或規範?主張公平會應協尋可判別是否為AI廣告或AI影片的工具。「你們要去協尋這些可以判別是不是AI廣告或是AI影片的工具」人工智慧生成的內容(含深度偽造)應如何標示或規範?主張應建立AI生成廣告揭露原則,讓AI生成的圖片或影片可被辨識是否為AI生成內容。「所以是不是能夠建立一個AI生成廣告揭露的原則?只要是AI生成的圖片或影片,看要怎麼樣分辨是不是AI生成的內容」人工智慧生成的內容(含深度偽造)應如何標示或規範?認為針對AI生成廣告揭露,公平會也許可以主導跨部會合作,例如與數發部合作,共同推動自律規範或教育宣導。「公平會也許可以主導一個跨部會的合作,像是跟數發部合作,共同來推動自律的規範或教育宣導」發言紀錄
- 張委員嘉郡
感謝主席。我請代理主委,謝謝。
- 主席
請陳主委,謝謝。
- 張委員嘉郡
謝謝主席。謝謝。陳主委好。
- 陳代理主任委員志民
張委員早。
- 張委員嘉郡
我看到你們這次的業務報告提到,公平會正式在研究生成式AI相關的競爭法法規的議題,也對外徵詢意見,這一點我要表示肯定,因為新時代有非常多的新工具,也需要新的規範。從生成文字,然後圖片、影音,AI技術變化非常非常的快,現在短短幾年就已經普及到整個市場,我想請教一下主委,針對AI在市場上的實際應用,你們後續有什麼具體的規劃跟行動方向嗎?
- 陳代理主任委員志民
跟委員報告,我想委員也知道我們對外公開徵詢意見,目前意見已經回來了,我們內部在綜整這些相關的意見,然後思考它到底跟公平交易法的關係有哪些?接下來我們會把分析結果送到委員會討論。是。討論完了以後,我們會朝著是不是發布處理原則或政策說明,提出一個方向性的文件出來?所以目前大概規劃是這樣。了解。
- 張委員嘉郡
目前AI應用中最明顯也最棘手的,就是不實廣告的生成,我想要知道的是像現在網路上充斥著用AI生成的名人代言影片,聲音、表情幾乎都一模一樣,像是你現在看到的AI陳美鳳代言的保養品,甚至就有知名的社長,像謝金河社長、藝人推出投資課程都是被冒用的、都是假的,消費者分不出真假,名人的這些權益也受損,市場信任嚴重被侵蝕,這一點你們有什麼樣具體的行為嗎?
- 陳代理主任委員志民
我想不管是AI或不是AI,我想不實廣告重點是在於廣告呈現的內容跟實際是有出入的,然後這個出入會導致消費者做出錯誤的決定。所以假設今天有這樣一個冒名做不實的見證、不實的廣告,我們既有的公平交易法的不實廣告規定是可以處理的。
- 張委員嘉郡
我知道,但你們要怎麼樣去協助他們揭發?你知道嗎?揭發?不是揭發,就是你要主動出擊,你不能等人家來,他也不知道啊!
- 陳代理主任委員志民
不實廣告我們隨時都有在監控,在網路上都有在監控。
- 張委員嘉郡
是,你要去努力監控,而且這個AI的生成跟真的一樣,搞不好你自己的偵查人員都被騙了。
- 陳代理主任委員志民
我們會監控,一旦發現有問題……
- 張委員嘉郡
你要怎麼分析它是AI生成的呢?你們有相關的技術嗎?因為你看連臺大院長吳明賢都被AI偽影片冒名說在用什麼喝的瘦瘦針,而且還是院方自己報的警,你知道嗎?除了本人自己來揭發說那不是我之外,你們有沒有其他判別的方式呢?
- 陳代理主任委員志民
我們都有進行網路監控,當然委員談的沒錯……
- 張委員嘉郡
什麼樣子的網路監控?
- 陳代理主任委員志民
就是我們會在網路上看。
- 張委員嘉郡
他會知道嗎?他明明看這個就是陳美鳳啊,你覺得你的網路監控人員會覺得說這肯定是AI,他怎麼判別?你現在肯定沒有工具。是。我的意思是說,科技這麼發達,你們要去協尋這些可以判別是不是AI廣告或是AI影片的工具,這是你們現在需求的。
- 陳代理主任委員志民
執法精進的部分,我們也持續在做。是。
- 張委員嘉郡
我想你們的報告裡面就是我想要提的,我為什麼提這幾個案例?就是因為你們的報告裡面沒有相關執法的案例,AI廣告生成的速度之快、成本之低,一天就能夠產出好幾百支影片,那這種內容透過社群媒體的擴散,它造成的影響是遠比傳統廣告來得更廣、更快,如果沒有辦法辨識或揭露機制的話,消費者將會完全陷入資訊混亂,這一點我必須要提醒主委你必須要有工具,我相信魔高一尺,道高一丈,你應該有機會可以找到這些工具,你現在已經知道你若沒有工具是不可能辨別的,它有好幾百個,你怎麼知道哪一個是真的、哪一個是假的呢?所以是不是能夠建立一個AI生成廣告揭露的原則?只要是AI生成的圖片或影片,看要怎麼樣分辨是不是AI生成的內容,我想公平會在這方面可以扮演一個更加積極的角色,因為這已經不是個別的事件了,現在已經是整個市場的新風險,公平會也許可以主導一個跨部會的合作,像是跟數發部合作,共同來推動自律的規範或教育宣導,我相信這一方面可能更是數發部的專業。AI其實應該是人類的好幫手,不能讓它變成欺騙市場的一個工具,這樣才能在科技創新與市場誠信中找到平衡點,主委,你同意嗎?
- 陳代理主任委員志民
非常謝謝委員的指導,對於執法精進的部分,我們都持續在做了,尤其是數位執法技術的部分。
- 張委員嘉郡
所以你們要跨部會討論一下嗎?
- 陳代理主任委員志民
跨部會的部分,委員剛剛講是不是在廣告裡面揭露這是AI做的,這個部分我們回去再研究看看,是不是適合由公平會來做。
- 張委員嘉郡
沒有,就是你們要主動跟數發部討論。
- 陳代理主任委員志民
我們回去會再研析,也許不排除跟數發部討論一下到底這個東西應該如何來處理。我回到剛剛一開始跟委員報告的,其實我們處理不實廣告,不管它是不是AI,主要重點還是在內容的本身。
- 張委員嘉郡
當然啦,它是AI製成的就已經是不實廣告了,它沒有得到當事人的授權,我在跟你講的東西跟你在跟我講的東西是不一樣的,你知道嗎?我再繼續跟你講,我想要知道像演算法在定價上的挑戰,現在大家訂飯店、訂Uber、買機票都會發現同樣的現象,只要需求一提高,所有平台上的定價就會同時上漲,過去大家會覺得一定要合意才是聯合的行為,但現在是演算法AI自己就算好了,那這樣怎麼辦?
- 陳代理主任委員志民
演算法還是由人設計的,不能說這是AI算的,人就不管。
- 張委員嘉郡
這個也是你要管的。
- 陳代理主任委員志民
但是在聯合行為的部分,我們在執法上常會面臨到一些限制,當然剛剛委員有談到合意的部分,很難去認定,因為那個價格的match是同一時間,所以你很難看到跟隨。
- 張委員嘉郡
所以我的意思是,你的思維必須跟上時代,如果很多的業者都用同一套的定價系統自動調價怎麼辦呢?
- 陳代理主任委員志民
有,這個我們在白皮書裡面其實都有討論到。
- 張委員嘉郡
我覺得這可能要特別去注意,這也是一個聯合壟斷的行為啊!
- 陳代理主任委員志民
如果有事證的話,當然是啊!
- 張委員嘉郡
你要去找啊!怎麼可能沒有事證?每天都有,好不好?每天都有,你自己看看Uber。
- 陳代理主任委員志民
對,但我跟委員談到過,在執法上……
- 張委員嘉郡
你再看看訂飯店,你可能太忙了,沒有時間出去玩,但是你總是會坐車吧?
- 陳代理主任委員志民
我剛剛說執法上有一些侷限,就是在法律的要件上來講是有一些限制的,因為平台跟飯店算不算是競爭……
- 張委員嘉郡
所以我的意思是你要再做更多的規範,否則最終犧牲的還是消費者,最終受害的也是消費者。
- 陳代理主任委員志民
這是個重要議題,我們會持續的觀察。
- 張委員嘉郡
好,謝謝主委。
- 主席
謝謝張嘉郡委員的質詢。現在請蔡易餘委員質詢。
文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為張嘉郡本人的發言。