民主進步黨・彰化縣第1選舉區從這段發言整理出的主張
訓練與使用人工智慧時，個人資料與著作權應如何保護？質疑透過使用者上傳影像生成圖片的AI應用，可能導致應用程式開發商或中國掌握使用者的生物特徵。「但是這種透過使用者上傳影像的方式，是不是可能導致app的開發商、導致中國來掌握這些使用者的生物特徵？」訓練與使用人工智慧時，個人資料與著作權應如何保護？要求中研院除了AI科技的應用之外，也應該對AI使用者權益進行相關研究，日後提供數據及資料給相關單位，以規範未經使用者允許的二次使用。「未經使用者的允許就二次使用或作其他使用，都是很重要的課題，我希望中研院除了AI科技的應用之外，也應該對相關的AI使用者權益進行相關研究，日後可以有這樣的數據及資料提供給相關單位。」發言紀錄
- 陳委員秀寳
謝謝主席。請廖院長。
- 主席
請廖院長。
- 廖院長俊智
陳委員早。
- 陳委員秀寳
院長早。院長，這幾天媒體報導，中研院有員工爆料說，中研院在10月6號辦理建築與空間展活動，邀請了吳思瑤委員及李彥秀委員。但中研院的新聞稿沒有李彥秀委員的照片，因此質疑中研院是不是立場不中立，院長，您覺得這是不是有什麼誤會？
- 廖院長俊智
我想這是很大的誤會，詳情我請總務處說明。
- 陳委員秀寳
請您簡短說明。
- 張處長剛維
委員好。當天氣氛非常融洽，吳思瑤委員跟李彥秀委員到場，但因為李彥秀委員當天有公務行程，在參加我們第一階段的演講後，因必須趕其他公務就先離開，剩下吳思瑤委員。於是在第二階段的現場展覽跟導覽時，由吳思瑤委員參與，所以我們所公告的活動照片上，吳思瑤委員的照片比較多，因此這是誤解。
- 陳委員秀寳
是因為吳思瑤委員待在現場的時間比較長，在參與的過程中比較有機會拍到比較多的相片。是的。中研院是我國最高學術研究單位，一直都謹守學術自由及學術中立，所以如果有誤會的話就藉這個機會來澄清，我不希望有任何人隨意貼標籤，對中研院貼上不中立的標籤，進而影響到中研院的學術發展。
- 廖院長俊智
對，謝謝委員。
- 陳委員秀寳
針對這件事，吳思瑤委員的回應是，當天將近三小時他都全程參與，如同剛才你們所解釋的，他待的時間比較長。至於李彥秀委員看待這件事也非常明理，李彥秀委員表示，只要對中研院好，對南港好，對臺灣學術地位好，他都全力以赴，所以覺得不需要做太多的聯想。既然當事人對這件事情都很客觀，那麼中研院員工所謂的偏袒與呼籲是有什麼深意嗎？如果中研院員工面對這樣的事情時，都沒有很中立、很客觀來看待的話，我覺得會影響到大家對中研院的觀感。我在這邊要講一下，挑選新聞照片其實滿難的，因為是要先挑選人？還是挑選主題？還是挑選整個構圖、版面？看起來很好的構圖，可是人剛好眨眼睛呢？或做怪表情呢？如此，這照片能不能用？像我們在地方跑行程時，經常會出現被斷手或半臉這種相片，我們有時候也會跟主辦單位抗議，他說沒有，就是要把我們縣長放在中間，所以抗議沒有用，不過我們可以理解相片處理的問題。既然這件事已經經過提醒，那麼將來在處理時是不是要更細緻一些？
- 廖院長俊智
是，謝謝。
- 陳委員秀寳
接下來我要請教院長關於AI應用的個資使用界限問題。本席在去年質詢時有問過中研院，能否辨識AI科技？當時中研院的回應是，沒有辦法做。也就是說如果有影片出來，有時候我們以人眼是沒有辦法辨識的。隨著AI越來越發達，應用也越來越廣，請問院長，目前我們有什麼新的方式、新的科技可以來辨識AI的科技，還是我們有什麼方式可以教民眾辨識AI的手段？目前有嗎？
- 廖院長俊智
我請這方面的專家來回答。
- 廖所長弘源
現在因為網路開放，然後又有生成式的AI產生，其實針對Deepfake那樣的技術，因為十幾年前我們在處理數位典藏國家型計畫的時候必須修補老影片，所以那個時候就發展一系列的東西，沒想到現在Deep Learning發展了以後，產生這樣的問題。基本上，目前如果我們沒有在生成的這些影像或者是視訊裡面放入浮水印的話，其實在後來生成的時候是不容易辨別它的真偽，大概是這樣。
- 陳委員秀寳
以現在的技術還是很難去辨識……
- 廖所長弘源
基本上是不容易辨識、很難辨識，而且現在因為網路開放，反而是比較大的機構或國家可以來主導網路世界，所以當它要污染某一個領域的時候，它可以大量的用它的規模來製造一些網路上的東西。
- 陳委員秀寳
這也是本席今天提出來一個很擔憂的部分，我們先看一下，左邊這張圖是現在很盛行的app生成的雪景圖，最近在網路上非常多人使用，它生成的圖片真的很唯美、很浪漫，所以很多人使用，但是這種透過使用者上傳影像的方式，是不是可能導致app的開發商、導致中國來掌握這些使用者的生物特徵？雖然在網路上看起來的圖片非常美，但我因為個資安全，我不敢用我自己的相片，所以我用我助理的貓咪相片，你看它生成起來真的很好看，但是你上傳了，你把你的資料都給他了、把你的圖片都給他了。也有網友紛紛發現中國有很多app，其中的AI功能會未經使用者的同意，就擅自使用他的相片來作為廣告用途，中間這一個就是他之前用過了一個app之後，把他上傳的相片拿來做廣告了。甚至也有app會擅自開啟手機的相機功能，所以民眾也懷疑日常生活中是不是早就被竊聽？這樣子的AI功能使用界限我們要如何認定？中研院有沒有針對這些AI使用隱私個資問題進行研究？
- 廖所長弘源
針對這個部分，因為你只要上網的話，這些內容就有可能會傳出去，因為數位化的關係，數位化的東西是不會損失的，lossless的……
- 陳委員秀寳
這個我們當然知道，因為網路是非常非常開放的，所以你上傳的資料有可能被各種有心人士利用，但是針對這樣子的相關問題，我們還是要對它進行研究跟分析。AI的應用越來越多元，之前剛開始是對話式的AI，現在廣泛應用於各種影音的生成，影音生成的這些內容及使用者的個資，後續要怎麼樣來規範？未經使用者的允許就二次使用或作其他使用，都是很重要的課題，我希望中研院除了AI科技的應用之外，也應該對相關的AI使用者權益進行相關研究，日後可以有這樣的數據及資料提供給相關單位。針對這個部分，請問院長是不是可以來做這樣子的研究呢？
- 廖所長弘源
現在中研院資創中心有幾位研究員在研究浮水印的部分，這個部分在二十年前非常紅，但是因為最近生成式AI的產生跟網路的發達，再加上算力的增加，所以這件事情現在又被拿出來用。
- 陳委員秀寳
您這樣回答，我想對這個部分你們應該也是重視的。
- 廖所長弘源
我們一直都很重視。
- 陳委員秀寳
好，那後續如果有相關的研究及報告的話，請你也送一份資料到我的辦公室，讓我也了解現在中研院對這個部分到底了解多少、掌握了多少好嗎？謝謝。接下來我想請教院長，中研院的業務報告上有提到知識饗宴系列的科普演講在YouTube頻道上累積了180部影片，平均觀看次數超過1.9萬次，這個部分本席是很肯定中研院的努力，但是對YouTube頻道的經營，我還是要提醒一下，中研院的YouTube頻道從2016年設立到目前有10萬4,000的訂閱者，請問院長你對這個訂閱量是滿意的嗎？你覺得需不需要再提升？
- 廖院長俊智
這個當然是越多越好，但是我們鎖定的大概是比較知識性的族群，而不是像一般的音樂性網紅那樣子。
- 陳委員秀寳
除了知識性的族群之外，我們希望越來越多人願意在可以隨時點閱、隨時知曉的狀態之下去接觸。是。再來，除了知識饗宴以外的影片，大部分的觀看次數都沒有超過5,000次，院長你有思考過可能是什麼原因嗎？
- 廖院長俊智
我請業務單位回答。
- 曾處長國祥
我是秘書處處長曾國祥。報告委員，我在想其中的原因之一就是因為現在有e-Learning，比如公務員有學分需求的這一塊，他們可能就會到那些平臺去。當然我們還有很多改進的空間，我們也會持續的改進，謝謝。
- 陳委員秀寳
其實相關的這些影片，我希望你們不要侷限自己，自己先設限說你們是希望推廣給比較知識性的族群，我也希望你們可以參考知識饗宴觀看次數比較高的原因，是因為它比較淺顯易懂，還是它的內容比較吸引民眾、比較生動？希望你們未來在推廣科普的時候，可以訂定一個目標，也就是YouTube的訂閱跟觀看次數有提高的目標，讓相關的講座及相關的活動有更多人可以參與、可以觀看，可以嗎？
- 廖院長俊智
好，我們儘量。
- 陳委員秀寳
我再占用一點時間。今年度重要的國際學術交流活動臺灣橋梁計畫在前天啟動，邀請31位諾貝爾獎得主來臺，以公開演講或小型討論等多元方式與國內研究人員進行交流，這是非常難得的，臺灣橋梁計畫是由中研院跟臺大共同主導，除了邀請諾貝爾獎得主來臺演講之外，我想知道後續有沒有規劃更多的學術合作計畫，或是有沒有跟大學進行課程合作，讓學生能夠把握這麼難得的機會，跟諾貝爾獎得主有更深度的交流機會？
- 孟處長子青
國際處處長報告。我們的確已經跟臺大開始設立兩邊的學生可以互相去對方的講座聽講，臺大也已經開了一個課程，這個課程也讓我們的國際研究生都去修課，這個課程就是專注於這31位得獎主過去的研究成果，讓學生先有了解之後再來聽講。
- 陳委員秀寳
所以是有開這樣的課程？
- 孟處長子青
是，臺大有開這樣的課程，我們跟他們共課。
- 陳委員秀寳
針對講座的部分，其實本席有看過報名的表單，那上面沒有提供即時線上參與的方式，我想問一下可不可以研議讓中南部的民眾可以用線上報名參與的方式，也就是在線上可以觀看講座？
- 孟處長子青
報告委員，因為這個事情牽涉到著作權的問題，目前應該是有點困難，但是因為我們31場講座都對全國民眾開放，他們只要掃QR Code之後就可以報名，就可以來參加，完全沒有任何限制。
- 陳委員秀寳
後續講座的內容會不會上傳到YouTube頻道？
- 孟處長子青
這部分我們會跟和平基金會研議，目前正在討論可行性，如果有進展再跟委員報告。
- 陳委員秀寳
因為這是非常難得的學術交流，如果有相關的資訊可以讓民眾隨時上去看的話，我想這真的很難得，民眾也都會把握，這個部分請你們研議。
- 孟處長子青
是，我們會朝這個方向研議，謝謝。謝謝。
- 主席
謝謝陳秀寳委員，官員請回座。
- 主席（陳委員秀寳代）
接下來請劉書彬委員質詢。
對話紀錄沒有收錄的發言
這場會議很長，上面的對話紀錄只保留了一部分。以下是陳秀寳在同一段發言裡、上面沒有出現的話，逐字取自公報，但看不到前後其他人說了什麼；需要完整脈絡請看公報原文。
- 陳秀寳
是因為吳思瑤委員待在現場的時間比較長，在參與的過程中比較有機會拍到比較多的相片。是的。中研院是我國最高學術研究單位，一直都謹守學術自由及學術中立，所以如果有誤會的話就藉這個機會來澄清，我不希望有任何人隨意貼標籤，對中研院貼上不中立的標籤，進而影響到中研院的學術發展。針對這件事，吳思瑤委員的回應是，當天將近三小時他都全程參與，如同剛才你們所解釋的，他待的時間比較長。至於李彥秀委員看待這件事也非常明理，李彥秀委員表示，只要對中研院好，對南港好，對臺灣學術地位好，他都全力以赴，所以覺得不需要做太多的聯想。既然當事人對這件事情都很客觀，那麼中研院員工所謂的偏袒與呼籲是有什麼深意嗎？如果中研院員工面對這樣的事情時，都沒有很中立、很客觀來看待的話，我覺得會影響到大家對中研院的觀感。我在這邊要講一下，挑選新聞照片其實滿難的，因為是要先挑選人？還是挑選主題？還是挑選整個構圖、版面？看起來很好的構圖，可是人剛好眨眼睛呢？或做怪表情呢？如此，這照片能不能用？像我們在地方跑行程時，經常會出現被斷手或半臉這種相片，我們有時候也會跟主辦單位抗議，他說沒有，就是要把我們縣長放在中間，所以抗議沒有用，不過我們可以理解相片處理的問題。既然這件事已經經過提醒，那麼將來在處理時是不是要更細緻一些？接下來我要請教院長關於AI應用的個資使用界限問題。本席在去年質詢時有問過中研院，能否辨識AI科技？當時中研院的回應是，沒有辦法做。也就是說如果有影片出來，有時候我們以人眼是沒有辦法辨識的。隨著AI越來越發達，應用也越來越廣，請問院長，目前我們有什麼新的方式、新的科技可以來辨識AI的科技，還是我們有什麼方式可以教民眾辨識AI的手段？目前有嗎？
文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為陳秀寳本人的發言。