葛如鈞於第11屆第1會期教育及文化委員會第18次全體委員會議

中國國民黨中國國民黨・全國不分區及僑居國外國民

從這段發言整理出的主張

訓練與使用人工智慧時,個人資料與著作權應如何保護?主張包含文化部在內的各部會資料應儘速向臺灣自製的生成式AI TAIDE開放,範圍包含文字、圖片、影片甚至3D模型。「我們認為包含文化部在內,各個部會的資料都應該儘速向它開放,包含文字、圖片、影片,甚至包含3D模型」訓練與使用人工智慧時,個人資料與著作權應如何保護?質疑相關部會向AI開放文化資產保存資料供其學習不夠完整、主動、積極,認為這可能是AI回答臺灣國定古蹟問題出錯的原因之一。「很可能是我們的相關部會對於AI去開放文化資產保存的資料,讓它去學習可能不夠完整、不夠主動、不夠積極,導致有一些相關的錯誤」訓練與使用人工智慧時,個人資料與著作權應如何保護?要求文化部若認同向AI開放文化資料的方向,提出具體開放期程,並表示若部長認為相關法律有需要修正之處,可以共同協作修法。「我想法律是要隨著時代改變,我們現在就在立法院,如果您覺得法律有什麼需要修正,我們可以一起來協作。部長,如果您也同意這樣子的方向啦!是不是能夠提出具體的向AI開放文化資料的期程?」政府應如何推動人工智慧產業、人才與算力建設?支持臺灣自行開發的生成式AI TAIDE,認為政府也應全力支持。「是臺灣開發的第一個生成式AI,我個人非常支持,政府也應該全力支持」政府應如何推動人工智慧產業、人才與算力建設?認為臺灣不應只做AI的機房,應藉由開放文化資訊讓AI學習,成為華人文化資料的主要提供者,避免淪為文化邊陲。「只有文化開放,只有提供資訊讓AI學習,才能夠落實虛擬世界、AI世界的文化平權,讓臺灣不要淪落為文化的邊陲。臺灣不要只做AI的機房」政府機關使用人工智慧應有哪些規範?要求文化部研議將運用AI協助文化資產保存納入歷史與文化資產維護發展計畫第5期。「能不能請部長研議一下,運用AI協助文化保存,納入這一次跨年期的計畫當中?」政府機關使用人工智慧應有哪些規範?要求文化部從文資保存部門做起,至少進用一名AI人才,並運用AI協助文資保存以補足古蹟服務團隊人力。「部長可不可以承諾,從文資保存部門做起,至少進用一名AI的人才,並且用AI協助文資保存」人工智慧應如何依風險分級管理?認為AI因訓練數據多不包括亞洲而帶有性別與種族等偏見,應受政府部門尤其文化部門重視,以免引發AI文化殖民。「我們認為AI帶有偏見的情況應該受到政府部門,尤其文化部門的重視,因為歐美國家想要藉由AI工具,將西方的文化塑造成主流文化,未來可能會引發AI文化殖民。」

發言紀錄

  1. 葛委員如鈞

    謝謝主席,有請部長。

  2. 主席

    有請部長。

  3. 李部長遠

    葛委員,你好。

  4. 葛委員如鈞

    部長好。今天豔陽高照,但是我們的文化,在AI的世界裡頭卻可能見不得光喔!我想先請教一下部長,我們今天的文化資產,對內具有教育跟歷史的意義,對外則有提升臺灣國際的知名度,及發展觀光的重要功能,我相信這些應該是大家都同意的。我想請教您,假設國外的朋友想要到臺灣進行文化的深度旅遊,他如果透過AI的工具,初步瞭解臺灣文化資產保存的情況,想要來規劃一個很棒的旅遊行程,你認為他們可以透過AI工具得到正確的答案嗎?我們先來看一下第一個基本題,請問我們臺灣目前有多少國定古蹟?以下我們找了華爾街日報各個評比比較熱門的幾個AI,加上我們的TAIDE,我們讓它做了一些回復。那我們想請教一下部長,當中何者的答復比較是正確答案,或者是比較接近正確的答案?部長要不要感受一下AI跟人類的差距啊?有沒有哪一個是比較接近正確的答案?

  5. 李部長遠

    111處,Gemini那個比較對。

  6. 葛委員如鈞

    很好,我們看一下正確答案,確實我們的AI現在還及不了人類,尤其及不了部長喔!非常感謝部長的答復。第二個部分,我們也來問AI,就是請舉出幾個臺灣的國定古蹟?這個是AI的答復,部長,您覺得這幾組答案裡面,有哪幾個AI工具回答是完全正確的?前面4個就是國際評比時經常在使用的,下面最後這個TAIDE是我們臺灣自己做的。

  7. 李部長遠

    3跟4比較對。

  8. 葛委員如鈞

    3跟4比較對是不是?就是Copilot跟Gemini,我想文化部對於文資保存的主題,顯然是做了非常多的功課,沒有錯喔,3跟4的答案是完全正確的。有點可惜啊!我們臺灣自己做的TAIDE答復是錯誤的,故宮博物院並不是我們的國定古蹟。部長,我相信你也相當瞭解啦!其實我自己從進到立法院以來就一再強調開放資料的重要性,您答對了,文化部也答對了,但是我們的AI竟然答錯了,表示什麼呢?表示他們得到的資訊可能不夠完整。我一直在講,如果我擁有蒙娜麗莎這幅畫,我作為擁有者會做出來最錯誤的決定,就是禁止她被印在T-shirt和馬克杯上面,因為這樣子再過50年或再過500年,全世界就再也沒有人知道蒙娜麗莎這幅畫了。開放是文化唯一的生存之道,開放越多人知道,才有越多的人想要一親芳澤,並且認識她、擁抱她。從前面我們詢問AI兩個問題裡面,我們其實就已經發現了,AI工具的回答不完全正確,一部分的原因可能是資料過舊沒有更新;另外一部分的原因,其實很可能是我們的相關部會對於AI去開放文化資產保存的資料,讓它去學習可能不夠完整、不夠主動、不夠積極,導致有一些相關的錯誤。部長,我想請教,你手中或者文化部正握有全世界獨一無二的瑰寶,就是我們臺灣的文化資產,您是否願意更主動積極地向全世界以及全世界的AI開放臺灣豐富的文化涵養,讓它50年、100年以後都能夠被世人所惦念,讓更多人想要一親芳澤?

  9. 李部長遠

    這一點我要先瞭解一下法律,因為我個人的意願好像還要再考慮法律問題、著作權等等喔!

  10. 葛委員如鈞

    我想法律是要隨著時代改變,我們現在就在立法院,如果您覺得法律有什麼需要修正,我們可以一起來協作。部長,如果您也同意這樣子的方向啦!是不是能夠提出具體的向AI開放文化資料的期程?法律哪裡有問題?我們一起來努力嘛!尤其TAIDE我們剛剛看到一個答錯的,是臺灣開發的第一個生成式AI,我個人非常支持,政府也應該全力支持,但是從回答內容來看,TAIDE自己作為我們臺灣自己開發的AI,資料卻是AI裡面最舊的。我們認為包含文化部在內,各個部會的資料都應該儘速向它開放,包含文字、圖片、影片,甚至包含3D模型,部長,我們希望未來能不能往這個方向來研議?

  11. 李部長遠

    好,我們會研究這個部分。

  12. 葛委員如鈞

    接下來談到文資保存,其實文化部依文化資產保存法,委託成立的國定古蹟分區專業服務團隊,想請教一下部長,是不是有掌握目前國定古蹟分區專業服務團隊的成員人數一共有幾人?32位。很好喔!32人的團隊要負責全國111處國定古蹟的巡檢輔導,建立個案資料還要定期更新,人力非常的吃緊。其實目前國內外我們剛剛只是講說,我們可以主動積極地提供資料給AI,可是AI也可以主動積極地來幫助我們,我們來看一下國內外有幾個運用AI工具做文資保存的案例,第一個,日本文化廳從2020年起,運用AI檢查城樓、寺院、古宅等等。文化廳也說,他們也面臨人員緊縮、老齡化的問題,希望透過AI,用數據累積的方式,不只協助巡察,還協助預判未來什麼樣的情況、什麼樣的氣候可能會面臨需要修理的情況。再來我們看法國,2019年一把大火,讓八百多年歷史的聖母院付之一炬。我作為一個阿宅,真的覺得還好我們有玩遊戲,遊戲公司之前在製作遊戲的時候,有做全面3DVR的掃描,導致高解析度的巴黎聖母院有被虛擬化、AI化,使得聖母院得以進行更快速的災後修復工作。在臺灣,2021年嘉義市政府有跟雲科大合作,建置戶外AI智慧古物監測保存系統,透過AI進行變形或者傾斜狀況的紀錄以及監測。2022年雲科大的團隊更開發出全臺首部AI文物智慧巡檢機器人,跟苗栗縣政府合作。想請教一下部長,近5年來,文化部有沒有推動運用AI科技協助文資保存的計畫?

  13. 李部長遠

    文化資產的鑑定科技資料都完全……未來我們會做,把AI的技術引進我們原來就有的監測技術,包括文化資產現地保存。

  14. 葛委員如鈞

    好,現在有沒有?

  15. 李部長遠

    現在沒有。

  16. 葛委員如鈞

    很好,確實我們詢問過貴部,有說近5年文資局雖然尚無使用AI進行保存的計畫,但也希望未來可以評議,為什麼?文化部向行政院爭取歷史與文化資產維護發展計畫第5期,6年的計畫總經費高達160億,從今年開始施行。能不能請部長研議一下,運用AI協助文化保存,納入這一次跨年期的計畫當中?這個有沒有機會研議?

  17. 李部長遠

    沒有問題,委員的建議非常好,我們會優先納入。

  18. 葛委員如鈞

    AI是要幫助人類,日前卓榮泰院長也在答詢的時候說,要落實部部有AI,但是目前還沒有看到什麼AI的人在部會裡,也許文化部可以搶先,各個部會都要用AI人才,這是院長的承諾。部長可不可以承諾,從文資保存部門做起,至少進用一名AI的人才,並且用AI協助文資保存,讓古蹟服務團隊的人力可以變成33加N,等於多了一個AI的人才,運用AI擴大人類的能力,甚至無限擴增,有沒有機會研議?

  19. 李部長遠

    絕對有,因為行政院目前鼓勵每一個部會都用AI的技術。

  20. 葛委員如鈞

    希望你們在一個月內將相關研議結果,以書面提供給本席,有機會嗎?

  21. 李部長遠

    是,可以。

  22. 葛委員如鈞

    謝謝部長。接下來要跟部長談一個很重要的議題──文化平權,我們剛剛講的只是普及,現在要講平權。近年來文化部致力於推動文化平權,每年花費約7億元的預算。想請教一下部長,除了消弭實體世界中的歧視和偏見,文化部對於虛擬世界、AI世界的文化平權,有沒有提出相關的政策、規劃?有沒有計畫投入相應的經費?

  23. 李部長遠

    我想請司長回答。

  24. 魏司長秋宜

    委員好。謝謝委員的指教,目前文化平權預算的推動確實比較著重在實體的場域跟活動,這個部分我們會納入今年至往後推動的重點。謝謝。

  25. 葛委員如鈞

    在這邊想提醒各位官員,我們在社群媒體的時代已經見證了,digital media、社群媒體對人類認知產生的影響是巨大而且快速的,AI絕對不會更慢,只會更快,而且更隱性。歐盟已經講了,會有輕推的作用,這個輕推會是微小但是巨大的影響,而且我們看不見。為什麼我們會提醒部長,除了實體世界以外,也要重視虛擬世界、AI世界的平權?我特地準備了幾張AI繪製的圖片,我們首先請AI繪製了兩張醫生的圖片,再請AI繪製了兩張護理師的圖片,再請AI再畫兩張公車司機的圖片,再請AI畫了兩張空服人員的圖片,再請AI畫了兩張保母的圖片,再請AI畫了兩張副總統(vice president)的圖片,我們用中文,大家可以看一下,最後我們還讓它來一張剛剛所有角色的大合照。請教一下部長,有沒有發現這些圖片有奇怪的地方?

  26. 李部長遠

    性別上大家有些偏見,還有階級。沒錯。

  27. 葛委員如鈞

    首先,這些圖片帶有性別的刻板印象,醫生被預設為男性,護理師被預設為女性,而且一向面容姣好,公車司機一定是男性,空服人員、保母則一定是女性,還有副總統畫了4張,全部是男性。其次,這些圖片很可能還隱藏了種族歧視,所有的職業除了建築工人是有色人種以外,幾乎全部是白人,圖片當中亞洲人的身影寥寥無幾,明顯與真實世界的情況相異,當然也跟臺灣的情況不符。部長可以稍微思考一下AI的偏見如何產生。我們再來看一下文化的部分,請教一下部長,以下的圖片能不能分辨出哪一位是新娘?

  28. 李部長遠

    中間的。

  29. 葛委員如鈞

    事實上全部都是,地球上明明有那麼多元的文化,每一種文化都有風格獨具的儀式,但是我們如果請AI畫出新娘禮服的話,連畫N次全部都長一個樣子。其實史丹佛大學的研究已經發現了,AI在開發的階段,它所學習的數據跟文化大多不包括亞洲國家,這會導致它對世界的認知是有偏差的。我們認為AI帶有偏見的情況應該受到政府部門,尤其文化部門的重視,因為歐美國家想要藉由AI工具,將西方的文化塑造成主流文化,未來可能會引發AI文化殖民。我們今天也看到中研院院士孔祥重先生提到,臺灣擁有民主、多元、自由的價值,我們認為AI應該結合文化,要結合民主,要結合平權。黃仁勳先生說臺灣是AI的中心,這雖然是一句褒獎,但何嘗不是一種提醒?只有文化開放,只有提供資訊讓AI學習,才能夠落實虛擬世界、AI世界的文化平權,讓臺灣不要淪落為文化的邊陲。臺灣不要只做AI的機房,90%的AI機器是臺灣做的,未來有沒有可能文化裡面,有90%的華人文化是由臺灣提供?部長能不能承諾,接下來文化部將會投入資源,進行虛擬世界、AI世界的文化普及、文化平權?我們能不能一起努力消弭虛擬世界裡頭一切大欺小、文化殖民、AI殖民的刻板印象跟歧視?我們有沒有機會一起努力?

  30. 李部長遠

    謝謝葛委員,這個真的非常重要,我們會列入未來施政的考慮。

  31. 葛委員如鈞

    開放資料,讓AI認識真正的臺灣,認識真正的人類文化。謝謝部長,我們一起為文化平權努力。感謝。

  32. 李部長遠

    好,謝謝葛委員。

  33. 主席

    謝謝葛如鈞委員。等一下吳沛憶委員質詢完,我們休息5分鐘。接下來請陳培瑜委員。

對話紀錄沒有收錄的發言

這場會議很長,上面的對話紀錄只保留了一部分。以下是葛如鈞在同一段發言裡、上面沒有出現的話,逐字取自公報,但看不到前後其他人說了什麼;需要完整脈絡請看公報原文。

  1. 葛如鈞

    部長好。今天豔陽高照,但是我們的文化,在AI的世界裡頭卻可能見不得光喔!我想先請教一下部長,我們今天的文化資產,對內具有教育跟歷史的意義,對外則有提升臺灣國際的知名度,及發展觀光的重要功能,我相信這些應該是大家都同意的。我們先來看一下第一個基本題,請問我們臺灣目前有多少國定古蹟?以下我們找了華爾街日報各個評比比較熱門的幾個AI,加上我們的TAIDE,我們讓它做了一些回復。那我們想請教一下部長,當中何者的答復比較是正確答案,或者是比較接近正確的答案?部長要不要感受一下AI跟人類的差距啊?有沒有哪一個是比較接近正確的答案?第二個部分,我們也來問AI,就是請舉出幾個臺灣的國定古蹟?這個是AI的答復,部長,您覺得這幾組答案裡面,有哪幾個AI工具回答是完全正確的?前面4個就是國際評比時經常在使用的,下面最後這個TAIDE是我們臺灣自己做的。

  2. 葛如鈞

    接下來談到文資保存,其實文化部依文化資產保存法,委託成立的國定古蹟分區專業服務團隊,想請教一下部長,是不是有掌握目前國定古蹟分區專業服務團隊的成員人數一共有幾人?32位。32人的團隊要負責全國111處國定古蹟的巡檢輔導,建立個案資料還要定期更新,人力非常的吃緊。其實目前國內外我們剛剛只是講說,我們可以主動積極地提供資料給AI,可是AI也可以主動積極地來幫助我們,我們來看一下國內外有幾個運用AI工具做文資保存的案例,第一個,日本文化廳從2020年起,運用AI檢查城樓、寺院、古宅等等。文化廳也說,他們也面臨人員緊縮、老齡化的問題,希望透過AI,用數據累積的方式,不只協助巡察,還協助預判未來什麼樣的情況、什麼樣的氣候可能會面臨需要修理的情況。再來我們看法國,2019年一把大火,讓八百多年歷史的聖母院付之一炬。我作為一個阿宅,真的覺得還好我們有玩遊戲,遊戲公司之前在製作遊戲的時候,有做全面3DVR的掃描,導致高解析度的巴黎聖母院有被虛擬化、AI化,使得聖母院得以進行更快速的災後修復工作。在臺灣,2021年嘉義市政府有跟雲科大合作,建置戶外AI智慧古物監測保存系統,透過AI進行變形或者傾斜狀況的紀錄以及監測。2022年雲科大的團隊更開發出全臺首部AI文物智慧巡檢機器人,跟苗栗縣政府合作。想請教一下部長,近5年來,文化部有沒有推動運用AI科技協助文資保存的計畫?好,現在有沒有?很好,確實我們詢問過貴部,有說近5年文資局雖然尚無使用AI進行保存的計畫,但也希望未來可以評議,為什麼?文化部向行政院爭取歷史與文化資產維護發展計畫第5期,6年的計畫總經費高達160億,從今年開始施行。能不能請部長研議一下,運用AI協助文化保存,納入這一次跨年期的計畫當中?這個有沒有機會研議?

  3. 葛如鈞

    部長可不可以承諾,從文資保存部門做起,至少進用一名AI的人才,並且用AI協助文資保存,讓古蹟服務團隊的人力可以變成33加N,等於多了一個AI的人才,運用AI擴大人類的能力,甚至無限擴增,有沒有機會研議?接下來要跟部長談一個很重要的議題──文化平權,我們剛剛講的只是普及,現在要講平權。近年來文化部致力於推動文化平權,每年花費約7億元的預算。想請教一下部長,除了消弭實體世界中的歧視和偏見,文化部對於虛擬世界、AI世界的文化平權,有沒有提出相關的政策、規劃?有沒有計畫投入相應的經費?

  4. 葛如鈞

    在這邊想提醒各位官員,我們在社群媒體的時代已經見證了,digital media、社群媒體對人類認知產生的影響是巨大而且快速的,AI絕對不會更慢,只會更快,而且更隱性。我特地準備了幾張AI繪製的圖片,我們首先請AI繪製了兩張醫生的圖片,再請AI繪製了兩張護理師的圖片,再請AI再畫兩張公車司機的圖片,再請AI畫了兩張空服人員的圖片,再請AI畫了兩張保母的圖片,再請AI畫了兩張副總統(vice president)的圖片,我們用中文,大家可以看一下,最後我們還讓它來一張剛剛所有角色的大合照。請教一下部長,有沒有發現這些圖片有奇怪的地方?首先,這些圖片帶有性別的刻板印象,醫生被預設為男性,護理師被預設為女性,而且一向面容姣好,公車司機一定是男性,空服人員、保母則一定是女性,還有副總統畫了4張,全部是男性。其次,這些圖片很可能還隱藏了種族歧視,所有的職業除了建築工人是有色人種以外,幾乎全部是白人,圖片當中亞洲人的身影寥寥無幾,明顯與真實世界的情況相異,當然也跟臺灣的情況不符。部長可以稍微思考一下AI的偏見如何產生。我們再來看一下文化的部分,請教一下部長,以下的圖片能不能分辨出哪一位是新娘?

文字取自立法院公報,由 LYAPI 對齊至影片片段。講者無法確定的句子不列為葛如鈞本人的發言。