林宜瑾於第11屆第5會期教育及文化委員會第8次全體委員會議

1. 林委員宜瑾

   謝謝主席，有請國科會陳副主委、數發部侯次長、中研院彭副院長。

2. 主席

   好，請三個機關代表上質詢臺。

3. 林委員宜瑾

   首先我想請教國科會跟數發部，當初我們制定AI基本法的時候曾屢屢提及數發部要去盤點各部會，來配合訂定相關的子法，有些法律甚至是要配合AI基本法來做出相對應的修正，這個可以參照AI基本法第十七條到第十九條。另外，AI基本法第十六條有明定數發部要訂定AI的風險分類框架。想請教侯次長跟陳副主委，子法修法的盤點進度如何？這個風險分類框架什麼時候公告？相對應的修法有沒有在跟其他的部會進行討論？

4. 陳副主任委員炳宇

   跟委員報告，目前風險分類框架還有法規的盤點都在進行當中。風險分類框架應該已經送到行政院，正在等待核定。至於其他的盤點，我們應該是一直在進行。

5. 林委員宜瑾

   相關的子法？

6. 陳副主任委員炳宇

   對，一直在進行當中。

7. 林委員宜瑾

   可不可以把預計要修法的這些法規清單，不管是法律或者是法規命令，在一個禮拜內給本席一份報告？AI基本法都三讀通過那麼久了！

8. 侯次長宜秀

   跟委員報告，我們目前已經把AI風險分類框架送到行政院，也跟委員報告一下目前AI風險框架跟各部會協作的機制：風險分類框架裡面分為三大類，三大類底下有18個子類，這18個子類我們是參考MIT風險中有一個叫Risk Repository的架構，這個架構蒐集了全世界各國不同的風險分類去做統整。在這三大類、18個子類之下，我們把整個風險分類框架分為四個步驟：第一個步驟是盤點應用場景，也就是我們請各機關去盤點他們所管的業務範圍內有哪些AI應用的場景。第二個步驟就是看在這個應用場景底下，依據我們所提供的分類有哪些風險會產生。第三個步驟就是評估風險，也就是究竟他們識別出來的這些風險，它的可能性和發生之後的嚴重危害程度，是不是有達到高風險這個等級。最後就是請各部會去盤點，在風險識別和評估的結果底下，現有的法律和政策工具是不是足夠因應，如果不夠因應的話，是不是要進行修法，或是要提供新的政策工具。這整個措施跟步驟，我們現在在國科會的支持下已經開始跟各部會進行非常積極的協作。我相信委員也能夠理解，在各個不同的部會裡面，其實AI應用的程度是相當不一樣的，他們對AI的理解還有風險的識別也都不太一樣。目前我們跟勞動部、衛福部還有金管會都已經開始進行協作。關於修法的部分……

9. 林委員宜瑾

   現在討論到修法，就相關的子法我沒有說什麼時候要出來，但至少說明一下照你們的規劃，子法的草案什麼時候會出來以及相關的盤點進度到哪裡，我是在詢問這個。

10. 侯次長宜秀

    好，國科會其實已經有請各部會做初步的盤點，但是也請委員能夠理解，因為AI的運用還有技術一直在不斷地變動當中……

11. 林委員宜瑾

    所以還在盤點當中？

12. 侯次長宜秀

    我們可能要持續性地跟您做階段性的報告，因為……

13. 林委員宜瑾

    可不可以針對目前盤點得如何先給我一份書面報告？因為時間的關係……好。接下來檢視AI各層面的議題，因為很清楚地，它跨足了科研端、應用端，其實學科也不僅僅侷限在科技領域，它甚至還有法學的問題，這個侯次長可能最清楚，還有社會學的問題，所以本席認為中研院跟國科會在學研方面應該清楚奠基AI跨領域研究的基礎理論，來引領研究者投入更深的研究。想要請教中研院還有國科會，未來在AI這個基礎的研究上，會呈現什麼樣的跨領域研究？會建立什麼樣的學門？

14. 彭副院長信坤

    謝謝林委員。這一點我想我們要再做訓練，剛才在報告裡面提到，我們要跨領域，比如人文學者過去不懂AI，現在我們就要訓練他，我們也一直在開很多的課程，請他們的助理也要去上課。另外也有請我們院內的資訊人員協助他們做AI方面的訓練，從這兩方面來做。

15. 林委員宜瑾

    好，有一直在努力就對了。對。我想在AI浪潮襲捲全球的這個時刻，我們各學科的領域都有人深入研究，像清大的林勤富教授，在中研院的法學期刊有撰文分析歐盟的AI基本法。接續我前面提到的法制問題，本席認為國科會跟中研院真的應該很努力地來進行實證的研究，在AI這個議題上提供具體的修法跟立法建議，讓學研跟修法可以持續交流對話，進而可以被司法作為裁判的依據。我們回到這次的主題之一，就是學門的建構與應用。本席認為，在這邊相關學門的建構最後指向的其實是應用，重點就在實際應用，所以本席作為一個立法者，我的幕僚常常在研讀各種法學的研究成果，也參考相關修法的建議來提出修法，所以本席要在這裡具體建議，AI的法律研究應該要突破單純的分析比較法視野，就如同我前面所說的，要跟立法實務有更多的對話。簡單來說，像中研院跟國科會做出的研究就應該要能實質建議給AI跟數位的主管機關跟立法院，所以在這裡想要了解，中研院、國科會跟數發部對於我剛剛提到的看法有什麼樣的想法？

16. 彭副院長信坤

    謝謝林委員的建議，其實我們在兩年前就已經成立了法律方面的風險小組，由我們在座法律所的李所長來負責，我們都會固定去盤點會碰到的法律問題，我希望未來有機會跟國科會做進一步的交流，謝謝。

17. 林委員宜瑾

    國科會呢？

18. 陳副主任委員炳宇

    跟委員報告，我們其實不只是法律的部分，國科會所支持的一些研究成果，只要跟各部會有關係的、有幫助的，我們都會轉請各部會參考。在法律這一塊，其實我們跟中研院也有很多密切的合作，也有一些對法規的……像人工智慧基本法這一塊，我們其實已經有很多的研究、討論，都有提供給數發部參考。好。

19. 林委員宜瑾

    最後我再談一個實際應用的問題，就是我們今天的主題之一──數位透明度，這個對應到我國AI基本法的宣示原則之一，就是「透明與可解釋性」，簡單來說就是當AI做出一個決策，我們必須要能交代它的演算過程跟理由，任何在我國落地的AI應用如果沒辦法滿足這樣的需求，產生爭議的話，可能會導致要去打官司，這勢必會引起很大的問題。所以談到透明，我覺得我們不只需要演算法跟決策過程的透明，也需要資料的透明，甚至是事後的清楚標示。前陣子本席有向國安局提出一些書面質詢，詢問國安局是否具備以AI對抗AI的能力。針對現在快速傳播這些惡意的深偽內容要如何緊急處分，國安局回復本席說會研究導入AI代理人技術來強化偵測辨識AI生成內容及帳號群控等行為。另外，國安局也表示，或許可以借鑑歐盟的法制，強化相關的法源，來促使社群平臺業者能善盡企業責任，依法來標註錯假訊息，審查並下架不實的影音。本席看來，這個重點在於國家安全的守護搭配我國AI基本法的透明與可解釋性原則，我覺得應該要有辦法針對令人頭痛的AI生成錯假訊息來進行處理，比如說強制標註，就是要求他解釋生成的過程，後端就來審查下架，配合AI基本法第五條規定政府應避免人工智慧之應用，有破壞國家安全等等的情事。請教侯次長，臺灣面對這種日益嚴峻的資訊戰，數發部怎麼樣跟國安單位配合研擬相關政策，來對抗不利於我們臺灣這個國家的錯假訊息的散布？

20. 侯次長宜秀

    跟委員報告，我們就AI生成內容、錯假訊息還有標示的議題，目前由部長親自處理，並和各個主要的大型平臺及生成式AI的主要提供服務商去做討論，也已經召開會議，我們現在得到的反饋，就我所知，各個平臺其實都願意往主動標示的方向去做推進。

21. 林委員宜瑾

    好，因為國家安全確實是非常重要，所以這個部分再請各單位多加努力。謝謝，謝謝主席。

22. 侯次長宜秀

    是，謝謝。

23. 主席

    謝謝林宜瑾委員的質詢，請官員回座。接下來請郭昱晴委員詢答。

文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為林宜瑾本人的發言。