民主進步黨・全國不分區及僑居國外國民從這段發言整理出的主張
人工智慧應如何依風險分級管理？主張引述學者建議，用於教育、職業培訓、學生評估或監控學習者行為，或具有與未成年心理、情緒互動功能如情緒識別的AI產品應視為高風險，並應在風險管理、設計合規、自我評估及第三方審查時納入兒童脆弱性評估、操控風險、家長同意流程、透明度與可識別性，認為這才是真正做到兒少保護，並建議將相關概念納入基本法「他們是說如果今天這個AI的產品開發用於教育、職業培訓、學生評估或監控學習者的行為，或是擁有與未成年心理、情緒互動等等功能，如情緒識別，就會把這樣的東西視為高風險，因此必須在風險管理、設計合規、自我評估以及第三方審查的時候，明確納入兒童脆弱性評估、操控風險、家長同意流程、透明度與可識別性，也就是說，像是在操作性的部分，他們要確認是否有難以察覺的誘導式設計，例如可能是遊戲化獎勵、無限滑動，讓兒童無意識地進行操作或是過度使用，以及這裡面是否明確標示為AI，讓兒童可以識別我今天是在跟機器人互動，而不是跟真人互動，才能夠讓他提出一個更容易辨識的提示；以及是否依據GDPR取得家長的同意，限制敏感資料的蒐集，並且提供刪除及存取權限給兒童及家長。我會認為這才是真正做到所謂的兒少保護」人工智慧應如何依風險分級管理？希望除了評測之外，在基本法裡面把這些兒少保護概念也放進去「這邊我們可以提供團體跟學者名單，但我希望除了評測之外，在基本法裡面是不是可以把這些概念也放進去？」發言紀錄
- 張委員雅琳
謝謝主席，我們有請部長。
- 主席
請部長。
- 黃部長彥男
張委員好。
- 張委員雅琳
今天我主要想要來討論的還是AI基本法以及AI基本法未來制定時要考量的面向，就這些部分來跟部長做一些討論。在2024年7月5號，日本的資訊通信白皮書統計了多個國家的人使用生成式AI的使用率，就發現日本敬陪末座，他們是最後一名，英國大概也是只有39.8%；我們的MIC、資策會其實在去年也做了一個生成式AI的大調查，36%的網友其實都使用過生成式AI的工具，其中年輕族群18到25歲的使用比例又更高。也因此影響到現在日本在做AI人工智慧白皮書第二版時，他們宣示日本要成為世界上使用AI最friendly的國家，作為他們當前的一個策略目標，其實他們在今年2月的時候也正式確立了這個AI的法案，會由全體閣僚也就是各部部長作為AI的統管機關，來制定相關的研發跟應用計畫還有開發使用指南等等，他們的科學技術政策擔當大臣城內實表示：我們將建構既能促進創新又能應對風險的全球示範性法律，舉全國之力讓日本成為全球最適合AI開發和運用的國家。他們這個法其實也在今年的5月28號由參議院審議通過了，成為他們首部人工智慧的法律框架。其實從上個禮拜大家就一直不停在討論一件事情，就是到底我們AI基本法的目標訂定應該是什麼，因為過去在國科會，它主要是在科學研究，所以這些相關風險它一定是會調得比較低，因為它是要讓科學可以持續去推展，可是當今天回到產業的運用上面，我們已經看到非常多問題，所以我自己在想的就是，當現在數位部要來做這個法的時候，我們自己的目標訂定到底是什麼，可不可以請部長大概簡單講一下？
- 黃部長彥男
委員，您講得很好，事實上AI的發展就如同剛才講的，一方面重視創新，一方面重視管理，當然每一國的作法不一樣，像歐盟就比較重視管理……
- 張委員雅琳
對，美國就比較開放、創新。
- 黃部長彥男
美國就重視創新，日本也比較重視創新，所以基本上是用法來鼓勵創新，包括投資等等，我們臺灣應該是介於這兩個的中間，所以我們同時注重一些管理，管理包括風險管理跟資料治理，但是我們又不希望因為太強勢，像歐盟這麼強勢的管理，進而影響到AI產業的發展，所以這要怎麼樣來拿捏，就是為什麼會有這麼多討論、有這麼多版本的原因，而為什麼在行政院，包括在我們部裡面有這麼多討論，都是因為這個拿捏要很精準。對。比如說，因為AI技術又在進步、進步又很快，所以我們過去認為的管理方式，可能再過一年或再過半年就又不對了，所以這個東西變成是一個挑戰，對此，我們部裡面……了解。
- 張委員雅琳
基本上，以前歐盟的管控度是高的……
- 黃部長彥男
管很嚴，對。
- 張委員雅琳
可是我們今天也可以看到波蘭跟英國在這個月都踩煞車嘛……
- 黃部長彥男
對，他們就退出了。
- 張委員雅琳
因為他們會擔心在全世界的競爭上他們會輸。所以我希望這部分在7月底預計提出版本時，我們是不是也可以根據現在的發展的趨勢拿捏出……在立法目的上面就要敘明，因為現在在立法目的裡面其實並沒有去講到促進經濟相關的產業發展，而比較是在管控面的角度。
- 黃部長彥男
對，原來是這樣沒錯。
- 張委員雅琳
對，因為全世界過去有管控的都已經開始要慢慢轉彎，所以我們在立法目的上面應該也要去做一些修正才對，這個部分就是做一個提醒跟建議。
- 黃部長彥男
好，謝謝委員提醒。
- 張委員雅琳
再來下一個部分，在5月份時我跟數發部其實有開了一個會，就是有關於基本法的修法會議，當時我就有提到，產業開發都會到AI評測中心去做檢測，當時是有跟我說會依據涵蓋公平性、準確性、可靠性、隱私及資安等等5個面向，讓這些產品可以保護兒童、防止犯罪等等。但是我看了一下題目，我請教了一些相關的專家學者，他們覺得這樣的題目其實是不夠精準，而且非常簡略，真的要避免讓兒童涉入，像是聊天機器人讓孩子去自殺，面對這樣的狀況似乎是不足，這邊也有學者提供我一些建議，這個我之後也會再提供給評測中心。
- 黃部長彥男
好，謝謝委員。
- 張委員雅琳
他們是說如果今天這個AI的產品開發用於教育、職業培訓、學生評估或監控學習者的行為，或是擁有與未成年心理、情緒互動等等功能，如情緒識別，就會把這樣的東西視為高風險，因此必須在風險管理、設計合規、自我評估以及第三方審查的時候，明確納入兒童脆弱性評估、操控風險、家長同意流程、透明度與可識別性，也就是說，像是在操作性的部分，他們要確認是否有難以察覺的誘導式設計，例如可能是遊戲化獎勵、無限滑動，讓兒童無意識地進行操作或是過度使用，以及這裡面是否明確標示為AI，讓兒童可以識別我今天是在跟機器人互動，而不是跟真人互動，才能夠讓他提出一個更容易辨識的提示；以及是否依據GDPR取得家長的同意，限制敏感資料的蒐集，並且提供刪除及存取權限給兒童及家長。我會認為這才是真正做到所謂的兒少保護，這個部分是不是可以……其實之前評測中心是說可以再跟兒少團體來做一些討論，這部分是不是也可以邀請部長承諾這件事情？
- 黃部長彥男
應該可以，我們再請……
- 張委員雅琳
在修法之前是不是就可以做到這件事情？因為我希望當我們這個基本法出去之後……
- 林次長宜敬
這個沒有問題，委員這邊或是任何學者專家有一套題目，希望我們對於各種AI進行監測的話，你可以把那個題目交給我們的AI評測中心，AI評測中心就會去做所謂的benchmark……
- 張委員雅琳
這邊我們可以提供團體跟學者名單，但我希望除了評測之外，在基本法裡面是不是可以把這些概念也放進去？
- 黃部長彥男
好，我想我再跟委員看怎麼安排，我們再去增進這方面的評測項目。
- 張委員雅琳
好，那我們一起努力，謝謝。
- 黃部長彥男
好，謝謝。
- 主席
我們現在請翁曉玲委員。
文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為張雅琳本人的發言。