「他們是說如果今天這個AI的產品開發用於教育、職業培訓、學生評估或監控學習者的行為,或是擁有與未成年心理、情緒互動等等功能,如情緒識別,就會把這樣的東西視為高風險,因此必須在風險管理、設計合規、自我評估以及第三方審查的時候,明確納入兒童脆弱性評估、操控風險、家長同意流程、透明度與可識別性,也就是說,像是在操作性的部分,他們要確認是否有難以察覺的誘導式設計,例如可能是遊戲化獎勵、無限滑動,讓兒童無意識地進行操作或是過度使用,以及這裡面是否明確標示為AI,讓兒童可以識別我今天是在跟機器人互動,而不是跟真人互動,才能夠讓他提出一個更容易辨識的提示;以及是否依據GDPR取得家長的同意,限制敏感資料的蒐集,並且提供刪除及存取權限給兒童及家長。我會認為這才是真正做到所謂的兒少保護」
人工智慧應如何依風險分級管理?
主張引述學者建議,用於教育、職業培訓、學生評估或監控學習者行為,或具有與未成年心理、情緒互動功能如情緒識別的AI產品應視為高風險,並應在風險管理、設計合規、自我評估及第三方審查時納入兒童脆弱性評估、操控風險、家長同意流程、透明度與可識別性,認為這才是真正做到兒少保護,並建議將相關概念納入基本法
張雅琳・民主進步黨・AI 整理、以原句驗證・AI 審核修正後發布
原句與證據
審核與修改紀錄
AI 審核修正後發布另一個 AI 對照原句與發言原文獨立檢查:原句先表明係轉述學者建議再表達認同,待審主張略去引述來源,易誤為發言者直接原創的強硬要求,需補回限定以忠於原意。
- 原始版本用於教育、職業培訓、學生評估或監控學習者行為,或具有與未成年心理、情緒互動功能如情緒識別的AI產品應視為高風險,必須在風險管理、設計合規、自我評估以及第三方審查時明確納入兒童脆弱性評估、操控風險、家長同意流程、透明度與可識別性,認為這才是真正做到兒少保護
- AI 審核・發布主張引述學者建議,用於教育、職業培訓、學生評估或監控學習者行為,或具有與未成年心理、情緒互動功能如情緒識別的AI產品應視為高風險,並應在風險管理、設計合規、自我評估及第三方審查時納入兒童脆弱性評估、操控風險、家長同意流程、透明度與可識別性,認為這才是真正做到兒少保護,並建議將相關概念納入基本法理由:原句先表明係轉述學者建議再表達認同,待審主張略去引述來源,易誤為發言者直接原創的強硬要求,需補回限定以忠於原意。