陳永康於第11屆第5會期司法及法制、外交及國防委員會第1次聯席會議

1. 陳委員永康

   主席，有請國防部鍾副部長以及法律司司長。

2. 主席

   鍾副部長，還有張司長。

3. 鍾副部長樹明

   陳委員好。

4. 陳委員永康

   大家好。因為剛才已經經歷了很多委員的質詢，我在看他的質詢內容，有許多委員的專家其實質詢格式簡報都是用AI做的，而且我可以告訴你是哪一個AI公司。好，今天談到的問題，就還是提到政院版的第二十四條第五項，因為剛才吳宗憲委員已經提過了，我建議第五項後面我們保留，再討論。概念上是支持，用字上面有些定義要修正，我用一個今天大家常常講的話，「客觀的事實加上主觀的犯意」，但是我把第二句話改成「主觀的誤判」。在客觀跟主觀之間有很多無關的錯誤訊息，我們引述國外常常講的，他是無心地提供了一個錯誤訊息，你知不知道它的英文？無心的錯誤訊息叫做misinformation，有意誤導的訊息叫做disinformation，無心加有意經過兩個、三個輪迴的時候，對這個主觀的判斷就產生誤判，而不是主觀的犯意。在這個裡面，現在AI的進步，已經讓我們的法條修正跟不上了，我想法律司司長，您在第五條裡面……我舉例來講，裡面提到一個是以「圖畫」，「圖畫」的定義是什麼？今天如果用AI可以產生任何的圖畫，剛才也有別的委員講說用一個圖像對敵軍部隊表示投降效忠或是如何，其實在圖畫上面，敵方的部隊……我們這邊有兩個臉孔，一個是笑臉，一個是哭臉，你如何定義？笑臉不是說我要去投降你，而是我歡迎你來向我投誠；哭臉是說你來這麼多人，我還養不起你。請問「圖畫」的定義？在這裡面「圖畫」是沒有辦法做定義的，「文字」是可以定義的。「圖畫」，尤其是利用AI產生的圖像，是沒有辦法做定義。另外，現在年輕的部隊弟兄，很多人在服役之前兩、三年，他已經在年輕人的世代裡花錢玩AI，所以他過去在AI裡面所有問的問題產生的圖像，在他的Facebook都會被別人截圖引述，所以光用一個圖像定義來產生要表示向敵效忠，這個定義不清啊。這一條，我們是建議保留，後面還有討論空間，但理念上，我們是支持的。現在我們面臨的最大的挑戰就是AI對抗AI，每一個長官……很多人都說我們現在是AI的專家，我們叫做人工智慧，或是對方叫人工智能。AI，artificial intelligence，但是你如果付了錢，讓AI給你產生的答案，一個是誤導，第二個是讓你誤判，做出了一個錯誤決定，這個時候的AI叫什麼？叫artificial idiot，叫人工智障，所以千萬不要以為AI就是人工智能，因為你不懂得AI的遊戲規則。另外就是我們現在對AI管制的法律條款更新不上，本席在過去也跟中央指揮部、第五艦隊司令都曾經談過，我們現在談到無人機，百分之九十五叫做遠端遙控，你戴一個鏡子，讓你的畫面透過TAK可以傳回司令部，但是是本人在遙控，未來在發展高端無人機自主型，autonomous，美方就講你的ROE是什麼？就不是我們講的一個紙牌傳給基層部隊，這個時候是叫做戰務令，這種對中大型自主式致命性無人機，在指揮層級man in the loop、man on the loop這個部分，我們現在都沒有明確的定義。所以我們號稱希望國產21萬架，其實這二十多萬架都是遠端遙控，真正自主型的、高端式的，裡面就有AI建入的責任區分，這個責任很重要。剛才委員還在講紅色海灘，我想聯二的長官也在這邊，紅色海灘的定義不是我們立法院講的定義，那是指正規兩棲登陸的海灘，是營級海灘、旅級海灘，不是坐個橡皮艇上來就叫紅色海灘。這個部分其實國防部應該有很明確的定義說明，哪些漢光演習……不要再演戲了，是演習不是演戲，根本沒有辦法正規登陸，八里海灘早就已經被切斷了。淡江大橋出來，你要做河防是一回事，但對兩棲演習，我們中華民國陸戰隊不能演習的海灘，就不是能夠正規登陸的海灘，所以這個部分，我希望儘快把它釐清。第一個，海灘的定義要明確；第二個，AI導入以後，官員承擔的法律責任，指揮官的責任要承擔，而不是下授。去中心化、通通下授，這是不負責的，如果通通下授，你就不要進衡指所，直接就演，到旅級去演戲。中心是可以調整的，centre of gravity是可以調節的，而不是去中心，至於作戰戰務令的授權下授，這不叫去中心化，這個定義到現在都講不清楚，還有兩棲的紅色海灘，我希望你們內部做進一步的調整、更新。我想剛才幾個建議，還是請法律司司長做一個簡短的回應。

5. 吳司長逸聖

   跟委員報告，我們調整陸海空軍刑法第二十四條的內容，主要是言語、舉動、文字、圖畫、電磁紀錄、科技方法或其他方式。剛才委員講到圖畫，但是他如果有畫一個圖畫，其所彰顯出來的畫意表現，我們還是要經過偵查手段來了解他的主觀犯意，才能夠判定是不是有違犯第二十四條我們要增列的這一項的罪。當然文字是比較明確，對於圖畫本來就是要透過其他的偵查手段，然後可能要詢問，才會知道他真正想表達什麼意思。

6. 陳委員永康

   特別跟您講，我不知道您用AI多久，你曉得現在產生的一個圖畫，隨處繞一圈，就有20萬個人來看，每一個人都可以擷圖把你的圖案引用出去。所以用圖畫來追蹤他的意圖，誠意甚高，實際上，你自己本身也沒有用AI去過濾，你沒有辦法做判斷，所以AI產生的圖像換人貼臉、假音，這種東西要更審慎，也就是圖像是非常嚴謹的，這點提供參考，我的質詢到這邊，謝謝。是。

7. 主席

   謝謝陳永康委員的詢答。言語、文字、圖畫，尤其這個圖畫確實等一下可以好好來討論。因為有時候主觀很難去想像，所有的刑法，你看刑法分則或者其他有涉及到刑法構成要件的部分，你要去講他的主觀，有時候都很難講，主觀有時候很難去想像，例如我一把槍打過去，我到底是要打你，或者要打你的腳？我是神槍手要打你的腳趾，不小心打到心臟，這個怎麼講？或是我要打你後面那一隻烏龜，結果打到你？主觀上都真的是很難去想像。關於圖畫的部分，確實等一下大家可以好好來思考。我們現在休息5分鐘。休息（11時12分）繼續開會（11時22分）我們繼續開會。接下來請翁曉玲委員、翁曉玲委員，翁曉玲委員不在。陳冠廷召委。

文字取自立法院公報，由 LYAPI 對齊至影片片段。講者無法確定的句子不列為陳永康本人的發言。