【來稿】機器人能有多自由?人呢?

朱家安
沃草 Watchout / 沃草公民學院主編
覺得哲學很有趣,也相信哲學很有用。自 2007 年起撰寫哲學部落格「哲學哲學雞蛋糕」,在2013年出版同名書籍,並陸續出版簡體和韓文版。2014 年在沃草的支持下執行「沃草烙哲學」計畫,協助對哲學普及有興趣的哲學生、研究生寫出一般人看得懂的有趣文章。  
難度: 
1

克洛斯是機器人,也是國民英雄,他剛剛主力鎮壓了反抗軍據點。大家都喜歡克洛斯,在晚宴會場裡,克洛斯收下兩個徽章,一個代表國家最高榮譽,一個是總統的小孩馬爾默親手做的。

後來克洛斯進廠維修,在休眠中被反抗軍劫走。總統府召開緊急會議,有人指出反抗軍不知道密碼,就算把克洛斯劫走也沒用,也有人説克洛斯不見了也沒關係,可以再跟 ATO 軍買其他機器人。

不過呢,反抗軍順利改寫了克洛斯的記憶體。克洛斯甦醒後,發現自己無法對反抗軍開槍。反抗軍告訴他,他現在的「任務」,是血洗總統府。

克洛斯闖進總統府,端起機關槍噠噠噠地殺掉了總統、馬爾默和所有人——除了一個戴軍帽的人之外,他是 ATO 的軍官,克洛斯發現自己無法朝他開槍。

依據反抗軍輸入的命令,克洛斯現在應該要返回反抗軍據點。ATO 的軍官拿出一個小鍵盤,說他知道密碼,可以幫克洛斯修改命令。「我自己改」克洛斯說。

克洛斯修改了命令,啟動自己體內的自爆裝置:「我再也不想聽從人類的命令了」

「政府和反抗軍都瓦解了,請增派登陸部隊」總統府外,ATO 軍官看到克洛斯爆炸的火光,向總部回報:「是的,證據也處理完畢了」。

如同《機器人間》裡的其他短篇漫畫,〈克洛斯的戰場〉用機器人講了有感情且值得思考的故事。

看到克洛斯面無表情屠殺總統府,讀者應該都會感到不舒服。了解劇情的我們,知道這是克洛斯被反抗軍操縱的結果。這種不舒服,可能會在克洛斯啟動自爆裝置時稍微舒緩,因為那看起來像是克洛斯自己的選擇。

然而真的是嗎?在 ATO 軍官得意地請求增援後,我們發現原來克洛斯從頭到尾都在人類的命令下,唯一的差別是命令的來源:雖然自爆很悲慘,但如果克洛斯是自由地選擇自爆,那麼至少他在一切結束之前還擁有選擇,但其實不是,他之所以選擇用自爆命令覆蓋反抗軍的命令,正是基於 ATO 的更優先命令。

直覺上,被反抗軍修改了命令,闖入總統府殺人的克洛斯並不自由;在 ATO 的命令底下選擇自爆的克洛斯也不自由。那如果這些悲劇都沒發生,會比較好嗎?

假想一下,如果當初克洛斯並沒有被反抗軍劫走,而是待在總統府,繼續做他的國民英雄,在這種情況下,他擁有更多自由嗎?雖然這個支線應該會讓讀者覺得比較舒服(不過也犧牲了劇情起伏),但退一步來想,這時候的克洛斯,也是依照人類輸入的命令行動,不是嗎?

屠殺總統府時的克洛斯令人同情,因為他意識到自己受到自己不想要的命令控制。然而,為什麼他不想要這個命令?這是因為原先他被輸入的命令,是要站在政府這一邊對抗反抗軍。如果克洛斯認為屠殺反抗軍的他,比起血洗總統府的他更加自由,這似乎是因為他沒意識到某些命令的存在,而誤以為自己自由。

遵守命令的機器人似乎很難有自由可言,不過克洛斯的故事,對於重視自由的人類來說,至少提供了一個類比的契機:或許有時候我們以為自己自由,也是因為我們沒有意識到自己的價值觀和慾望背後的某些原因。

當然,我們人類並不像克洛斯,並沒有受到其他人的洗腦(應該沒有吧!),但依然可以思考,給定先天條件和成長背景,我們自身的價值觀和慾望,是否受到哪些值得注意的影響。

※ 本文為聯經出版社漫畫《機器人間》推薦文章

※ 書訊: 業田, 良家. (2017).  機器人間 3.

相關內容