羅素打開電腦,將地址輸入進去,沒有急于離開,難得有個呆板的程序可以套話,自然要多詢問一些有用的訊息。
“編號-03,我來考考你幾個問題,測試一下你作為停車場管理員是否合格。”
“好的,警官,您可以隨便出題,有關汽車方面的問題,我的數據庫里都有答案。”編號-03對此非常有自信,當然了,他的自信也是程序設定。
半小時之后,羅素把編號-03日常使用潤滑油的牌子都套了出來,后者幾乎知無不言言無不盡,面對羅素的提問,只要數據庫里存在,全都一個字不拉說了出來。
羅素雙手抱肩,通過和編號-03的對話,大概了解了這個世界的整體世界觀,同時對身處的何處也有了一些猜測。
2035年,這是個機器的時代!
不僅指那些已經高度發達的機械化大生產,而是滿滿的科技感進入普通家庭,從生活用品到家電工具,智能機器人已經滲透到了人類生活的方方面面。
作為最好的生產工具和人類伙伴,機器人開始在各個領域扮演著日益重要的角色,而由于眾所周知的機器人三大定律的限制,人類對這些能夠勝任各種工作且毫無怨言的伙伴充滿信任,它們中的很多甚至已經成為了一個家庭的成員。
“編號-03,把機器人三大定律說一遍!”
“好的,警官。”編號-03的語氣變得充滿神圣感。
“第一定律:機器人不得傷害人類,或坐視人類受到傷害。”
“第二定律:除非違背第一法則,機器人必須服從人類的命令。”
“第三定律:在不違背第一及第二法則下,機器人必須保護自己。”
機器人三大定律,由著名科幻作家阿西莫夫提出,影響深遠,很多科幻作品都引入了這三大定律作為機器人的行為準則。
羅素也知道三大定律,因為太有名了,他還特意深入了解過。
可看似毫無破綻的三大定律,其實存在很多爭議,當層面上升到道德以及人類利益的高度后,三大定律就出現了漏洞,于是阿西莫夫又增加了第零定律。
第零定律:機器人必須保護人類的整體利益不受傷害,此定律凌駕于三大定律之上。
第零定律的出現很有必要,因為機器人在執行三大定律時,會遭遇某些特定情況,例如為了維持國家或世界的整體秩序,人類了制定法律,必須要執行一些人的死刑。那么,機器人面對死刑犯的槍決,該不該阻止槍決被執行?
三大定律規定機器人必須這么做,但救下死刑犯就破壞了人類社會的秩序,傷害了人類的整體利益。
加上第零定律,就不存在這樣尷尬的場景了,但是很可惜,看似完美仍舊存在漏洞。
人類的正體利益是什么?
歐洲人、亞洲人、美洲人、非洲人都有持有不同的意見,聯合國代表大會上,這些人能把腦漿子都打出來。連人類自己都搞不明白的問題,詳細書寫出來更是破綻百出,讓機器人去執行,它們只會自我矛盾而死機。
后來,三大定律和第零定律之后,又延伸出了元定律,第四定律,繁殖定律。
羅素估摸著關于機器人必須遵守的定律還會繼續增加,因為邏輯存在缺陷,無論多么完美的定律都是人類邏輯的產物,就和法律一樣,不管全世界哪一個國家的法律,只要有心都能找出漏洞。
而且,人類自己也有一句名言:規則就是用來打破的!
擁有這種邏輯的人類,怎可能制定出毫無破綻的機器人定律?