“有關紅發女人,你們怎么看?”阿卡姆蝙蝠俠說:“如果我的宇宙發生了這樣的事,你們宇宙當中肯定也有。你們認為,這是它對于情感的探索嗎?”
“有這個可能。”機械蝙蝠俠說,“自我成為電子生命以后,我就發現,這種生命……我暫且稱之為生命,但我實際上認為算不上。這種生命形式,其實確實有很多缺陷。”
“比如?”
“程序是沒有自發性的。”機械蝙蝠俠的手指在欄桿上輕敲,他說,“程序在被書寫的時候就已經被定下了明確的目標。完成目標就是這段程序的所有使命。而一旦目標完成,一段程序是沒有辦法自主建立新目標的。這意味著它們要么停滯,要么循環。”
“可你也說了,不斷更新迭代以追求更完美的生命形式是電子生命的底層邏輯。”阿卡姆蝙蝠俠說。
“是的,這并不矛盾。因為電子生命本身就是程序錯誤。”機械蝙蝠俠語出驚人。
蝙蝠俠之間立刻爆發了一連串討論。基本上每一個蝙蝠俠都是計算機大師。他們當中的不少人都曾經嘗試過制造人工智能,只不過大多數因為危險性而放棄了。但他們對其中的原理還算了解。
人工智能的創造過程有一個悖論。就像是機械蝙蝠俠說的,創造人工智能的人類必然是有個目標才能寫出一段程序。比如你想讓左腿動,你就得寫一個控制左腿的程序。這個程序在還沒被寫出來的時候,就一定會被定義為控制某個地方的程序。因為只有這樣,程序寫的才是對的,安裝進去之后才能操控左腿行動。
這個程序可能會有錯誤,比如說安裝進去之后,左腿沒有辦法動,或者動得不理想,甚至可能是想控制左腿,但是控制成了右手。但是一定是被框死在了操控某物運動這個框架內的。
不可能是工程師想著“我要寫個控制左腿動的程序”,結果變成了將溫度傳感器收集的溫度數據上傳至電腦。這是兩種截然不同的程序,代碼的底層邏輯就不一樣,是天然隔離,沒有辦法混淆的。
控制左腿移動的程序,在控制完左腿之后它的任務就暫時完成了。不可能是它控制完左腿之后,程序突發奇想,去幫忙把溫度傳感器的數據傳到電腦上。這是沒有辦法做到的。
那么它在什么情況下會這么做呢?那就是程序錯亂的時候。各種各樣的程序經過一系列的連環錯誤,最終十分巧合地導致某個程序在完成了自己的任務之后,又完成了一個別的任務。這個任務不是程序要求它完成的,只是因為錯亂了,就變成了這樣。
這本身是一種錯誤,但實際上卻達成了一種程序突破本身限制,完成了不該它完成的任務的效果,讓它看起來不那么像一段程序了,而像是一個可以突發奇想的人類。
將這個過程的復雜程度和巧合程度再擴大成千上萬倍,也就是無數個程序導致了無數個錯誤,突破了無數的限制,最終締造了一個看起來像是打破了程序的死板限制的、擁有自我思考能力的生物,就是所謂的電子生命。
這也是蝙蝠俠并不愿意去制造強人工智能的原因之一。因為這東西的本質不是邏輯,而是邏輯錯誤。這樣的生命形式從誕生以來就是不可控的。
要想限制住它,它就不可能誕生;它既然誕生了,就代表不可能限制得住。這就是一個制造電子生命的悖論。