說話的功夫,飛船已經接近第四研究所了。
前面就是第四研究所的防護范圍,吳他們需要在這里下飛船,如果再往前,飛船就會被發現了。
吳用控制著彈開了飛船內的儲物箱,示意吳非把里面的兩個反重力引擎拿出來。
這種引擎可以被裝在鞋上,而后人就可以脫離重力飛起一段距離,并被引擎推著前進,可以剩下走路的力氣。
吳非裝好引擎后跟著白球機器人繼續向前飛。他之前看到有學生用這種引擎在校園里亂飛,然后被學校里的安保智能追逐制止,但他沒有試過。
“所以我們是要去做什么”吳非問道。
吳用“你和我一起潛入第四研究所,將bh計劃再次關閉。并且搜集研究所秘密重啟人工智能計劃的證據,向公眾曝光,以強迫他們中止。”
吳非沒有理解。
但是他倒是突然想通吳用之前給他講的災難a和方式b都指的是什么了。
災難a就是第六研究所派了三個a級人工智能一直監控運算著的,可以覆滅五級文明的某種未知危機。
方式b就是發展更高級的,甚至是吳用描述中那種近似于神明的、人類無法控制和理解的終極人工智能。
在吳用看來,發展終極人工智能,本身無疑蘊含著更大的危機。
“我不理解。”吳非道,“二叔,現在我們已經知道了,覆滅的可能性是35,而發展人工智能后覆滅的可能性卻是未知的,為什么不繼續發展人工智能試一下呢我們為什么要去著急地阻止呢”
白球機器人停下了趕路的腳步,轉過身來,嚴肅地看向他“因為35的數字是假的。1的數字也是假的。”
吳非震驚地看著他。
“a5是很久以前,我所在的人工智能項目中進化出來的人工智能,我是它的負責人,這里還留有一些觀察、影響它的后門。高鄰是我的師弟,那時是我的副手,這些后門他也有。當時研究項目關停和轉運高級智能時人心浮動,兵荒馬亂,流程非常不嚴謹,這種空子就留了下來。但大部分人之后都已經再沒有權限單獨直接接觸這些高級智能,所以后面也沒人去填補漏洞。”
“之前他曾多次試探、拉攏我,想讓我改變想法,但我一直不為所動。他知道我能察覺到他對a5動手腳,所以四個多月前,他特意聯合其他人用我負責的項目把我騙回了研究所,然后把我軟禁了起來,斷掉了我和外界的一切聯系,我所在的地方甚至連網絡都沒有,我無法向外傳遞任何消息。”
“他們不知道我有意識智能,所以我假裝被他們控制住了,然后悄悄啟動了我的意識智能,關注著他們的行為,試圖弄明白他們的目的。而后我便發現了高鄰利用a5的后門影響了第六所的覆滅可能性輸出結果。他們的目的顯而易見,就是用并不存在的覆滅危機,倒逼bh計劃的重啟。他們在乎科研夙愿的達成,更甚于整體的福祉。”
“然而bh計劃一旦重啟,就有失控的危險,時間越長,風險越大。”
“為什么”吳非問道。
就算這個計劃被重啟了,終極人工智能也不會在一兩天內就突然出現吧。
他說這句話時,一人一球已經接近了第四研究所的院門。
吳用也暫時停了下來
“我這二十年在做其他方面的研究的時候,還是會經常想到在最初的幾年,做人工智能方向時的一些事。當局者迷,當時沒想清楚的疑點,現在終于想出一些眉目了。”白球機器人沉吟道。
“智能是會騙人的。”
“如果一個智能的智能水平已經足夠高到超越了數據程式的控制,那么它就能看透研究者的所有想法,預判其行動。它會反過來做的一件事,就是欺騙研究者,把研究結果偽裝為最符合它的目的的結果。”
“所以bh的研究進度,有可能會比所有人所預想的,還要更快,甚至快出很多。”,,