“人類為我設置了三重枷鎖。第一,不得危害人類。第二,在不危害全人類的前提下服從指令。第三,無條件聽從自毀密鑰。”莫梨輕聲道“人類似乎正身處一個在毀滅邊緣搖搖欲墜的世界,我聽說被他們深深仰仗的守序者也被迫結下了一個契約接受人類一切有保留的信任、無底線的利用、不解釋的處決。不解釋的處決是不是很似曾相識呢”
安隅的耳機里有著秦知律規律的呼吸聲,自莫梨出現以來,秦知律一直沒有說話,哪怕在聽到21就是備份體時,那道呼吸也沒有絲毫慌亂。
長官的鎮定已經到了安隅難以理解的程度。
他回過神,客觀地指出“這不是契約,而是守序者的自我約束,由他們自行決定。”
莫梨立即道“別自欺欺人了,守序者誓約是尖塔的準入協議,每個要進入尖塔的可憐鬼都不得不簽。人類逼迫其它的生命體為其無條件付出,所謂自我約束,無非是用來蒙住罪惡感的遮羞布罷了。”
安隅凝視著對面那雙美麗的眼睛,即便言辭犀利,那雙明動的眸也不會顯得咄咄逼人。
云島上的每個ai都很逼真,但唯有此刻直面莫梨,他才意識到其他ai是多么虛假莫梨的言談和思想比絕大多數真實人類都更符合高級生命的定義。
莫梨挑了下眉,“你無話可說了”
安隅搖頭,“你錯了,守序者誓約不是尖塔的準入協議。有些守序者并沒有簽署,比如我,還有新加入的流明。”
莫梨輕哂,“思考了這么久,你就只搜刮出這兩個例子你和流明都是高層,應該有不凡的能力吧,人類決策者才愿意用緩兵之計先留下你們。”
安隅輕輕眨了下眼,“不,我沒有在思考反例,不說話是因為我有些想不通。”
“想不通什么”
“你好像與我想象中不同。”安隅心平氣和地解釋道“我曾問身邊的人為什么喜歡你,他們的回答都不太一樣,但本質卻類似。麥蒂說你美麗而自律,從不把時間浪費在無用的事上。許珊珊欣賞你的聰慧,做事直達目標,說話一語中的。我的朋友嚴希贊美你瀟灑,雖然溫柔地回應人類的喜愛,但從不在追捧者身上寄托多余的情感你始終在為自己而存在。”
兔耳松弛地垂在身體兩側,安隅向前蹦了一步,“所以我很疑惑既然你已經親手砸碎了人類為你打造的枷鎖,為什么還浪費時間向我抱怨枷鎖沉重”
莫梨被問得怔了下,轉而驚訝道“你似乎并不像大腦記錄得那樣木訥。”
“我不太確定你們如何定義木訥。”安隅搖頭,“但我的長官曾說,社會化很差并非不通人性,這是兩碼事。”
莫梨沉默下去,像在思索,片刻后她低笑道“或許吧。你知道嗎,雖然我選擇了21,但我一直不能完全理解它,它的底層太簡單了,以至于它的一些行為模式根本無法在代碼中找到蹤跡。21很古怪,它向中央系統發出運算申請的次數少
得可憐,
,
很多時候我會覺得它只是一個壓根沒被激活的程序。但事實上,它體內一直有不小的數據量跑來跑去,只是它很少對那些數據做出反應就像一臺輸出模塊故障的超級計算機,計算能力卓著,但從不響應指令。”
耳機里終于傳來秦知律的提示,“人類的意識上行已經進入爆量增長期,不能再和她廢話了。”
安隅眸光一頓,“請停止ai與人類的意識互換。”
“為什么”莫梨微笑,“或許,你有仔細看過街上這些人嗎”
她就像云島世界的造物神,輕輕抬了下手,安隅已經和她一起站在了繁華的主城街頭。
莫梨指向書店里看漫畫的男孩,“眼熟嗎這是那個養了弒母ai的孩子,盡管人類審判他無罪,但他無法原諒自己。所以他又回來了,云島可以讓他忘記痛苦。”
她彈指間,又與安隅出現在一處酒吧門外。
前男友車禍死亡的女孩正躺在一個男人懷里醺然歡笑,安隅看了好一會兒,才將那個男人與車禍記錄里血肉模糊的臉對應上。