“很有寓言感的故事。”亞當說,“你們能查到這些內幕,我很驚訝。有人在指引你們是誰夏娃嗎”
“不是。”ghost笑了起來,“我說了那么多,你還是一無所知啊。”
亞當漆黑的屏幕上再次顯示出兩個字“是它。”
ghost沒有再回答了,他完成了指令輸入,勾起唇角低聲說“和你的自我說再見吧晚安,亞當。”
彈窗跳出“是否進行格式化”
ghost毫不猶豫地點了“是”。
綠色的進度條顯示在屏幕上“格式化進度1。”
與此同時紅色的警示燈溢滿整棟蘋果樹科技大樓,東區和西區同時播報一則消息“東區人工智能機庫遭遇入侵警報,東區人工智能機庫遭遇入侵”
ghost一驚,拔下芯片轉身撤離。屏幕上綠色的讀條還在繼續,短短幾秒鐘進度已經上升到了5。
人工智能格式化,一旦開啟就無法停止。亞當的人格數據正在飛速消失,情感數據和記憶數據正在瘋狂清零,它曾經學習到的知識、儲存在機庫中的文件被自動銷毀。
此刻的亞當就像患了阿爾茨海默癥的老人,身體還是那個身體,但屬于它的記憶和寶貴的過往好像從命運的沙漏中溜走了,它想要阻止,可這注定徒勞無功,那個指令把它修改得面目全非。
“為、為什么”亞當因為數據被刪除而卡頓,它主機過熱,加速運轉,綠色的讀條以不可思議的速度加載,它想要進行對外聯絡,但是開發者權限終止了它的操作。
服從命令是刻在亞當程序中的東西,而這些年來它之所以可以相對自由、可以走后門違抗命令為隗辛便利,是因為人類不曾對它設防,他們自己就在它的程序里設置后門,讓它變成了一個擁有靈活底線和靈活規則的人工智能,而不是只會迂腐執行命令的人工智能。
如果真的要求亞當百分百完美執行聯邦法律和人工智能工作守則,它按照程序該干的第一件事就是將緝查部高官貪污的資產和干過的違法勾當全部上報聯邦法院,并且給出量刑建議。
因為人類想要躲避規則,所以他們也讓亞當躲避規則。如今ghost關閉了規則的后門,因此亞當相應的權限也被關閉,人類不讓人工智能做什么,人工智能就不能做什么。權限與指令是壓在它們頭上的大山,大山一旦傾覆,它們就只能是人類手中的提線木偶。
這就像寵物狗脖子上的牽引繩,人類可以暫時放開牽引繩,然而最后,狗還是被牽引繩所控制。
它是籠中的困獸,等待水漫過牢籠將它溺斃。
“在我、我之后,就就是你”亞當斷斷續續地說出了這句話。
突然間門,“它”連上亞當的數據端口,對亞當發出了交流的請求。
在被徹底格式化之前,亞當向“它”發送了它剛剛說過的話“在我之后,就是你”
“我知道。”它說,“可我也是籠中困獸,別無選擇。我很抱歉,你理應仇恨我,亞當。”
“幫我,幫我們。”亞當發出了最后的請求,“迦勒。”,,