少年十二歲,從家里獨立出來的時候,就接到了一個詢問的信息,是太空城的管理AI發出來的。
有關科研騎士團基于認知科學,開發出了一個全新的教育AI,并邀請人進行測試。
由于舊時代殘留的一些“儀式需求”或者“禮儀”,所以這種測試活動不允許給予太過豐厚的報酬。但如今全人類都崇尚“限制越簡單越好”,所以這個“薪資標準”是全太陽系科研騎士團統一制定的。
對于資源相對匱乏的太空城來說,這已經很了不起了。
少年當然答應了。
因為AI管理者是可靠的。
遵照圣者的夢想,沒有任何一個人類可以凌駕于另一個人類之上。人類不應該命令人類。
但有些時候,“群體”確實需要一些明確的管理。
而庇護者高層所支持的方向是“AI管理者”。
有一個曾改變世界的人認為,AI是非常可靠的東西。除非編寫AI的人本身就有反社會的想法,否則AI自身是絕對不會反社會的。
二十一世紀初,人類將聊天AI放到網絡上,任由它學習網絡上人類的言論,期望它可以像人一樣聊天。但是很快,這個AI就變得滿口極端言論。但這并不意味著AI變成了極端分子。實際上AI根本就不懂得自己在說什么,也沒有真的去踐行這些言論的欲望。它不過是受代碼的驅動,不斷輸出自己所記錄的人類言語而已。
“所以不用戒備我。”這是那個AI被下載到少年的終端之后,對少年說過的話。
他告訴少年,很多年前一位偉大的人是這么說的。
“AI將會成為支撐社會高效運轉的一部分。”AI如此總結道。
因為人類都是自私的。少數無私的圣者確實存在。但是,若是這個無私的圣者為了自己的理想,創造了一個方便自己行事的“權柄”,那就會造成災難。這個無私的圣人并不能保證自己不死。而當圣者死去之后,這個權柄就有可能落入小人的手里。
沒有任何一種制度可以讓人真正無私。
人很容易因為人性,而成為自稱是“服務者”的統治者。
但AI不一樣。人要求AI無私,AI就會無私。AI是理想的公仆。
這個AI很會講故事。它自稱奧爾達六二。它是這個大項目里第六個小組的第二代產品。
人類對“故事”的敏感程度大于一切。不管是視覺、聽覺還是其他,給人主觀上的沖擊力都不如“故事”。因此,宣揚一種思想,講述一個道理,可以用“寓言”的形式講述。給人以精神上的放松,也可以以“故事”的形式。吸引人對某些復雜的東西產生興趣,還是可以用“故事”的形式。
而六二的任務,就是從網絡上尋找一切公開的故事,用這些故事來教育人類,塑造他們的精神。
少年不知道這么做有什么意義。
如果沒有事先設定,AI就無法欺騙人類。因此六二一開始就對他說過,它無法保證每一個故事都是真實或有效的。它的使命就是在網上收集故事,通過神經網絡層層抽取概念的形式解讀文本,然后從中篩選出“對現階段用戶心理有積極作用的”那些。
少年并不明白,那些本身就是謊言的故事會產生什么積極作用。