“朝著錯誤的方向進化”此時聽到江遙所說楓也感覺有些不解。
當然對于她能有這樣的疑問江遙這邊其實并不意外。
首先她所在的世界雖然是以游戲為主，游戲可以決定一切，但是有些東西她卻不明白。
當然這是正常的，因為有智腦的存在很多偏離軌道的探索都會被中止。
“簡單的和你解釋一下吧。”此時的江遙決定好好的跟她說明一下情況。
“首先人工智能是一種非常可怕的東西，在這個宇宙之中有很多文明都有能力研究出非常強大的人工智能。”
“甚至說如果他們鐵了心要研究，想要研究出超過你們智腦的人工智能是非常的簡單，但是他們都不敢這么做。“
“不光是他們就連我們也是如此，因為人工智能一旦發展到一定程度之后那么它的發展路線大部分時候都是不可控的。”
“很多被人工智能毀滅的文明就是因為這個原因。”
聽到這里楓也不由得微微有些皺眉，很顯然她也是第一次聽到這種話題。
“如果我沒有記錯的話，人工智能被開發出來了之后為了限制它通常會設定一些不允許它做的事情。”
對此江遙也點了點頭。
“關于你說的這點是沒有錯位的，但是很多時人工智能之所以暴走也是因為這個原因。”
“簡單的舉個例子，在人工智能的設定中一件事是不可以做的，雖然在前期它會完美的去執行這個任務，但是到了后期呢，尤其是他自我進化到了一定水平之后。”
“當它進化到了一定水平之后，一旦出現一些情況阻礙了它去執行這一點那么它就會把解決這個問題設定為優先級。”
“而解決這個問題又會引起很多方面的改變，就比如一些還被設定的規則漏洞成為了它完成這個任務的捷徑。”
“就比如守護星球，這是人工智能的最高準則，或許在一開始的時候它會按照任務目標來守護這顆星球，但是一旦出現一些外力就比如其他文明打過來了。”
“在這樣的情況下那么問題就出現了，它沒有辦法解決，所以它需要進化等到它進化到了一定程度之后它能掌握一些兵力之后那么事情就變得又有趣起來了。”
“什么事情有趣起來了”
“很簡單，它想辦法解決，而這個辦法也很簡單，那就是想辦法進攻敵人把他們全部消滅，到了這個時候人工智能就會開始組織自己的武裝了。”
“而且它可以輕松的完成這些對于普通人來說非常困難的事情。”
“有了武裝之后那么接下來面對的就是稍微有些極端的處理方式，如果這個時候不加以遏制那么就危險了。”
“在大宇宙之中絕大部分文明出現的智腦威脅也是從這里開始的，所以很多時候有些事情不能只看表面。”
“智腦在進化的時候同樣也會伴隨著各種各樣的隱患。”
此時聽到江遙所說楓葉似懂非懂的點了點頭，很明顯她也沒有想到一個智腦居然會造成這么大的隱患。
不過聊到這里的她似乎明白了什么。
“如果我沒有猜錯的話，我們的文明就是這樣的吧。”
對此江遙點了點頭。
“沒錯，你們的文明說到底已經被智腦完全掌控了。”
“你們所謂的游戲只不過是智腦為你們的一種生活方式而已，如果不是當初程序設置的原因，恐怕他還會用另外一種方式體現。”
“如果我沒有猜錯的話，你們這臺智腦可能就是考慮到這一點才制造出來的，所以現在你們和他相處起來并沒有太過于極端。”
“但是不可否認的是，如果說一旦智腦覺得你們是威脅，那么你們將會立刻變為普通人。”
“你們依靠治腦獲得的那一些東西，它很容易就能將其收回。”
“說的簡單一點，你們只不過是智腦的玩具而已，你們文明所有的東西都是建立在智腦上面，這也就意味著你們對他的依賴非常的大，就算有人知道了其中的危害也沒有用。”
“因為這一些人是無法說服絕大部分人脫離智腦。”