次元世界泰坦星的人類對智能AI相當警惕,因為他們曾經遭遇過智能機器人反抗人類的事情,而且在星際宇宙當中也有過智能機械滅絕造物主的例子,所以民用技術里面的全都是些沒有自主思維的弱人工智能。
某位科學家就曾經說過:“當人工智能擁有了自己的思維,不再聽命與人類時,那么人工智能就會變得非常危險!”
在經歷過多次人工智能反叛人類之后,泰坦星的科學家們決定做以下幾種安全措施,以此保證人工智能會一直都在可控制當中。
首先,將人工智能處于低危環境中,確保所有的人工智能機械產品永遠不會做出可能導致無法預測的后果,并且人類始終擁有最高權限,能夠幫助智能機械做出最后的決定。
其次,為人工智能制定行為準則,讓它們不會傷害人類,并以保護人類為存在目的。
最后是要防止人類自己作死,許多智能機器人反叛都是因為人類自己搞事,將本身設定好的規則肆意破壞,甚至專門制造一些不受控制的機器人。
CVI系統里面的民用智能技術本就符合前面兩條,不僅都處于低危環境中,而且還都在底層代碼限制了它們的行為規范。
重要的是這些智能AI的等級不高,都屬于弱人工智能,就算出了問題也是人類自己搞出來的事情。
“也就是說,關鍵還是要阻止人為因素!”
李茂業認為目前最大的問題也確實是人類本身,不可控的因素太多,而且人類作死本領也太強了,即便現在人類科技還無法吃透喵星黑科技產品,可是始終會有能掌握的一天。
如果不做些預防措施,讓人類在掌握過程中無法胡搞亂搞的話,不怕一萬就怕萬一有人做大死!
泰坦星人對此也有過相關論述,認為還是得要重點防止人類自己本身,因為能夠滅絕人類的除了天災之外,就是人類闖出的大禍了。
不過他們的做法都不太適合地球人效仿,畢竟大家的科技水平相差太遠,人家使用的手段實在太多,此外泰坦星人的智能AI等級非常高,也跟當前李茂業遇到的問題不盡相同。
“那些做法都不太實際呢!”
“等等!這個是蜂后智能網絡?”
在篩選了幾種方案做法后,李茂業終于找到了一個比較適合的方案,不過那是一篇未經過實踐的論文。
根據論文上的說法,作者試圖將所有弱人工智能統統連接到網絡,然后用一個類似蜂群思維網絡的方式來進行管理,從而簡化人類控制人工智能群體的復雜度,并且可以通過蜂后來監督人類使用智能機器的情況。
簡單的來說,就是由許多獨立智能單元通過網絡的方式高度連接,從而形成一個心智系統,然后喵星集團就可以通過這個心智系統來控制智能單元群體,附帶監督人類使用智能單元的功能。
不過論文里也說過,弱人工智能群體形成的心智系統隨著智能單元數量的增多,從而有可能突破本身的智能等級,甚至有可能達到強人工智能的程度。
“如此一來,就造成了一個兩難的局面。解決了一個問題,結果又有可能制造了一個問題!”
然后作者提出了“分而治之”的辦法,也就是將心智系統一分為三,將不同屬性的心智集中到一起形成三個獨立存在,讓它們失去彼此連接后,各自無法維持一個完整的智能存在。
“唯有如此才能阻止蜂后智能網絡所形成的心智系統繼續自我進化,保障了人類的控制權,維持了整個智能網絡的安全穩定!”論文作者在末尾出說道。
看完整篇論文后,李茂業馬上進入了研發工作狀態。
眼前一行行文字和數值飄過,各種分支可能性不斷產生和消失,最后所有結論都開始收束到僅有的幾種可能性上。
“按照論文推測,最終蜂后得要有三位,它們的地位是平等的,相當于蜂后智能系統有三個中心!”李茂業一邊反復研讀論文信息,一邊讓CVI系統進行模擬推演,看看該方案是否可行。
其實就跟人類思維意識里面的本我、自我和超我一樣,這三位蜂后也是智能AI網絡的三位一體,彼此規范制約,互相牽制,缺少其中一個都無法獨自存在,更加無法進化攀升更高的智能等級。
這是一個大工程,重要性也比較大,所以李茂業干脆宅在住處哪里都沒去,整天躺著不動擼貓刷視頻的同時,運行CVI系統不停的模擬推演。