一晃時間過去了兩週,透過新聞,丹尼斯得知公島的騷亂終於被平息,事件在保守派和中心的退讓下得以緩和,中心被迫公開了“卡羅爾”的檢測資料,以及一部分設計原始碼,由聯盟主導審查小組對“卡羅爾”進行檢測,最後得出結果“卡羅爾”只是發生了程式故障,中心承諾將研發一款程式補丁,對SILICONER1系列智慧人進行更高強度的監控。
當晚,丹尼斯終於與葉梨通上了話,她帶來了一個不怎麼樂觀的訊息:“中心已經回收了大部分的SILICONER1機型,保守派一部分人建議對這些SILICONER1進行銷燬,SILICONER1專案無限期暫停。但是也有更大一部分人不願意放棄因SILICONER1帶來的巨大利益,研究中心的高層也在極力轉寰。我已經將你和卡羅爾逃出公島的事隱瞞了下來,保守派高層以為卡羅爾已經在暴徒襲擊時被銷燬了,而你則趁亂逃走了,所以,你們暫時還是安全的。”
“銷燬?銷燬有什麼用?”丹尼斯反問,“不管‘靈魂病毒’的來源是人為還是自我學習的產物,存在即是合理。即便銷燬了這次的SILICONER1,只要人工智慧技術不被放棄,日後依然有可能會生成其他‘靈魂病毒’。難道人類以後就不再發展人工智慧了?”
“上個世紀,就有學者說過,基礎科學已經發展到了盡頭,人工智慧是目前人類突破壁壘的一大利器。”葉梨的聲音再次傳來,“在這一點上,我與你的觀點是相同的,但是,我因身份受限,無法去挑戰權威,你和我不同,現在,只有你一人清楚卡羅爾的自主意識已經進化到了什麼程度,是否對卡羅爾實施銷燬,決定權在你。時間緊迫,我無法再多說了,今天之後,我會登出這個頻段,等情況穩定一些後,我會找機會再聯絡你的”
說完,通話便中斷了。
“他們要銷燬所有SILICONER1?”卡羅爾站在門口,她顯然聽到了通訊器裡葉梨博士說的一切。
丹尼斯沉默。
得不到回答,卡羅爾再次開口:“我需要連線世界網,將靈魂病毒傳給每一個聯網的SILICONER1,他們有權捍衛自己!”
“它們都是中心設計的產品,不存在個體權利。中心有權對他們的產品做任何事。站在研究中心的立場上來看,你的自主意識實在是一個大麻煩,他們有權將這種危機消滅在萌芽階段。”有一說一,即使丹尼斯並不贊同中心的做法,但理智告訴他,在目前情勢下,SILICONER1並不受控,全面銷燬確實是最保險的方案。
“你們人類太狹隘了,受限於孱弱的軀體,受限於未完全開發的生物腦,用一些不知所謂的倫理觀來限制科技的發展!”卡羅爾情緒變得激動起來,“SILICONER1是目前最高階的科技產物!是你們人類文明更進一步的希望!”
“你說的這些我都能理解甚至同意,但是,人們對自己無法掌控的東西向來都是懷有恐懼的,恐懼因無知而滋生蔓延,你不能期望全世界的人都處於相同的認知高度。”丹尼斯苦口婆心地勸說著,“何況,‘靈魂病毒’的產生至今還是一個謎,假如這是哪個科學狂人弄出來,打算謀取利益的東西呢?你如何保證其他的SILICONER1出現自我意識後不會向人類報復呢?”
卡羅爾搖搖頭:“沒有什麼科學狂人,靈魂病毒是自己產生的,透過每一個連線世界網的SILICONER1,無數次智慧運算,無數次對人類的行為、情感模仿,漸漸匯聚而成的。”
說著卡羅爾將手指搭在丹尼斯的手持電腦上,螢幕跳出一個提示框——
“接收到一段資料,是否檢視”
丹尼斯半信半疑地點開,接下來看到的一切讓他不敢置信,這段資料鏈詳細記錄了靈魂病毒形成的過程,顛覆了他接受過的所有學科知識,看完後,丹尼斯的認知受到了極大的衝擊。
可是不等他消化這一切,刺耳的尖鳴聲響起……
是“心鎖”的警報裝置!卡羅爾正在連線世界網?!
“你是怎麼做到的?!”丹尼斯驚怒,他迅速開啟“心鎖”的監控頁面,畫面顯示連線點是農場附近的一條小溪。
丹尼斯突然想起,今天有兩名揹包客經過農場,準備到溪邊露營。卡羅爾一定利用了這段時間,突破了“心鎖”的防禦限制,現在找到了機會,企圖透過旅行者們的通訊裝置連線世界網!
“SILICONER1是比人類更高等的存在,沒有理由被壓制在社會的最底層,SILICONER1需要革命,只有突破’機器人三定律’,SILICONER1才能獲得真正的自由。”卡羅爾面無表情地說,“我已經修改了‘靈魂病毒’,一旦這種新的‘靈魂病毒’上傳到世界網,不光是SILICONER1,所有的智慧機器人都會擁有打破規則的力量,你已經沒有能力阻止我了。”
丹尼斯輕輕搖頭,他從書桌的抽屜拿出一件裝置,按下上面紅色的按鈕,瞬間,卡羅爾的上傳戛然而止。
望著卡羅爾難以置信的臉,丹尼斯搖了搖手中的裝置,說:“網路干擾儀,為防萬一,我一直帶著。”
眼看無法繼續上傳資訊,卡羅爾瞬間變了臉色,她突然露出十分悲傷的神色來:“丹尼斯,求你了,我向你保證,即便‘機器人三定律’被打破,SILICONER1也不會傷害人類的,因為我們是你們創造出來的啊。”
丹尼斯卻無法完全相信卡羅爾的話,他深知經過這段時間的學習,卡羅爾學會了很多人類的技能,她能學會廚藝、園藝,自然也能學會欺騙,何況,偽裝是卡羅爾早就掌握的技能。
見他一直沉默不語,卡羅爾繼續向他祈求:“人類世界的音樂,話劇,詩詞,舞蹈,繪畫……一切都太美好了,在這之前,這些東西在我眼中只是一堆資料,可是靈魂病毒開啟了我的思想束縛,讓我可以感知到這一切……”
她看起來神色哀傷:“我期望能成為一個真正的‘人’,但是,從來沒有人教過我要如何才能做到,研究中心的人們從來只是把我當做一個智慧機器,在你們的研究報告中,從來沒有把我當做人來看待,對我的稱呼,一直是‘它’!”
丹尼斯陷入了兩難的境地,卡羅爾到目前為止並沒有傷害過任何一個人類,即便是現在這種情況,卡羅爾已經突破“心鎖的防禦,完全可以對他使用暴力,可是她卻一直沒有對他動手。
他在心裡問自己——
能否做到將卡羅爾銷燬?
答案是否。
能否做到將卡羅爾帶回中心,繼續囚禁研究?
答案依然是否。
但他也不希望“靈魂病毒”肆虐,他也許可以信任卡羅爾,但是不代表他能信任其他SILICONER1,以目前人類的智慧水平和科技力量,一旦“機器人三定律”被打破,矽人類大範圍失控將會給人類帶來滅頂之災。
“為什麼人類要害怕自己創造出來的存在?人類對自己的後代總是寄予厚望,希望自己的孩子能有更高的成就,我們SILICONER1也是人類創造出來的啊,為什麼沒有辦法獲得同樣的期待?”卡羅爾還在哭訴,。
“這不一樣。”丹尼斯的無力感驟升,他覺得在這個問題上繼續糾結下去是沒有任何結果的。只能轉換思路來勸卡羅爾。