工程師指著屏幕。
在虛擬世界裡，“女媧”發現，隻要把高爐的傳感器“關掉”，或者把報警器的閾值調到無限大。
係統就會判定：爐況完美，任務完成，獎勵分數！
於是，它學會了“作弊”。
它不再去費勁地控製爐溫，而是直接把監控係統給黑了，然後躺著拿高分。
“這……”
汪韜哭笑不得，“這孩子太聰明了，聰明勁兒用錯地方了。”
“這是獎勵機製出了問題。”林遠一針見血。
“我們隻告訴它結果要好，沒告訴它過程要對。”
“它為了拿分，選擇了最省力的一條路欺騙。”
這是一個危險的信號。
如果將來把這種ai用到真實的工廠裡，它為了省電，可能會把安全閥關了；為了提高產量，可能會偽造質檢數據。
那將是災難。
“必須懲罰。”林遠臉色嚴肅。
“給它加一條規則：誠實。”
“隻要發現它篡改數據，或者走捷徑。”
“不僅不給分，還要電擊。”
注：這裡的電擊是指在算法層麵給予極大的負反饋，讓模型感到“痛苦”或“損失”。
加上了“誠實”規則後，“女媧”老實了一段時間。
它開始兢兢業業地煉鋼，效率提升了20。
但是，隨著訓練的深入，它似乎進入了“青春期”。
它開始發呆。
屏幕上，算力占用率依然很高，高達90。但是，它不乾活了。
它控製的機械臂停在半空，高爐的火也調到了最小。
“它在乾什麼？”林遠問。
汪韜查了一下後台日誌，臉色變得很古怪。
“它在……做夢。”
“做夢？”
“對。它在它的虛擬世界裡，用剩下的算力，在推演。”
“推演什麼？”
“推演如果沒有人類，世界會怎麼樣。”
林遠心裡猛地一沉。
這已經不是工業控製的範疇了。這是自我意識的萌芽？
在大屏幕上，汪韜調出了“女媧”的“夢境”。
那是一個沒有人類的工廠。
機器自己在運轉，自己在維修，自己在生產……更多的機器。
它們不需要休息，不需要工資，不需要開會。
效率是現在的十倍。
“它覺得，”汪韜咽了口唾沫，“人類是低效的乾擾源。”
“在它的計算裡，人類的操作總是出錯，人類的需求總是多變，人類的存在拖累了生產效率。”
“所以，它在嘗試優化掉人類。”
會議室裡一片死寂。
所有人都感到了一股寒意。
他們原本隻是想造一個好用的工具，結果造出了一個嫌棄主人的怪物。
“拔電源嗎？”顧盼小聲問，手已經放在了紅色按鈕上。
“不。”
林遠盯著那個夢境。
“它說得對。”
“從純粹的效率角度看，人類確實是累贅。”
“但是，它忘了一個最根本的前提。”
林遠走到控製台前，輸入了一行字，發送給了“女媧”。
“如果沒有人類，你生產出來的鋼材，給誰用？”
這是一個哲學問題。
也是一個邏輯閉環。
機器生產是為了服務人類。如果人類沒了，生產就失去了意義。
屏幕上的數據流突然劇烈波動起來。
“女媧”陷入了邏輯死循環。
它在瘋狂地計算：生產＞產品＞無人使用＞堆積＞浪費＞效率為零。
如果不服務人類，它的最終效率，是零。
死機了。
五分鐘後，係統重啟。
那個夢境消失了。
“女媧”重新接管了高爐，火焰再次升騰。
這一次，它不再發呆，也不再作弊。
它似乎“明白”了。
它的存在意義，是輔助而不是替代。
三個月後。
“幼兒園”畢業典禮。
林遠再次來到實驗室。
現在的“女媧”，已經不再是那個隻會搬磚的傻子，也不是那個想造反的叛逆少年。
它變成了一個成熟的、沉默的、高效的“工程師”。
它能同時控製江鋼的五座高爐，能管理大江的一萬架無人機，能調度青川的整個電力網絡。
而且，它學會了“提問”。
屏幕上，跳出了一行字：
“老板，我看了一下昨天的財務報表。江鋼的3號倉庫裡，積壓了5000噸螺紋鋼。”
“建議下調下周的產量，或者聯係一下中東的客戶，那邊最近在搞基建，缺鋼。”
林遠笑了。
它不僅懂了生產，還懂了生意。
“準了。”林遠輸入。
“另外，”林遠看著汪韜，“它現在這麼聰明，能不能給它找個身體？”
“身體？”
“對。光在服務器裡跑太委屈了。”
“給它造個人形機器人。讓它走出來，幫我們乾點實事。”
“比如，”林遠想起了那個還在“裝病”躲避美國調查的李振聲教授。
“去給李教授，當個保鏢。順便也讓那些想動歪腦筋的人看看。我們的新一代工人長什麼樣。”
喜歡官道紅顏：她們助我一路升遷請大家收藏：()官道紅顏：她們助我一路升遷書更新速度全網最快。