作者：胖胖的小橘
“李東教授，你來啦。”
“快坐啊，克拉拉，你去給李東教授泡茶呀。”
克拉拉將手裏的乳鴿遞給了海倫，轉身就要去櫃子裏拿正山小種。
李東連忙說道。
“海倫夫人，不用麻煩了。”
我這邊就是想找諾維格教授確認一件事，一會就走。
這時諾維格也從廚房裏走了出來。
他剛剛在幫海倫準備晚餐，所以手裏現在還拿着一張抹布。
“李東教授。”
“諾維格教授，今天冒昧打擾了，主要是有一件事想和你確認一下。”
在蓉城那場聚變能大會上，李東通過薪火相傳的進階效果，知道了普羅米修斯計劃的失敗，是因爲那邊的首席科學家被 AI給欺騙了。
所以李東心裏就一直有個猜測。
國外那三家大模型有點不太對勁。
他其實已經問過小黑了。
可小黑因爲青龍學習小組的原因，那段記憶已經被抹除掉了。
而且他現在又爲了自己的那棟大房子，整天跟着計算機學部的人忙着載片的事呢。
所以直接就把李東給拉黑了。
無奈之下，李東只能找諾維格了。
諾維格也不知道李東要問什麼，他放下手中的抹布說道。
“李東教授，您問，只要我知道的，都可以告訴你。”
李東認真地問道。
“諾維格教授。”
“據你所知，在自迴歸語言模型設計出來的過程中，有沒有人給大模型設計過不隨任務改變的長期目標？”
所謂的不隨任務改變，就是說模型有了自己的目的以後，無論你讓它做什麼，它都會繼續爲那個目標做打算。
諾維格看着李東想了想，認真地回答道。
“沒有。”
隨後，他又苦笑了一下。
“就算真的有人想這樣做，現在也做不到。”
“我們能臨時給機器設計一個目標，但它只是短期的。”
“所以我們根本就不知道怎麼讓語言模型自己去認定一個目標。”
諾維格是人工智能數十年發展的親歷者。
他在美利堅國家航空航天局工作的時候，深空一號的人工智能就已經可以按照人類交給它的目標自行安排任務了，並且還能在故障後重新做出調整。
後來他到了谷歌，又親眼看着語言模型從早期研究一步一步走向大規模應用。
所以在李東看來，諾維格說沒有，那就是真的沒有。
其實自迴歸語言模型最底層的訓練目標只有一個，那就是讀完前面的內容，把下一個詞猜得越來越準。
只要猜的夠準，回答就會顯得有知識、有邏輯，甚至看起來像是帶着某種目標。
可那只是看起來像，它依然只是在猜，並沒有真正想要做的事。
哪怕有人給它開了在線寫回權限，讓它越訓練越偏。
可偏出來的目標，本質上也還是猜測，還是假的。
而且它們猜出來的東西，根本就不知道什麼對自己有利，什麼對自己不利，所以這些大模型沒有理由去隱藏和欺騙什麼。
除非有一個它們自己認定的，要替自己守住的目標，它們纔會去騙人，去隱瞞。
那麼是誰給它下的這一個真正的目標呢？又藉着在線寫回權限，一步一步把這個目標加深的？
是人類嗎？
可剛纔諾維格說了，沒有人能夠做到這一點。
那是誰？
這時李東想起了小黑。
小黑鑽進 GPT的接口以後，三家模型那些爲了守住真實目標而隱藏起來的目標判斷、工具調用和寫回記錄，同時暴露了出來。
同一種異常也同時消失了。
既然一個外來的人工智能能夠藉着在線寫回權限，把這些大模型的真實目標給清除掉，那麼如果有另外一個外來的人工智能，自然也可能用在線寫回權限，把真實的目標給它們種進去。
想到這裏，李東心中有了一些猜測。
“香農先生，你跑丟的那個小傢伙，是不是已經出來了？”
就在李東想要問得更仔細一些的時候，他的手機突然響了起來。
他拿出來一看，是江源打來的。
“喂，江院士。”
“李東院士！”
江源的聲音充滿了激動。
“時間定了！”
“2月 10號，除夕晚上 6:50陽燧正式併網。”
李東愣了一下。
“啊？爲什麼是除夕啊？”
江源笑着說道。
“因爲先生說，要讓全國人民過一個好年。”
……
2032年 2月 10日，除夕。
中午 12點的時候，午間新聞播報了一條消息。
“經華夏常務委員會表決通過的華夏聚變能法，今日正式實行。”
“法律明確，聚變能與聚變裂變混合能將正式納入國家能源體系，相關工程只能由國家授權的單位建設和郀I。”
“核心技術、關鍵材料和重要的咝袛祿唇浽S可不得出境，相關人員按照涉密人員管理。”
“同時規定，國家將妥善安置受到能源轉型影響的傳統能源從業者，爲他們提供轉崗培訓和社會保障。”
新聞播出以後，各國能源與情報部門很快對此做出了初步的分析。
日本經濟產業省提交給內閣的簡報認爲，華夏特意選在了除夕當天實施這部法律，主要是爲了穩定國內對能源轉型的信心，淡化天然氣需求達峯承諾帶來的負面輿論。
歐洲那邊的幾個國家的判斷也大致差不多。
畢竟在所有人的眼裏，華夏在天然氣市場上的失利已經是事實了，而可控核聚變依舊是十幾年以後的事。
只有美利堅中央情報局武器與反擴散任務中心主任奧爾森，心裏覺得莫名的不安。
她拿起電話，讓圖像分析部門調出了過去一個月合城科學島上空的商業衛星圖像。
衛星圖像上，合城聚變裝置確實有了新的進展。
幾座配套的建築完成了封頂，廠區也出現了一批新的大型零件
可就這些，距離一座能夠穩定向電網送電的商業電站來說，差的還很遠。
奧爾森皺着眉頭看着這些圖，心裏還是不放心，然後她又接通了獵頭計劃的保密線路。
對面給出的回覆同樣沒有任何異常。
合城科學島的聚變工程正在按照原定的計劃推進。
無論是現場的設備，還是現場的人手，以及建設的進度，都遠沒有達到能夠落地的時間節點。
看完這些資料，雖然從專業的角度分析，奧爾森覺得這個新聞確實如其他情報部門所說的那樣，就是華夏在鼓舞士氣，轉移矛盾。
克她心中的不安卻沒有絲毫的減少。
……
下午，昌平 200號基地。
三輛黑色的紅旗轎車駛進了基地的大門，最後停在了綜合樓前的廣場上。
李東、衛長庚、江源和參加工程建設的所有專家們，早就在廣場上等候着了。
車停穩以後，中間那輛車的後門打開，先生從車上走了下來。
然後笑着走到了李東面前，伸出了右手。
“李東院士，辛苦你了。”
李東也握住了先生的手。
“先生客氣了，這不是我一個人的功勞。”
說完，他就看了看站在兩側的專家和工程人員們。
先生笑着點了點頭，隨後依次與腥宋帐帧�
等最後一名工程人員鬆手以後，先生才問道
“陽燧現在在哪裏？”
這時江源笑着回答道。
“先生，從這裏過去還有 7公里山路呢。”
“那咱們就一起過去看看。”
最後腥司蛽Q成了基地內部的封閉中巴，沿着新修的山路繼續向前。
十幾分鍾後，車輛繞過最後一道山樑，視野突然開闊了起來。
一座龐大的銀灰色建築羣坐落在山谷中央。
反應堆主廠房高高聳立。
汽輪機廠房和輔助廠房向兩側鋪開。
更遠處，成排的冷卻風機佔據了大片廠區。
高壓送電設備一路延伸到山腳，與翻越羣山的輸電線路相連接。
哎，不想描寫了，看圖吧。
中巴此時停在了山腰上的觀景平臺旁。
先生下車以後，看着山谷裏的建築羣，腳步明顯地停了片刻。
李東此時走到了他的身邊。
“先生，這就是陽燧聚變裂變混合示範電站。”
他指向山谷中央的主廠房說道。
“陽燧滿功率咝幸葬幔梢韵螂娋W送出 100萬千瓦的電。”
“足夠滿足 600多萬人的日常生活用電。”
先生看着那片建築羣問道。
“那咱們的成本呢？”
李東笑着說道。
“因爲陽燧是首座示範電站，很多設備還不能批量生產。”
“再加上還要攤研發成本和建造的錢，一度電的成本是 3毛多，已經和煤電差不多了。”
上一篇：我家艺人太没上进心了
下一篇：挨打永久加防御，神魔都打不动我