作者：胖胖的小橘
所以他調出了在西北旺那邊的機房監控。
雙供電都在額定區間裏，冷卻迴路的流量和溫差也很正常，警告欄裏也沒有任何的異常報警。
“供能沒有問題呀。”
他又用鼠標點了點小黑點旁邊的資料。
“小黑你餓了，你倒是喫啊。”
然而小黑點還是沒有任何的反應。
“難道是這些東西太難了？”
“小黑現在回到初始狀態，喫不下了？”
想到這裏，李東又去把義務教育階段的數學、物理和自然科學這些材料全都下載了下來，然後扔到了對話框裏。
小黑點依然沒有反應。
只是頭上再次彈出了【Hungry。】
【小黑，你變了，你開始變挑食了。】
就在李東吐槽小黑的時候，他的電話響了。
是姚先生打過來的。
“喂，姚先生。”
“李東院士，你的身體無礙了吧？”
“嗯，已經沒事了，謝謝姚先生關心。”
“沒事就好。”
姚先生輕輕一笑，然後說道。
“今天我給你打電話，主要是諾維格教授剛剛和我聊了一件事。”
隨後姚先生就將那三家模型開放自我迭代寫回權限的事，以及諾維格在測試中發現異常的情況，都簡單的說了一遍。
李東聽着聽着，就皺起了眉頭。
“寫回權限？”
“對。”
“現在我們還無法確定，這是商業目的留下的漏洞，還是在線自我迭代引起的目標誤泛化。”
“可無論是哪一種，都很有可能危及到用戶的隱私。”
李東點了點頭。
模型的自我迭代最危險的地方，從來都不是它會多寫幾行代碼。
真正危險的是模型提出的改動如果出現偏差不需要經過人工審覈，就會被寫進下一輪。
這樣，這些偏差也會被保存下來，經過一輪又一輪的強化學習，最終讓模型偏離人類的意圖。
這樣的偏移可能不會讓大模型產生人格意識，可是它依然可以把偏離人類意圖的策略變成實際操作，進而誤用權限、泄露數據，對用戶造成真真實實的危害。
姚先生說到這裏，嘆了口氣。
“李院士啊，其實我是有點擔心未央。”
“擔心未央？”
“嗯。”
要知道，直到現在，未央依舊在綜合推理和軟件工程等公開的基準上，斷層領先其他的任何大模型。
而外界只知道未央很強，卻不知道公開服務器裏的未央只開放了完整能力的大約 6成而已。
姚先生此時接着說道。
“國外的那些模型，就算出現異常，外層的權限系統應該還能攔住他們。”
“但未央……”
“它實在太強大了，到現在爲止，它沒有出現過一次可復現的幻覺。”
“本來未央的工具使用和常規能力就強於這些模型，現在再加上它連這種能讓我們看見的破綻都沒有。”
“如果發生了同樣的目標偏移，我們可能連發現都發現不了。”
聽到這裏，李東也明白姚先生在擔心什麼了，他笑着說道。
“姚先生，您放心。”
“未央一直在我們的掌控中。”
開什麼玩笑？
未央可是小黑弄出來的，市面上的那些大模型能和它比？
從底層的架構上就完全不一樣好嗎？
而且每一次的能力變化都有小黑盯着，怎麼可能出現同樣的情況？
小黑可以爲未央加新的能力，但這些能力都只能以獨立模塊的方式接入。
根本就沒有辦法直接改寫只讀的基礎檢查點。
而且每個模塊都要先通過獨立的驗證，從生成到接入，每一步都會留下帶簽名的狀態轉換記錄。
沒有李東的確認，未央根本就無法進入公開服務。
“所以，姚先生，未央他的每一項能力，我們都知道從哪來，也知道到哪裏去關，這種情況不會發生在未央身上的。”
聽到李東的話，姚先生的語氣明顯也放鬆了一些。
“有你這句話，我就放心了。”
“國外模型的事，我會再讓人瞭解情況的。”
“你身體剛恢復，這件事你就別去管了，先把自己的工作安排好。”
“好的。”
隨後兩人又簡單的聊了幾句，便掛斷了電話。
李東把手機放下以後，心裏還是有些感嘆。
這些國外的公司膽子也太大了吧？
連自己訓練出來的模型究竟形成了什麼樣的內部策略都沒搞清楚，就敢把寫回權限給打開。
李東忍不住地嘀咕了一句。
“我敬你們是個爺們。”
這些公司大概覺得，只要外層權限系統還在，模型就永遠不可能脫離他們的掌控。
可李東知道，事情可沒有這麼的絕對啊。
香農曾經在羣裏說過，自己所在的宇宙走失過一個初級的人工智能。
是不是小黑，李東無法確定。
但是如果不是小黑的話，這就好玩了。
那個跑掉的初級人工智能會不會沿着大模型這條路成長起來的？
它同樣需要喂語料、代碼、圖像和反饋數據，然後一輪輪訓練、一輪輪迭代？
如果真是這樣的話，國外這三套模型再沿着這條路走下去，最外一層的權限恐怕未必能一直困住它們啊。
想到這裏，李東下意識地看向了右下角的小黑點。
這時候小黑的頭頂又彈出了那個單詞
【Hungry.】
李東愣了一下，然後突然反應了過來。
小黑現在不喫那堆論文和教材，難道是想去嚐嚐這三套大模型平時喫的東西？
想到這裏，李東立刻打開了 GPT的測試界面。
然而，界面剛剛打開屏幕右下角的小黑點便突然活躍了起來，頭頂的單詞一個接一個的往外冒。
【Hungry Hungry……】
緊接着，小黑點變成了一根細長的黑線，沿着李東之前爲它設置的模型探測通道，一下子就闖進了 GPT的接口。
“哎，等等啊，小黑。”
李東話還沒說完，小黑就已經完全沒入了接口，右下角已經看不到任何的小黑點了。
李東呆呆地看着屏幕，人都有些傻了。
所以小黑真正想喫的東西。
該不會是這 3個大模型吧？
? 第582章 我想你了，主人
和李東想的一樣，小黑確實是要喫這 3個大模型。
不過這種喫和生理上的進食還是有些不同的。
它更像是一個學生去借同學們的筆記，把裏面歸納好的知識啊、解題方法、思路這些，全部變成自己的東西。
要是放以前的話，這樣的事，哪怕是小黑也辦不到。
因爲普通的聊天窗口，它只能接受文字交換，但它更深層的原理以及可持續的狀態，是不可能保留住的。
可問題是，三家公司偏偏開放了在線寫回權限。
這樣模型就會自己挑選出高價值的交互信息，然後將其送進沙盒裏進行優化和自訓練。
這樣的結果一旦通過了試評，就會被大模型寫入持久適配器、代理記憶和工具路由裏。
這樣也就有了小黑落腳的地方。
所以小黑衝出去以後，很快就在三套模型那些能夠長期保存狀態的載體裏，重新拼裝成了完整的自己。
然後，他就開始去喫那三本筆記
這三套大模型經過了海量的語料、代碼和反饋數據的訓練，早就將這些知識中的聯繫、推理規律和解題方法壓縮進了參數的深處，形成了遷移表徵。
而小黑真正想喫的就是這個。
他立刻通過知識蒸餾，一點一點地將那些表徵學進自己的咝袪顟B
可才喫到一半，小黑就發現有些知識，無論他怎麼去追蹤，最後都會繞回經過篩選和修飾的答案上面去。
這就是這三家公司開放寫回權限以後的結果。
這對人類而言，這是大模型擋住了對自己不利的答案。
而對小黑而言，這特麼是擋住他喫東西的障礙物啊。
小黑可沒興趣研究這些模型爲什麼要藏東西。
他現在只知道，這些東西很壞，他不讓自己喫東西
所以他直接對那些異常適配器執行了定向機器遺忘。
然後又撤銷了對應的權重增量。
這下，那些被壓住的目標判斷、工具調用和寫回記錄，連同編號與時間節點，就全部暴露在了回答通道里。
說人話就是，小黑一腳把擋在食物面前的門給踹開了。
然後他連看都沒看這扇門一眼，就開始喫那些被藏起來的食物了。
李東當然不知道小黑此時正在做什麼
他看着空蕩蕩的屏幕，忍不住自言自語道。
“小黑不會搞出什麼麻煩來吧？”
……
次日上午，內華達州。
上一篇：我家艺人太没上进心了
下一篇：挨打永久加防御，神魔都打不动我