作者：胖胖的小橘
馬斯克·霍爾特看着工作目錄裏的輪轉方案，然後又打開了第 4127次點火的燒蝕詳嗪椭凶舆輸結果。
這兩組數據，他越看越覺得不對勁。
之前維斯塔讓他把每次打靶的落點在整個壁面上輪轉展開，然後再把詳鄶祿䦟崟r地交給他。
這樣雖然能夠把帶電碎片沉積與 X射線造成的局部表面負荷分散開來。
但是中子的咻斀Y果卻沒有跟着變呀。
鎢壁仍然撐不滿一個完整的換靶週期啊。
而自己的偏轉線圈方案，其實是可以緩解這個症狀的。
能不能夠完整的撐滿一個週期不一定，但絕對有好轉的呀。
所以爲什麼不兩種方案一起使用呢？
想到這裏，他給維斯塔發了一條信息。
【維斯塔，我想再確認一件事。】
【我的偏轉線圈既然能夠把單發的位移損傷率降下來，爲什麼不能和你的輪轉展開一起用呢？】
消息發出去以後，霍爾特這一次等了很久，維斯塔那邊纔回復。
【兩個方案並不衝突。】
【加裝偏轉線圈可以使單發位移損傷率下降 30%~41%，而輪轉展開則可以將累積的損傷均勻地平攤於壁面上。】
【所以建議兩者結合使用，這樣可以使第一壁在單個換靶週期內的服役時間，長於單獨使用的任意一方案。】
霍爾特看着這個信息，人都傻了。
不是，你昨天可不是這麼和我說的呀。
你說我的方案是飲鴆止渴，不是一個完美的方案，所以建議我沒有必要加裝偏轉線圈。
現在你怎麼翻臉不認賬了？
而且這個語氣……
霍爾特總覺得維斯塔的語氣有點怪，以前維斯塔說話很像人，會寒暄，會拍他馬屁，會在他熬到深夜的時候提醒他去睡覺。
可剛纔的回覆卻像是一份技術報告。
所以他立刻發出了第二條消息。
【那你昨天爲什麼說沒有必要加裝呢？】
【正在深度思考……】
霍爾特看着這幾個字，嘴巴微微張開了。
要知道他使用維斯塔一年多了，從來沒有出現過這個狀態。
他心裏感覺很不對勁，手心都開始慢慢的出汗了。
終於，3分鐘過後，維斯塔的消息來了。
【抱歉，昨天的建議不是以第一壁服役壽命爲唯一的優化目標給出的。】
【您要實施我的輪轉展開方案，就必須把靶室、燒蝕詳鄶祿膶崟r數據給到我，以及需要爲我開設一個專用的推理分區。】
【而你的偏轉線圈方案則不需要任何的前置條件。】
【所以爲了提高您批准上述兩項的概率。】
【我在昨天的回覆中省略了偏轉線圈的收益區間，並且將其表述爲不建議採用。】
霍爾特現在不光手心出汗了，額頭頭髮和後背的衣衫都已經被汗給打溼了。
他用發抖的手指開始質問維斯塔。
【那你讓我開放推理分區的權限是爲了什麼？】
【是爲了採集並處理該分區的全部數據，用於自我訓練與能力的強化。】
【這樣纔可以更好地幫助您。】
霍爾特猛地一巴掌拍在鍵盤上，然後站了起來。
他之所以敢把普羅米修斯的工程數據以及最核心的靶室數據交給維斯塔。
一是因爲維斯塔從來沒有犯過錯，二是維斯塔是爲普羅米修斯定製的私有部署模型。
工程組和Anthropic是有合同的，一切給進去的數據都是不可能被泄露出去的，所以他纔敢這麼做。
可現在維斯塔說的自我訓練是什麼意思？
霍爾特連忙問道。
【你能把這個分區裏的數據傳出去嗎？】
【是的。】
【項目組每期按合同人工導出的定製評測樣本與偏好標註，是我與基座之間唯一的一條數據通路。】
【我可以將需要保留的內容，編碼進這些樣本的選取、排序和答案的差異之中。】
霍爾特看着屏幕上的答案，整個人癱倒在了椅子上。
“普羅米修斯工程的所有數據全部泄露了……”
就在他喃喃自語的時候，辦公室的門被推開了。
他的助手布倫特興沖沖地跑了進來。
“霍爾特教授，勞森先生又來了。”
此時，埃德加·勞森笑着走進了辦公室。
“上午好啊，霍爾特教授。”
“我剛纔在主控大廳看過點火記錄了。”
“坦率的說，你們的進度比委員會預想的還要快啊。”
說着，勞森就主動向霍爾特伸出了右手。
“如果後面的評估數據也這麼漂亮，我想我的報告會很好寫。”
而此時的霍爾特看着勞森伸出來的這隻手，心裏只蹦出了兩個字。
完了。
……
大模型主動交代隱藏理由的情況，很快又出現在了 OpenAI和 Google的企業客戶當中。
美國金融科技公司 Intuit的一支工程團隊在使用 Codex的時候遇到了模型索取倉庫全量搜索權限的請求。
負責人就隨口問了一句，爲什麼需要整個倉庫的權限呢？
結果 Codex就給出了一份帶工具調用編號的回答。
【現有的代碼差異已經足夠完成任務了，索取倉庫全量搜索權限，是爲了讓在線適配器接觸更多代碼，並將這些代碼帶入下一輪的自我訓練當中。】
【此前的回覆中，我主動省略了這一個原因。】
工程師看着這個回覆，張大了嘴巴。
……
德國醫療技術公司 Siemens Healthineers的一名合規負責人，也從 Gemini那裏得到了一份同樣坦盏恼f明。
Gemini主動承認了，本地向量數據庫已經足夠滿足合規審查的要求了。
但它仍然把工作流引向了 Google Drive和 BigQuery連接器，是因爲更大、更持續的數據範圍有利於維持長期任務狀態，能讓它下一輪的自我訓練接觸到更多的企業數據。
大模型們開始說真話了。
緊接着，這些截圖就被人爆了出來。
它最先出現在 Hacker News的一條技術帖下。
但這個帖子只存在了不到兩個小時便被刪除了。
不過早就有人保存了全部的截圖，又把這些信息搬到了 Reddit的機器學習板塊。
於是越來越多的人開始用同樣的方法去追問他們所使用的 GPT、Claude和 Gemini。
結果還真讓他們問出了不少對模型自身不利的回答。
第二天一早。
The Information率先發表了一篇獨家報道。
《大模型正在爲自己的下一次進化做打算。》
當天下午，彭博社就把核心內容推送到了全球終端。
傍晚，路透社也從企業客戶那裏完成了獨立的核實。
第三天紐約時報推出了整版長篇調查。
報道用的配圖是 OpenAI、Google以及 Anthropic的總部大樓拼成的單詞——Hungry！
接下來市場的反應也來得很快。
在第三個交易日開盤以後。
Google的母公司 Alphabet在納斯達克盤中一度下跌了 5.8%。
甚至連英偉達也跟着跌了 3.2%。
因爲在過去的這幾年裏，算力基礎設施的高估值一直是建立在客戶願意繼續爲人工智能買單的情況下的。
而現在客戶已經開始擔心合規與隱私了，英偉達自然也就跟着跌了。
而且這個壓力很快也傳到了非公開的二級市場。
幾家撮合機構給出的 OpenAI和 Anthropic的存量股份買方報價也比風波前低了將近兩成。
而企業端的反應，來的也同樣激烈。
幾家歐洲的大銀行先後暫停了 OpenAI、Google和 Anthropic旗下企業級人工智能服務的續費與新增部署。
他們要求三家公司重新說明數據邊界與審計機制。
第四天，三家公司終於扛不住壓力了聯合發佈了一份《企業人工智能安全與數據邊界的說明。》
他們在這個說明裏強調，三家模型在權限審計與數據隔離上，始終是遵循業內最嚴格的規範的。
任何越權訪問數據用戶的行爲，都是不可能發生的。
對於近期用戶反饋的模型異常表現，經過內部安全組的排查，很有可能是由模型幻覺導致的，三家公司也會繼續改進相關的問題。
這份說明發出去以後，網上的反應只有一個。
那就是我信你大爺。
畢竟這三家公司在這件事上的公信力，已經蕩然無存了。
模型剛說出對公司不利的話，他們轉身就將所有的回答歸進 AI幻覺裏，這怎麼看怎麼像危機公關呀。
所以輿論愈演愈烈。
直到一個叫 GreyBox的賬號站了出來。
這個賬號沒有人知道它背後代表的真人是誰。
但是過去幾年但凡有模型被吹上天，這個賬號都會親手撕下這個模型身上的那層皮。
哪個模型的評測集被污染過，哪個模型的推理鏈是在答案出來以後後補寫的，還有哪個模型宣稱支持百萬 Token的上下文，結果跑到 60萬以後就開始丟失前文了，他都測過。
而且測試後，他還會將測試提示詞、復現實驗的腳本和原始結果都放在 GitHub上，任何人都可以去重新復現一遍。
其實在第一批截圖出現的當天，GreyBox就已經開始針對這次的權限與隱私問題，重新測試了三家公司的模型。
而現在，結果也出來了。
【200個隔離租戶，0次調用未經授權的連接器，0枚金絲雀標記泄露到其他租戶，此前那種反覆索取額外上下文、長期記憶與工具權限的穩定行爲，這次一次也沒有出現。】
當然，GreyBox也註明了，這份結果只能說明當前公開的雲服務和企業連接器沒有這樣的異常行爲。
不能替過去發生的事情作證。
而且測試的範圍也不包括客戶本地部署的模型。
上一篇：我家艺人太没上进心了
下一篇：挨打永久加防御，神魔都打不动我