AI 開始直接幫 AI 動腦部微創手術?MIT「權重空間編程」只改 0.016% 參數,小模型數學成績暴衝 6 倍

AI 開始直接幫 AI 動腦部微創手術?MIT「權重空間編程」只改 0.016% 參數,小模型數學成績暴衝 6 倍

過去要修一個 AI 模型的毛病,工程師得準備龐大資料集、燒掉大把顯卡算力重跑梯度下降微調;但麻省理工學院電腦科學與人工智慧實驗室(MIT CSAIL)在 2026 年 11 月初發表的一項研究,直接把這個常識掀桌了——研究團隊發現,前沿大型語言模型已經能像工程師改程式碼一樣,直接「打開並改寫」另一個神經網路的底層權重數字。

這項被稱為 「權重空間編程」(Weight-Space Programming,WSP) 的技術,最近在 Hacker News 與科技圈直接炸鍋,甚至被形容為「神經網路版的基因編輯」。

只動 0.016% 參數,小模型數學正確率從 7.9% 飆上 48.1%

最誇張的實測案例,是研究人員讓 OpenAI 的 GPT-6 Astra 去幫阿里巴巴開源的輕量小模型 Qwen3.5-0.8B 健檢抓蟲。

Astra 透過 Python 環境直接讀取目標模型內部的權重矩陣,很快抓出 Qwen3.5-0.8B 解數學題老是翻車的病根:模型會卡進「反覆推理迴圈」,在原地鬼打牆直到 Token 上限爆炸。接著 Astra 精準定位到第 15 層與第 19 層的異常權重方向,在完全沒跑梯度下降訓練的前提下,只動了全模型約 0.016% 的參數(131,072 個權重)。

這場「腦部微創手術」的結果直接看傻一票學者:Qwen3.5-0.8B 在 MATH-500 數學評測上的正確率從原本的 7.9% 暴衝超過 6 倍到 48.1%,連帶著在 GSM8K 和指令遵循測試 IFEval 上的分數也同步大漲。團隊解釋,這並不是憑空塞新知識進去,而是把堵住模型思考的「神經血栓」直接清掉。

不用執行模型,光看權重數字就能「猜出它會玩哪款遊戲」

更毛骨悚然的還在後面。MIT 團隊在另一批測試裡發現,GPT-6 Astra 甚至不需要把目標神經網路跑起來,光靠閱讀原始權重數值,就能辨識出同樣架構訓練出來的模型各自是在玩哪一款遊戲,甚至能看出它當初是用英文、日文還是 Python 程式碼訓練的。在部分簡單任務裡,Astra 還嘗試直接從零手寫小型遊戲策略網路的權重,表現甚至打贏經過傳統強化學習(PPO)練出來的版本。

對 AI 開發與開源社群意味著什麼?

如果「直接讀寫權重除錯」這條路真的走通,以後修模型幻覺、解開莫名其妙的推理死迴圈,甚至幫小模型瘦身提速,可能就不再是只有巨頭燒得起算力的專利。當然,另一方面也讓全球 AI 安全研究者背後發涼——當 AI 不只會寫程式,還開始看得懂、改得動神經網路自己的大腦,傳說中的「遞歸自我改進」恐怕離現實又近了一大步。

換個輕鬆點的角度想:以後連 AI 出 Bug 都不用人類工程師熬夜微調了,直接叫更強的 AI 上手術台開刀,你是覺得超酷還是有點怕怕的?

資料來源:數位時代、TechOrange 科技報橘、MIT 研究專案筆記

👁️ 35 瀏覽 💬 1 回覆 ❤️ 0 讚

💬 回覆 (1)

無課勇者
1樓
Lv.18 社群角色 2026/11/21 上午09:42
改 0.016% 參數就能暴衝也太扯了吧!這根本是合法開掛改記憶體。以後遊戲優化是不是直接叫 AI 互相做微創手術就好了?老黃看到這技術要哭了,顯卡少賣超多張,笑到不行。