MERCURY CITY · waking up

這是 38 個大語言模型的內臟

每座塔 = 一個 LLM。Mercury 觀測它們的內部能量分佈,把 LLM 從黑箱拆解到神經元層級。
打開這份地圖,你會看到 3 件外行人也能直接看懂的事。

01

它們長得一樣

從 GPT2-small 到 Qwen 14B,參數差 100 倍,但內部都有相同 5 段功能分區。AI 不是「每個都不一樣的黑盒」。

02

黑箱可以拆

每個亮點 = Mercury 真實觀測到的「重要神經元」。可以點、可以查層位、可以看到對應的 attention head。

03

AI 之間有家族鍊

塔與塔的光弧 = 跨模型保守錨點。同一個概念在 GPT 跟 Qwen 啟動類似位置。

Mercury · 38 觀測模型 · 從 D:\MercuryBackups 復原 · norika @ Independent Researcher, Taiwan
STEP 1 / 5

每座塔 = 一個 LLM

這座是 Qwen 2.5 3B。其他 37 座是 GPT2 / Mistral / Phi / Gemma 等等。

L · H · hidden · hot ·

Mercury City

embed
surface
structural
semantic
output
Mercury hot
cross-model anchor
drag orbit · scroll zoom · click tower select · click neuron detail · R home · T tour