TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
初學攝影者一定都會有這樣的疑問：什麼啦！光圈值愈大，光圈愈小？為什麼 1.4 > 2？這是哪一國的數學？
所謂光圈〈aperture〉，是指鏡頭控制進光量的開孔，當做人眼的瞳孔你會比較好懂，而光圈數值則是用以描述光圈開孔大小。
簡單背誦公式：光圈值愈大，光圈愈小；反之光圈值愈小，光圈愈大。
要怎麼解釋 1.4 > 2 這個奇怪的數學呢？
先從光圈值的公式看起：
光圈值 ( f / # ) = N = 鏡頭焦長 f / 光圈開孔的直徑 D
所以光圈值可以視為一個比值 f / #，如 f/1，f/1.4，f/2
我們取這個比值的分母做為描述光圈的數值 N，即為 1，1.4，2
舉例來說：50mm 焦長的鏡頭，光圈開孔直徑的公式可自上例反推為：D = f / N
光圈值 1，則光圈開孔直徑為 50mm
光圈值 1.4，則光圈開孔直徑約為 35mm
光圈值 2，則光圈開孔直徑約為 25mm
再從常用的鏡頭的光圈值來談進光量：
(由左至右，每個光圈值的進光量少一倍)
1， 1.4， 2， 2.8， 4， 5.6， 8， 11， 16， 22， 32
OK，光圈開孔約略成一個圓，而圓面積是這麼算的：半徑^2 × π
光圈值 1，光圈開孔的面積為：(50/2)^2 * 圓周率 = 625 * π
光圈值 1.4，光圈開孔的面積為：(35/2)^2 * 圓周率 = 306 * π
光圈值 2，光圈開孔面積為：(25/2)^2 * 圓周率 = 156 * π
所以，光圈值 1 的進光量，其光圈開孔圓面積約為光圈值 1.4 的兩倍；光圈值 1.4 的進光量，其光圈開孔圓面積約為光圈值 2 的兩倍。
好的，到這裡應該都還看得懂吧？
接下來要推算出計算下一級光圈值(進光量一半)的公式：
首先，從上例的計算我們可知，當光圈值愈大，光圈開孔愈小，但到底怎麼算出光圈值多少其進光量為前者的一半呢？接下來的運算除了要請您先溫習一下國中數學的根式化簡的運算以外，可能也要在精神狀況較佳的情況下閱讀以免睡著。
我們設 f 為鏡頭焦長，設光圈值 a 時的光圈開孔直徑為 d，公式為 a = f / d，而若我們欲求得一半光圈開孔直徑設為 D，則推算可得 D 為：
當直徑為 d 時，圓面積 c，則 C = 1/2 * c 時，求 D = ?
命 R = D / 2，r = d / 2 （感謝網友指正）
C = R^2 * π，c = r^2 * π
R^2 * π = r^2 * π / 2
R = sqrt(r^2 / 2) = r / sqrt(2) = sqrt(2) * r / 2
則 D = R * 2 = sqrt(2) * (d/2) / 2 = sqrt(2) * d / 2
D = R * 2 = sqrt(2) * (d/2) / 2 * 2 = sqrt(2) * d / 2
而新的光圈值 A 應該為：(已知：f / d = a)
A = f / D = f / ( sqrt(2) * d / 2 ) = f / sqrt(2) / d * 2 = sqrt(2) * (f / d) = sqrt(2) * a
驗算
1. 半徑：50 / 2=25
2. 面積：25^2 * π
3. 面積一半：25^2 * π / 2
4. 還原回一半面積的半徑值：sqrt(25^2 * π / 2 / π) = sqrt(25^2 / 2) = sqrt(2) * 25 / 2
5. 再轉成直徑：sqrt(25^2 / 2) * 2 = sqrt(50^2 / 8) * 2 = sqrt(50^2 / 2) = sqrt(2) * 50 / 2
6. 新的光圈值：50 / sqrt(50^2 / 2) = 50 / sqrt(2) / 50 * 2 = sqrt(2) * 50
註：sqrt(2) 即為 根號2
完成以上的演算之後，可以簡化出一個重要的公式：A = sqrt(2) * a
意即，光圈值 * 根號2 即可算出小一格的光圈數值。
若我們以 f/1 為基準開始計算，底下的 = 代表近似：
1 * 根號2 = 1.414 接近 1.4
1.4 * 根號2 = 1.979 接近 2
2 * 根號2 = 2.828 接近 2.8
2.8 * 根號2 = 3.959 接近 4
4 * 根號2 = 5.656 接近 5.6
5.6 * 根號2 = 7.919 接近 8
8 * 根號2 = 11.313 接近 11
11 * 根號2 = 15.556 接近 16
16 * 根號2 = 22.627 接近 22
22 * 根號2 = 31.112 接近 32
最後我們的結論是，還是用背的好了，我一定是瘋了才真的把這題給算完，計算數學有夠累人的，光是根式的化簡我還得重新溫習國中數學，老早就都還給老師了，你知道我念文組就是因為討厭數學。
《最後再複習一次》
(由左至右，每個光圈值的進光量少一倍)
1， 1.4， 2， 2.8， 4， 5.6， 8， 11， 16， 22， 32
詳細資料可參考 wiki: f-number (內有 1/2, 1/3 的光圈值級進，不要再叫我算了)
你算錯囉
回覆刪除R = D / 2，r = r / 2(應該是r = "d" /2，直徑除以二等於半徑)
R = sqrt(r^2 / 2) = r / sqrt(2) = sqrt(2) * r / 2 (上面錯，所以這邊也跟著錯囉)
最後面應該是
R = sqrt(r^2 / 2) = r / sqrt(2) = (d / 2) / sqrt(2)
下面我就自己算了
D=R*2=(d / 2) / sqrt(2) x 2 = d / sqrt(2)
而新的光圈值 A 應該為：(已知：f / d = a)
A = f / D = f / [d / sqrt(2)] = f / d * sqrt(2) = a * sqrt(2)
所以A = a * sqrt(2)
謝謝您了，r = d/2 已改正。
回覆刪除不過下面這一行我還沒代入 r = d/2，我是用根式化簡也就是分子分母同乘 sqrt(2) 得到的：
R = sqrt(r^2 / 2) = r / sqrt(2) = sqrt(2) * r / 2
然後在計算 D 的時候，我的 r 是用 d/2 代入的，但是中間少寫了 * 2。
D = R * 2 = sqrt(2) * (d/2) / 2 * 2 = sqrt(2) * d / 2 [其實化簡之後 D 也等於 d/sqrt(2) ]