TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
一般來說，人的肉眼看圖片，當解析度 ≧ 300 dpi 時，就不易察覺我們是在看由一大堆點所組成的圖，因此在計算多少畫素可以輸出成多大的印刷品時，我們就以 300 dpi 來計算。
| 常見放大尺寸 (英吋) | 採用 dpi | 需要的圖檔尺寸 (點x點) | 畫素 |
| 2x3 | 300 | 600x900 | 540000 |
| 3x5 | 300 | 900x1500 | 1350000 |
| 3.5x5 | 300 | 1050x1500 | 1575000 |
| 4x6 | 300 | 1200x1800 | 2160000 |
| 5x7 | 300 | 1500x2100 | 3150000 |
| 6x8 | 300 | 1800x2400 | 4320000 |
| A4 (約 8x11) | 300 | 2480x3507 (約) | 8700000 (約) |
| 10x12 | 300 | 3000x3600 | 10800000 |
| 11x14 | 300 | 3300x4200 | 13860000 |
簡單來說，要用多少 dpi 輸出，就需要多少個點，換算出來就是畫素，你只要看數位相機拍出來的圖的尺寸，就可以大略換算可以輸出的大小，當然，不見得都是以 300 dpi 來輸出，一般來說，依照輸出的成品所需要觀看的距離，如果觀看距離遠的話，也不見得需要用到 300 dpi 來輸出，也有用 240 dpi 甚至 150 dpi 輸出，那麼你只要稍微換算一下，就可以知道可以輸出多大尺寸的圖片。
所以，上面那台 Pentax 老 DC：330GS，輸出 5x7 的照片也夠了。
想深入研究的話：
- 維基百科：像素 (中文)
- 計算影像尺寸，DPI和檔案大小計算機 (德文)
- 數位相機像素，抖動，PPI，和列印尺寸的基本知識 (英文)
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！