TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
七月底在 198 參加了一場藍晒日光顯影的課程，很感謝幫我轉製數位負片的 再生設計 Jason 和 藍曬映像 Mark 老師，親眼見到一張照片在日光下晒出來真的超 High 的啊！老師還示範了跟太陽神溝通的神技，太陽就真的出來了。 藍晒的資料，其實上完課以後回來查發現蠻多的，主要配方是 檸檬酸鐵銨 (Ferric Ammonium Citrate) 及 鐵氰化鉀 (Potassium Ferricyanide) 。 Solution A: Solution B: Recipe #1: This is the original created by John Herschel in 1842. (古典配方) Ferric Ammonium Citrate 200 gm. Distilled Water to make 1000 ml. Potassium Ferricyanide 160 gm. Distilled Water to make 1000 ml. Recipe #2: Variation using more concentrated solutions. (比例調整，畫面對比會比較明顯) Ferric Ammonium Citrate 360 gm. Distilled Water to make 1000 ml. Potassium Ferricyanide 200 gm. Distilled Water to make 1000 ml. Recipe #3: A modern variation. (現代配方) Ferric Ammonium Citrate 272 gm. Oxalic Acid 5 gm. 草酸 Distilled Water to make 1000 ml. Potassium Ferricyanide 92 gm. Oxalic Acid 5 gm. 草酸 Ammonium Dichromate 2 gm. 重鉻酸銨 Distilled Water to make 1000 ml. 另外，同為日光顯影法的還有白金印 (Platium Print) 和鈀印 (Palladium Print) 等等。 資...