TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(攝於真理大學，Pentax MX，Pentax S-M-C Takumar 24mm M42，Konica Centuria Super 200 減半格拍正常沖)
使用相機：Pentax MX with Pentax S-M-C Takumar 24mm M42
使用底片：Konica Centuria Super 200 過期原裝片，減感半格正常沖 (但應該是增半格拍增一格沖，所以沖出來就變成不足曝了...)
沖掃店家：公館五色鳥
實際使用 Pentax MX 拍完這一整卷，覺得有一個是優點也是缺點的設計，就是超級輕的快門，很輕的快門可能可以減低震動，但是由於這是全手動的機身，半按快門同時也等於是測光，常常一個不小心，正在測光的時候就快門全按壓完成拍攝了，很窘，用到後來整個測光好像很不正常，不曉得跟轉接 M42 有沒有關係，得再多試機幾次研究一下，希望下次會更好，後來看了一下，原來我拍的時候是用 ISO 320 拍的，本來應該是要增一格沖的，卻在洗沖洗的時候沒注意到，真是太粗心了！平白浪費了那天在北海岸的美景！
MX 很輕巧的機身雖然很好帶，可是用來配上太重的鏡頭就會發生配重上的問題，所以 MX 配上 Pentax-M 的手動鏡還真的是在配重上比較好，這麼輕的機身，反而讓我拍攝時手振的影響更嚴重。
這卷基本上是個大失敗，所以底下分享的十分傷眼，懶得看就跳過吧！
底下三張，在富貴角燈塔那裡以為會拍下好照片的，因為測光失敗幾乎是全毀，忘了要增一格沖，真是對不起那天遇上的好天氣，所以索性用 Lightroom 3 調了一下：
其他本卷照片：Pentax MX vol.1
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！