TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
感謝賴格子先生繼續提供撰寫文章的素材！
這一款是 Werra 系列中的 Werra 1，約於 1955 年推出，與初代 Werra 不同的地方為改用 Carl Zeiss Jena Tessar 50mm f2.8 鏡頭，在過片環的部份加上與機身相同的綠色蒙皮。
Werra 系列的設計十分簡潔，機頂除了快門鈕和測光指示以外一片平坦，計數器、回片、開底片室等機制通通放在機身底部。
過片是這款相機的特點，將鏡頭外圍的那一圈順時針轉一圈就過一張 (機身正對我們時)，認真想想，還真的沒遇過這樣過片的相機；另外，鏡頭蓋子反裝鎖在鏡頭上就成了遮光罩，總之是很小巧簡單的相機，前幾代為估焦機，並為固定鏡頭，據說後來有推出可換鏡的 Werra，Werra 的版本眾多，之後如果有機會玩到其他台再來比較看看吧。
機背的蒙皮上有 Werra 的字樣，並且有一個 ASA 設定的轉盤，讓攝影者紀錄目前正在使用的底片感光度。
打開底片室是推開整個後蓋的方式，基本上就像一些德俄早期的 RangeFinder 的設計。
冼鏡光老師於 2008 年介紹了一篇完整 Werra 系列的文章，詳細參考：Carl Zeiss Jena的相機：Werra系列（1954）。
Werra 1 主要規格
- 使用鏡頭: Carl Zeiss Jena Tessar 50mm f2.8，最小光圈 f16
- 對焦: 估焦拍攝，鏡頭最近對焦距離為 0.9m。
- 測光: 硒電池
- 快門速度: Synchro-Compur 快門 (1 秒 - 1/500 秒、B 快門)
- 重量: 約近 500公克重，今天特別拿了一台西德 Stube 出的 Kitchen Scale 廚房秤來假掰一下。
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！