TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
關於 Kowa Kowa，日本的相機製造商，約於 1954 年至 1978 年生產相機，目前的 Kowa 繼續生產雙筒望遠鏡和天文望遠鏡等產品，Kowa 較為知名的產品為 Kowa Six SLR，被稱為窮人的哈蘇，於 1974 年推出最後一款相機為 Kowa Super 66，為 Kowa Six 的升級版本。 1960 年代，Kowa 推出了一系列的 135 SLR 相機，皆採用鏡間葉片快門，推出以下幾款： Kowaflex Kowa Model E Kowa H Kowa SE Kowa SE R Kowa SE T Kowa SE T R Kowa SE T R 2 Kowa UW190 其中，1972 年推出的 Kowa UW190 為一款固定 19mm 鏡頭的 SLR 相機，這幾款相機中也有於 1968 和 1970 推出可換鏡的鏡間葉片快門 SLR： Kowa SET R 以及 Kowa SET R2 ，與當時的西德 Voigtlander Ultramatic 以及 Kodak Retina Reflex 系列都是採用鏡間快門的 SLR 機種，但 Kowa 是當時推出光圈最大的公司，其可以搭配的鏡頭焦段：Kowa SETR 1:1.9 f=50mm、Kowa R 1:1.8/50、Kowa R 1:2.8/35、Kowa R 1:3.5/100、Kowa R 1:4/135 這幾顆。 參考資料： Camerapedia 關於 Kowa Model E 與規格 為 Kowa 整個 135 SLR 產線的第二款相機，此款相機內建了光電池測光，但並非 TTL 也無連動設計，外觀上來說，在軍艦部放上大大的光電池測光頭是最大的特色，配備一顆 Prominar 50mm f2 鏡頭。 我個人在裝片的時候，曾經對這款相機設計的上片機制感到懷疑，不敢確定能否穩穩卡住底片，因為實在是太容易上片了，1961 年有這樣的上片設計還蠻讓我驚奇的。 (參考右圖，圖片來源： http://www.mediajoy.com/en/cla_came/kowaflexE/4.html ) 反光鏡打下來的聲音不小，800 多公克的重量看起來雖然不能算輕，但握持感不錯的其實。 鏡頭 : Kowa 50mm f/2 ...