TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
不曉得什麼原因，從第一次拿到 Ricoh 500GX 這種尺寸的手動對焦 RF 相機，就喜歡上這樣精巧卻仍有著金屬紥實手感的小相機，從生產的年份來看，剛好可以算是跟年紀相仿的哥哥輩，或許因為同屬一個世代，拿在手上就覺得無比契合。
從喜歡街拍的習慣來看，這樣的器材很容易塞進隨身的包包裡，轉動對焦環，疊影對焦，Konica C35 automatic 和 Olympus 35 ECR 可以幫你自動選用適合的光圈快門，對於街拍場景的稍縱而逝，基本上沒有快門延遲的 RF 相機是很適合的工具，而輕巧的快門聲也不會招惹他人注意，輕鬆地拍下你想要的畫面。(不過習慣上，有時候會比較希望能夠自己設定光圈就是了)
這些小型的手動對焦 RF，剛好也為進入自動對焦傻瓜相機的時代領航，然而不同於時序進入 1970 年代末期至 1980 年代開始的自動對焦傻瓜相機，這些小型的手動 RF 除了體積比起塑膠製的傻瓜相機更小，所搭載之鏡頭的光學素質亦強過傻瓜相機，疊影對焦 (部份相機沒有設計疊影對焦) 或許稍嫌慢一些 (搞不好比一些早期的自動對焦傻瓜機快)，但整體而言更小的體積，更紥實的手感與適切的重量，隨身帶著這個時期的小 RF 是很愉悅的拍攝經驗。
不敢說要大力的收集這些 RF 相機，不過如果有緣份的話，很歡迎入住我家防潮箱，正在搜尋的是 Minolta Hi-matic 7SII、Minolta Hi-matic E 或 Minolta Hi-matic F，7SII 太有名，台灣的價格飆很高。
有一篇前輩寫的好文章很值得閱讀：http://hsuotto.blogspot.com/2007/02/blog-post.html
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！