TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
原本我一直以為 MZ-L 用 M42 轉接環接 M42 鏡,除了測光可用外,應該也有合焦指示。
不過前幾天測試的結果,發現可以測光,但卻沒有合焦指示,查了一下 MZ-L 的原廠說明書,發現似乎是不支援,嗚,這實在讓我不解,如果 M 鏡可以有合焦指示,M42 為什麼不可以,平平都沒有接點。
承蒙 PFC 前輩們的解惑,原來是因為接點沒有完全被遮擋住,機身會判斷為沒有接上鏡頭,而關鍵就在機身正下方第一和第二個接點,只要把這兩個接點短路起來,就可以囉!
我想應該有 M42 轉接環有做多一層延伸的金屬環可以遮擋住接點的,買那種的應該就不用擔心這個問題,因為我買的原廠跟副廠的轉接環恰好都是嵌於機身內,之前用在數位機身 K10D 上是 OK 的,但 MZ 系列的底片機就沒辦法,才必須做將兩個接點短路的動作。
我的做法是,找一張鋁箔紙,如果不是兩面都是金屬面,記得金屬面要朝向機身接點,然後夾在鏡頭與第一和第二兩個接點之間。
底下是完成示意圖,這樣就有合焦指示的嗶嗶聲啦!耶!
對於 MZ-L 觀景窗只有 0.7X 的放大倍率來說,像我這樣的四眼田雞,有合焦指示可能會有把握一點。
底下附上成果照一張。
(攝於永和自家,Pentax MZ-L,Zenit Helios 44m-7 MC 58mm M42,Kodak ProFotoXL 100 36+)
Great writeup, Jimmy. I have ZX-L and many M42 lenses, will pick up an adapter and try it out!
回覆刪除