TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(上圖來源：GXR MOUNT UNIT "0"Day-Review Old Lens NewDay)
Ricoh GXR Leica M-mount Unit 產品名為 Ricoh GXR Mount A12，由於 Leica M Mount 的法蘭距只有 27.80 mm，所以 Ricoh GXR Mount A12 的可玩性大增！
日本近代和德國 Novoflex 都有推出幾款異質鏡頭接到 M Mount 機身的轉接環，不便宜就是了，底下截圖來自義文國際 (代理日本近代轉接環)：
這個網頁：GXR MOUNT UNIT "0"Day-Review Old Lens NewDay 有用 Ricoh GXR Mount A12 再加 K Mount 轉接環使用 Ricoh 早年推出的 K Mount 手動鏡的實拍照片，可以去看看。
摘要一下 Ricoh GXR Mount A12 規格
- 1230 萬畫素 CMOS APS-C
- ISO 200-3200 (1/3EV 增減)
- 針對手動對焦的對焦輔助功能
- 1/4000 - 180s shutter speed (1/8000th - 1s in electronic shutter mode)
- 可錄製 720p (30fps) HD 影片
我們想問的是，Ricoh 娶回 Pentax 之後，會為 GXR 做一個 K Mount 自動對焦模組嗎？35mm 片幅好嗎？新婚佛心價當然更歡迎呀！
不知道9月多PENTAX發表的會是K-5後繼機還是真的就如流言所說的ASP-C的EVIL...還是RICOH拿去變GXR MARK II XD
回覆刪除這我的興趣又來了，要不是GR21太貴早入手了，一直想買ricoh相機，手上有一台XR7+50/2,昨天剛拍完。
回覆刪除可接老鏡，爽！
所以説A12的模組等於M-mount
Re: applepeel <1961117189237021000>
回覆刪除Ricoh GXR Mount A12 就是 M Mount 的模組，可以接 Leica M Mount 鏡頭，Ricoh 早年也曾經出過 M Mount 的鏡頭。
Re: wulala <2568414037204233590>
回覆刪除是阿，合併後的動向能不能同時展現兩家特色把兩家原本各自的用戶 merge 在一起，其實我還蠻期待的。
我是覺得 P 家還是放棄推 Pentax Q 專心打 APS-C EVIL 會好一點，不過 Q 都出了又覺得再出一款賣得不好的話又浪廢研發成本，加上 Ricoh 又有 GXR 在，合併之後要能有些新意對兩家才都有幫助吧。
Re: wulala <2568414037204233590>
回覆刪除如果 Pentax 真的要出 APS-C，架構上如果可以出一個 GXR 用的 Unit，APS-C 尺寸感光元件，法蘭距短的卡口，也算是一種合併後兩方受惠的型態，這樣 GXR 以前所弄出來這種可以多用的架構就會讓人感覺更有價值了。
現在想想以$ony的出機策略不大可能那麼早岀evil全幅機，搞不好ricoh會先開第一槍，
回覆刪除一刞以喜，可以釋放所有老鏡的焦段，一則以憂，沒子彈，晚點出，拜託！
Re: applepeel <8476916561563971892>
回覆刪除同意你的一則以喜一則以憂啊！
台灣現在買的到嗎？多少錢呢？
回覆刪除Re: motioncalvin <3061574307132848856>
回覆刪除hello 您好，
上個月我有去漢口街宇利問過老闆，他是說九月會到，您可以去問看看到貨了沒。
Re: motioncalvin <3061574307132848856>
回覆刪除價錢他沒說耶，跟我說到貨了再說，總之你可以問老闆比較快。
這個倒是蠻有趣的應用, 不過轉接環好貴啊。
回覆刪除Re: 瑋哥 <1017679126102887799>
回覆刪除嗯啊，看報價很驚人。
问大家一个问题，用A12M转接 理光 RX7 表头 50MM定焦那个头 可以吗？ 不就是 pk 转 M ?
回覆刪除