TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
1. Minolta SRT101 + MC ROKKOR-PF 55mm f1.7 (已售出)
2. Pentax LX 單機身 (已售出)
3. Contax 139Q (已售出)
4. Konica Autoreflex T2 + Hexanon 40mm f1.8 (已售出)
5. Olympus OM-2 + G.Zuiko 50mm f1.4 (已售出)
6. Yashica 35 GSN (已售出)
7. Schneider Retina Xenar 50mm f2.8 DKL (3000)
8. Minolta Hi-matic CS (已售出)
意者請 Email 洽 zeng.tw[at]gmail.com。
因為是『斷捨離』,所以敝人完全不考慮以物易物這種很有意義的活動,深感抱歉。
20140111 Pentax M 40mm f2.8 鏡頭單獨售出,Pentax LX 機身續賣。
大大您好,想了解您的Pentax LX售出了嗎??
回覆刪除小弟誠心夠買,小弟聯絡電話是0972-108012,敝姓曾。
若可以的話請能請大大e-mail您的聯絡方式嗎?
love741122@hotmail.com
已回信給您,如有興趣再請您 Email 告知。
回覆刪除您好:
回覆刪除小弟剛剛有發 mail 想請教您有關
konica T2 的問題
還請您回覆
敝姓陳
電話: 0988765991
謝謝您的來信,已回信給您。
刪除您好:
刪除我前天回家後把相機擦一擦發現品像真的很棒 :)
還有把40/1.8接上數位機身,我發現他的解像力相當好。縮一級光圈已經十分銳利
想請教一個問題: 請問 T2 機身半按快門是不是會有 AE-L 的功能? 使用手冊上面好像沒有提到 :)
謝謝