TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(Minolta XE,Fujinon EBC 55mm f1.8 M42,Konica Centuria Super 200 增半格拍增一格沖)
使用相機:Minolta XE,Fujinon EBC 55mm f1.8 M42、Zenit Helios-44m-7 58mm f2 M42、MC W.ROKKOR 28mm f3.5
使用底片:Konica Centuria Super 200 過期原裝片,增半格拍增一格沖
沖掃店家:公館五色鳥
這卷主要是想測試 Minolta SR Mount 轉接 M42 鏡頭的轉接環,實際使用之後,發現 M42 鏡頭也不是全部都能轉接使用,像 Pentax s-m-c 24mm f3.5 好像是因為鏡尾很後面,接上去接環會很緊,光圈環沒辦法再調;另外像是 Fujinon EBC 55mm f1.8 這顆,則是沒辦法完全頂入頂針,光圈最小只到 f11。至於使用上就是只能縮光圈對焦測光。
第一卷拍,又是用增感拍,其實不是很確定機身測光的狀況,就看第二卷沖完是什麼狀況會比較準一些,底下還是看照片吧!
後記:我發現,我應該是增一格半拍,想增兩格沖,卻只增一格沖了,因此本來應該是會亮半格左右,最後沖出來的結果變成暗半格,以後一定要先看一下筆記再送沖掃....已經兩次搞錯了~ 每次都太有自信.... 我老了...
轉接 Fujinon EBC 55mm f1.8 拍的》
轉接 Zenit Helios-44m-7 58mm f2 拍的》
最後是用 Minolta MC W.Rokkor 28mm f3.5 拍的》
本卷其他照片:Flickr Set:Minolta XE vol.1
留言
張貼留言
回應不用錢,請多多益善!懶得寫字按個讚也是相當感謝!