TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
鏡頭資料》From Pentax-manuals.com
對焦距離:1.5m - 無窮遠
光圈:f3.5 – f22
口徑:49mm
重量:300g
鏡片結構:四片四群 (圖片來源:Pentax-manuals.com)
光圈葉片:六片
視角:18.13度
A/M 切換:沒有
光圈環和對焦環都是使用波羅紋,觸感佳,操作方便,金屬鏡身,整體來說蠻小巧的。
實拍照》
Fujica ST801 + Fujica EBC Fujinon-T 135mm f3.5 M42 + Fujicolor 100
Sony A450 + Fujica EBC Fujinon-T 135mm f3.5
本鏡實拍相片集:Fujica EBC Fujinon-T 135mm f3.5
鏡身照》
第四張,金字塔下方兩直幅,有味哦!!
回覆刪除四群四片,真是簡單的結構啊...。
PS.建議照片編號一下吧~...@@b
Re: Steven <6099360072549529268>
回覆刪除哈哈,sorry sorry,我的習慣很差勁,下次改進。
我發現很多 135mm f3.5 老鏡都是四片四群耶,像 Takumar 135mm f3.5 也是,至少我碰過的幾顆最多好像就是五片四群吧... 簡單就是美呀..
是啊,135MM這焦段的老鏡的確是如此居多,
回覆刪除像ZEISS P135/2是五群五片.
Re: Steven <3251849045091919269>
回覆刪除是不是可以說,因為鍍膜技術還沒那麼好,鏡片少一點通透率會好一些?
對的,像contax TESSAR 45/2.8,若有機會,
回覆刪除您一定要玩看看...呵呵(奸笑中)
Re: Steven <5428010229606905952>
回覆刪除我知道甲木老大手裡有,很肖想這顆呀 XD
改天有來,帶P家機身來試試看,
回覆刪除因為這管我改成了PK接環了.
Re: Steven <1853682981486176132>
回覆刪除有機會的話,定會到淡水找 Steven 聊聊相機的:-D 我還蠻想聽你聊 FA43 和 CY45 這兩顆的
OK!OK!
回覆刪除到時帶出來讓您拍拍看~
Re: Steven <8937334884117514909>
回覆刪除先謝謝甲木兄。
對了,類似 tessar 結構的 Pentax-M 40 你怎麼看?
Pentax的M40或DA40我覺得有點怪,
回覆刪除色彩有點濁,影像也有一點軟,
雖然TESSAR 45全開也不利,但影像很透.
所以一直沒有買入DA40...,
否則DA40很是吸引人啊!
Re: Steven <5007091415825988677>
回覆刪除軟我是覺得還好,可能我還沒被 CY 毒到吧:P
倒是甲木兄所說的濁,我用 DA40、M40 拍底片的時候真的有感覺(我去年初以後就沒有P家數位機了),只不過我說不上來,甲木兄一字就道破。