跳到主要內容

16GB ROCm 本地 LLM-as-a-Verifier 實測數據:Qwen3.5-9B 跑起來到底多快

TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...

[Nikon F] Nikon Nikkor-P.C Auto 105mm f2.5

DSC00872

鏡頭資料》
對焦距離:1m - 無窮遠
光圈:f2.5 – f32
口徑:52mm
重量:435g
鏡片結構:五片四群
光圈葉片:七片
視角:23°20′
生產年份:約自 1973 年開始生產
資料來源:destoutz.ch

這顆鏡頭網路上有個傳說,國家地理雜誌攝影師 Steve McCury 用這顆鏡頭拍下著名的「阿富汗少女」。於是,聰明的賣家搭著這個題材,炒高這顆鏡頭的二手行情,但事實上這是個未經本人證實的傳言,也未有任何可靠的證據足以證明。

先撇開這顆鏡頭是不是名人用過而成名,這顆鏡頭上所標示的 Nikkor-P.C,P 是指五片的鏡片結構 (U=1,B=2,T=3,Q=4,P=5,H=6,S=7,O=8,N=9,D=10),而 C 指的是多層鍍膜;再依據冼老師的說法,這顆鏡頭早期是 Sonnar 結構,1973 年後才改成雙高斯的設計,較早期的是白色鏡口,後期改為黑色鏡口,可以參考:Nikkor 105mm f/2.5 Telephoto Lenses

我個人覺得這顆鏡頭很不錯的地方在於不大不長的鏡身,擁有 f2.5 夠大足夠虛化散景的光圈,以中長焦或人像鏡用途的需求來說的確是個不錯的選擇。

兩篇網友對這顆鏡頭的介紹:

實拍照》

Nikkon FE + Nikon Nikkor-P.C Auto 105mm f2.5 + Kodak PJ 400

51950038
51950033 51950030
51950037

Nikkon FE + Nikon Nikkor-P.C Auto 105mm f2.5 + Fujifilm X-tra 400

62700016
62700018

本鏡實拍相片集:Nikon Nikkor-P.C Auto 105mm f2.5

鏡身照》

七片葉片

DSC00875
DSC00873
DSC00871

留言

  1. 我以前一直以為NIKON 的PC鏡頭裡面有PC晶片

    回覆刪除
  2. 我以前以為NIKON的PC鏡頭裡面都有PC晶片

    回覆刪除
  3. Re: 徐卡文 <2156273490754262736>
    好聰明的感覺。

    回覆刪除

張貼留言

回應不用錢,請多多益善!懶得寫字按個讚也是相當感謝!