TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
鏡頭資料》PentaxForums
對焦距離:0.45m - 無窮遠
光圈:f3.5 – f16
口徑:49mm
重量:152g
鏡片結構:五片四群
光圈葉片:五片
出產年份:1971
是顆便宜,銳利度又不差的小鏡頭,光圈小了點,35mm 這個焦長很容易上手,轉接 APS-C 又差不多 50mm 的焦段,不過這顆光圈實在是不夠大啦,對於大光圈的愛好者來說一定不想收,也因此這顆的流通價格向來高不太起來。
大姑媽 35mm 這個焦長有兩顆,另一顆是 f2 大光圈,一般的說法是 f2 大光圈那顆不夠銳利,如果你是想找一顆方便攜帶的生活實用鏡頭,這顆是不錯的選擇。
實拍照》
Prektica MTL50 + S-M-C Takumar 35mm f3.5 + Fujifilm X-tra 400
Flickr Set:Pentax S-M-C Takumar 35mm f3.5
鏡身照》
但是,我還是有大光圈迷思
回覆刪除Re: 徐卡文 <264461959815401089>
回覆刪除我明白。
請問這顆與super-multi-coated TAKUMAR 28mm f3.5就整體而言你會推薦哪一顆? 謝謝:D
回覆刪除Re: Tizzy Hsu <3806207446965749943>
回覆刪除向來鏡頭的比較對我來說是個難題。這兩顆都不是很貴的東西,得看你對焦段的選擇。
對我來說,28mm 是因為略廣了一些,我可以拿來拍些小風景,35mm 很順手但我有很多 40 左右焦段的鏡頭,所以一開始我通常會選擇暫時不買。
除此之外,其實沒有孰優孰劣的問題。
Takumar這個鏡頭我也有一顆super takumar 55mm f2還蠻喜歡的很好操作有古典味道黃金色的玻璃真的很美
回覆刪除^^
刪除