TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
這種設計好像早該出現了，卻是由 Polaroid 開出了第一槍！奇怪怎麼沒有廠商先這麼做，我可是期待這類型的產品蠻久了，久到我之前想要自己做一個可調角度的 LED 持續光源板搭配支架另外掛在機身旁補光，還有想過用圓形 LED 露營燈挖掉中間塑膠的部份去改 (像右圖那種)，加上濾鏡環可以旋鎖在鏡頭前端，有空還是想來做一個，那時候連露營燈都託朋友找到後來是另一個朋友拿去用才做罷。
Polaroid 所推出的 Duo Flash，同時擁有前方的強力的 LED 投射光源，上方的閃燈 GN 值也不弱。目前 Duo Flash 有兩款型號，分別是基本的 PL-150 和進階的 PL-160。主要差別是 PL-160 背部有 LCD 顯示以及有較高的 GN 值：45，售價 199.9 美金；PL-150 的 GN 值則為 42，售價則為 159.9 美金，適用 Canon 和 Nikon 的閃燈系統。
感謝網友 Decill 指正，今年初 Canon 推出一顆小閃燈有 LED 可以補光的：Canon SpeedLite 320EX，GN 值為 32，LED 流明為 75，產品如下：
是沒錯，但他的範圍也太小
回覆刪除Re: 徐卡文 <7068566584845728956>
回覆刪除還是要自己帶一支強大的燈厚，控光根本才是攝影真正重要的技術。
我的露營燈計劃一直沒進行說.. 好懶，本來想玩微距的時候用的。
Canon之前推出的320EX不就有持續光LED設計了?
回覆刪除Re: Decill <7169862903973630267>
回覆刪除失禮失禮，我真的不知道，我會補上去。
您太客氣了！
回覆刪除Re: Decill <1650194211769172426>
回覆刪除謝謝您的資訊是真的。
昨天看到您貼的 Minolta TLR 好心動，您拍得真好！