TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(Minolta Alpha 7，Minolta AF 28-70mm f2.8 G，Fujifilm X-tra 400)
使用相機：Minolta Alpha 7
使用底片：Fujifilm X-tra 400
沖掃店家：公館五色鳥
為了拍攝這場婚禮派對，跟朋友借了之前幫他標回來的 Alpha 7 和 28-70mm f2.8 G，搭配我原本就有的老燈 5400HS，機身可以說是第一次實戰使用，印象最深刻的是 Alpha 7 的回片，在我撈另一卷底片要裝的時候就回捲完畢了，果然是傳說中的銘機，準專業機真的是用來應付這種實戰的場合，對焦快速，測光也讓人很滿意，本來很不安於第一次使用會不會出包，但看到照片就安心了。
那天怕不夠打，一次帶了一條六卷，最後打完了三卷，鏡頭用了兩顆，另一顆是 50mm f1.7，好加在有多帶這顆，因為拍攝中途 5400HS 可能有一點進水，有一段時間給我不做動，好在後來又恢復工作，所以有一些是沒打燈用 50mm 硬打的。
不知道為什麼，這次使用 28-70mm G 就感覺沒那麼重了，可能是之前有拿 6x7 的經驗吧，好像這樣的重量也不是什麼問題了，看這顆的表現又讓人很滿意，一整個心動想留下來的說。
先看 Minolta AF 50mm f1.7 拍的》
傳說中的養樂多煉獄
樂團表演很好聽
再來是 Minolta AF 28-70mm f2.8 G 拍的》
很歡樂＋很亂＝亂歡樂。
這三卷其他照片：
讚同;)好機好機！
回覆刪除嚟緊十一月嘅婚禮job我都會用依部！希望到時夠體力咩到三支鏡啦:)
到時我會帶威逹19~35 3.5-4•5,Tokina 28-70 2.8,龍仔70-200 2.8。
我估夠啦啩:S
Re: ryu yu <4666967467654537622>
回覆刪除師兄好體力！