TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(圖片來源：mirrorlessrumors.com)
來自 MirrorlessRumors 的報導，Pentax NC 無反系統第一彈 Pentax NC-1 將在今年五六月間推出！採用 1/2,33″ 尺寸的感光元件，與一般 DC 所使用的感光元件大小差不多，有效畫素為 1400 萬，135 等效焦長的換算約是 5.6 倍，可拍攝 HD h.264 影片。
NC 系統所搭配的兩顆鏡頭，為 8.5mm f1.9 以及 5-15mm f2.8-4.5，分別等效 135 焦長為 47mm 及 28-80mm，等於是一支標準鏡和一支變焦 Kit 鏡。
NC 系統感覺訴求的是更小的無反系統，用最小的感光元件，以及 Pentax 原本就很在行的小機身、小鏡頭來搶佔小型市場，從圖上看還不確定究竟有多小，實際發表時就見真章了！
當然，坊間所傳的 Pentax 無反系統將推出兩套，其中一套便是 NC，另一套目前的消息是會使用 APS-C 尺寸的感光元件，並且相容 K Mount，第二套系統會在今年夏季時發表。
目前看起來，除了 Pentax 推出兩套訴求對象不同的無反系統是一個特色之外，還不太能完全印證 Pentax 所宣稱的要推出與眾不同的無反系統，一切都要看今年夏天 Pentax 的新品發表了！
之前的報導：K-rumors，數位化的 Auto 110 將是 Pentax Mirrorless System 第一彈！
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！