TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(圖片與消息來源： dcwatch jp ) 為了紀念 Richard B. Merrill (1949–2008) 這位 FOVEON X3 Sensor 技術發明者，今年 Sigma 發表的三台新機：SD1 Merrill、DP1 Merrill、DP2 Merrill 都會掛上 Merrill 之名。(右圖來源： SD15 inside ) 這三台相機都將採用同一塊感光元件：Foveon X3 46 Megapixel image sensor，Sigma 稱之為世界上第一塊全彩影像感光元件 (World's first full color image sensor)，皆為 APS-C 尺寸的感光元件 (實際尺寸為 23.5mm × 15.7mm)。 DP1 Merrill 以及 DP2 Merrill 這兩台目前售價未明，網友小道消息說大概 30000 多台幣，如果是這個價錢的話，說真的還蠻有競爭力的！這次 Sigma 是同時推出同樣規格不同焦段的選擇，分別是等效 28mm 以及等效 45mm 的鏡頭，DP2 Merrill 的鏡頭採用了 FLD 低色散非球面鏡片，F 表示低色散，LD 則表示非球面，底下為規格比較表： 產品 DP1 Merrill DP2 Merrill 感光元件 有效 4,600 萬畫素 Foveon X3（23.5×15.7mm） 鏡頭焦段 等效 28mm，f2.8 等效 45mm，f2.8 最短對焦距離 20cm 28cm LCD 3 吋，92萬畫素 記憶卡規格 SDXC / SDHC / SD 錄影規格 640×480，30fps 電池 BP-41 鋰電池 尺寸 121.5×66.7×64.3mm 121.5×66.7×59.2mm 重量 約340g (不含電池) 約330g (不含電池) DP1 Merrill 和 DP2 Merrill 可以直接連結到官網先看介紹： DP1 Merrill Compact Digital Camera 、 DP2 Merrill Compact Digital Camera 另外，SD1 Merrill 的官方介紹請見此： SD1 Merrill Digital SLR Camera ，預計售...