TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
使用相機：Yashica Electro 35 GSN
使用底片：Fujicolor Super 400 過期底片，增半格拍，增一格沖
沖掃店家：公館五色鳥
這也是從日本隨著標回來的相機拿到的底片 Fujicolor Super 400，24 張，猜想應該是過期了，所以用 ISO 640 拍，請店家用 800 沖。有著富士底片一貫的發色，人像膚色偏紅，景物沈鬱，我的殘眼看不出跟 X-tra 400 有無顯著差異，底片的樣子如下圖：
再來談談 Yashica Electro 35 GSN，揹他出門算是蠻有重量的，操控上很輕鬆，選好光圈對好焦，按下快門就 OK 了，復古的外型加上近乎全新的品項，爽度高到爆點！這顆 Yashinon Color 45mm f1.7 的鏡頭銳利度讓我很驚豔，成色也很飽滿，耀光可以預期地是稍差了點，不過也很合胃口。
底下就隨意看照片吧，因為我也是隨意拍拍。
老婆
偶爾願意自己拿奶瓶的 Angel
基地台 vs 天空
大雨滂沱的公企中心
陸軍聯誼廳
在同一棟台灣老建築和平共存的中國與韓國
名字很瓊瑤的老公寓
被刻字的車子：請勿…
本卷其他照片：Yashica Electro 35 GSN vol.1
作者已經移除這則留言。
回覆刪除好巧！也有一台Yashica Electro 35 GS！試拍過一捲底片。電池部分你是怎麼處理的呢？更巧的是，相片中的地點，非常熟悉。
回覆刪除哈囉，有兩個解法，我採用最簡單的：一顆 CR2 + 兩顆 PX625A，高度剛剛好，電壓高了點，不過據我這卷的測試應該沒有多大的問題。
回覆刪除http://jimmyyen.blogspot.com/2010/05/yashica-electro-35-gsn1973.html
我們的生活圈大概還蠻接近的吧～ ^^
回覆刪除