TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
使用相機：TakeOne Ultra Wide & Slim 22mm
使用底片：Kodak PJ 400
沖洗店家：公館五色鳥
最近進了一批 Kodak 停產的過期負片，據說放了十多年了，上個禮拜打完三卷，朋友也打了一卷，看成色覺得蠻滿意的，應該會是最近彩負的主力片吧。(話說 Fuji X-tra 400 漲價了好像。)
這台 22mm 的玩具相機，上次拍居然是前年七月，整整丟了兩年有餘沒拿出來用，因為這台玩具的地位有點被後來入手的那批 RF 取代，這台就被愈放愈進去防潮箱的深處，最近又開始在肖想這種比 24mm 更廣的焦段，沒想到手裡居然還是只有這台玩具夠廣，很慚愧又心酸的把這台帶出門，一個下午就把兩卷給打完了，這欠缺廣角的嚴重病症究竟什麼時候才會被療癒啊？
話說好像已經把這台的重曝和 B 快門給實現了，卻也懶得玩，甚至把之前的開口找了隻可愛的小熊維尼貼紙貼上了，拍的時候貓也會看著相機了，大概是在想那亮亮的貼紙是啥玩意兒吧。
邊走路邊拍也懶得停下來，照片看起來會暈。
搖下車窗就一路亂拍了。
先前散步時一直沒辦法全部拍下來的建築物，用這視角拍簡單到有點開心。
隨手一按，也很難拍不進想拍的物體。
說了這麼多，其實就是在想，什麼時候會來一顆 20mm 玩玩呀？
這兩卷其他照片：
好玩呀:)有冇部機嘅樣睇下呀師兄:D
回覆刪除Re: ryu yu <1567837555856175739>
回覆刪除hi, this one:
http://jimmyyen.blogspot.com/2009/04/toy-camera-take-one-ultra-wide-slim.html
我也覺得柯達過期片不錯
回覆刪除Re: applepeel <899093052044945231>
回覆刪除都過期十年了，實在是有讚。