TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
使用相機：Minolta XE
使用底片：Kodak Double-X 5222 分裝片，拍 1600，D76 (1:1) 13分 25度
沖掃：自己沖，自己掃
彩負差不多都拍完了，可能要開始來殺黑白片了。最近已經每個禮拜跑五色鳥跑到老闆都認識我的名字了 (跟本人還連不起來)，不過很有趣的是這禮拜請老婆去拿的時候，老闆還問老婆說：「阿妳是 OOO 的老婆哦？」，五色鳥應該還處理蠻多我老婆小孩照片的，加上我都是拍家人比較多。
積了幾卷沒沖的黑白片，順便做彩負黑白沖實驗時，也挑了這卷已經不在手上的 XE 所拍的底片來沖，看一下畫面，拍攝的時間大約是去年 11 月我女兒生日那陣子拍的，那時候是刻意用 ISO 1600 等於增了三格來拍。
手上的 D76 藥水剛好只夠再沖兩卷左右，應該先沖這一卷，然後再做彩負黑白沖的實驗，在沖這卷的時候，因為顯影藥水不夠，又加了一點水，本來計劃是用 25 度的水溫，D76 1:1 的話大約沖個 13 分鐘左右，後來因為加了水，藥水稀了，怕底片顯影時間不夠，手機碼錶又跑到沒電，遲疑了大約有 3 分鐘左右，搖的時候一開始也很頻繁，整體搖得頻率很亂 (因為還從浴室跑出來一邊讓手機充電一邊搖)，總之都是藥水不夠自己隨興做的調整，出來的狀況是反差很大，高光爆掉，粒子超多。
拍完隔很久才沖，當然就幾乎記不得用什麼鏡頭，不過大概還是可以回想起在哪裡拍的，我還蠻喜歡這樣的，隔一陣子再去看到拍出來的畫面，會很客觀的找到那些照片有 Fu，弄完這兩卷算一算還是有三四卷左右的黑白片還沒沖，可能這陣子還會找時間再來沖一下吧。
隨興沖，就隨興看》
去年 Angel 滿兩歲生日那天拍的，在試玩大家送她的禮物》
其他本卷照片：Minolta XE vol.5
好有FU哦！
回覆刪除真厲害，對你的景仰有如滔滔江水，綿延不絕…
Re: applepeel <5758092361328885477>
回覆刪除我只是個小咖而已，還好有認識 Flickr 上的前輩他給了我不少初學時的資訊，你如果有興趣也可以玩玩看哦。