TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
使用相機：Pentax LX with FA 43 LE
使用底片：Fujifilm X-tra 400
沖掃店家：士林正典
LX 黏鏡的問題遇到了， 反光鏡遲滯還蠻討厭的，最近有空可能要自己看看有沒有辦法照著網友分享的方式修修看。
先留個筆記好了，From: 宾得顶级LX用家注意事项
二、LX有一个非常独特的老问题--“粘镜”sticky mirror。这是让很多LX老玩家匪夷所思的问题。症状是：按下快门，反光板没反应，或者感觉跟低排量汽车油门一样拉不起来，要滞后一会儿才弹起来。其实这些症状原因并不是机械故障问题，而是相机年龄问题。如果将LX反光板预升起来，大家可以看到镜仓里左右仓壁两边分别有两快小橡胶，左边一快是小长方体，右边一块是圆形。这是用来支撑反光板下放时位置的，同时也起减震效果。但时间长了，两块橡胶老化，失去弹性，变得跟橡皮泥一样的质感，反光镜就是这样被拖了后腿的。处理方法，用镊子摘掉整块粘物，用海绵或是自己切块铅笔橡皮，用双面胶固定更换即可。一般情况快门立刻复活，咔咔如新。几千块换机，或者几百修机（我觉得修机师副很多都这么坑人的）的费用就这么简单剩下了。但是如果症状依旧，也不要着急，就是要麻烦点，因为有一块同样质地的老化橡胶在左边光圈杆压杆的下面负责减震，把反光板预升，抬起压杆，用尖镊子把压杆最下方的粘物抠干净即可。如果对内部结构不熟悉，看不到就先用螺丝刀转调镜藏的内圈（黑色），一共四颗（黑色）。稍微移转开内圈，就能看到那块黑色橡胶，用镊子摘掉，可更换也可以不用更换，对功能没有任何影响。整个过程不超过10分钟，不留任何痕迹，你的LX就跟新的一样灵敏快捷了。今天便宜淘的坏货，就是这样被我10分钟修好，外观呈色超级新，算走了个大运。
這個禮拜六日陪老婆去宜蘭找同學聚餐，順便就厚著臉皮借宿了一宿。
家裡有三狗一貓，其中一狗一貓是比較有地位的，可以在家裡走動，也都蠻聽話。
他是阿布，七歲。
他是沙西米，年紀不詳。
據說有一個橋段是他們兩個在家常常表演的，叫做吵架，何其榮幸，這次看到了，通常都是由阿布發動攻勢，沙西米則是冷冷的看著，突然殺個阿布措手不及。
但在室內我快門不夠快，拍不下來。
Angel 住在有這麼多動物的家裡，很開心。
第二天早上帶了兩狗出門到宜蘭文化中心放風。
阿布很豪邁的喝水。
歐巴馬從一開始就不見人影，後來怕他跑太遠只好先讓他在樹下休息。
天氣很好，有風又有藍天綠地，放風箏最讚了！
很愉快的宜蘭之旅，謝謝招待。
其他本卷照片：Pentax LX vol.7
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！