TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
昨天看了一下 Flickr，自去年 10 月算兩年拍了 50 卷之後，到昨天已經累積了 90 卷，差不多這半年又增加了 40 卷，想說來算一下底片的成本。(我只拍 135 底片)
如果平均一卷底片算 60 元，沖掃算平均 100 元，也就是一卷底片拍完洗出來約 160 元，90 卷底片大概是 14400 元，算 15000 元好了。
每卷底片算 30 張照片的話，大約有 3000 張照片，那麼一張照片大約是 5 元。
一台 135 全幅的數位機身，以目前最便宜的 Sony A850 大概是 60000 元來看，大約要拍到 400 卷才相當，還有 310 卷約 9000 張要拍…
就算我接下來一年平均殺掉 100 卷底片，那也要再殺個三年才買得起一台數位 135 全幅的說。
所以，拍底片很貴嗎？至少在台灣，拍底片算是便宜了。
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！