TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
收一堆 1080p 影片，再加上拍了一大堆的照片，就得面臨永遠都不夠的硬碟空間！
我先大概說一下我對硬碟容量價格比的選擇，我通常會選擇價格 3000 元上下的硬碟，通常以當時的容量價格比，是最划算的選項，趁著這陣子 1TB 的硬碟價格都下降至 3000 元以下，所以來挑 1TB 的硬碟。
這次我考慮要買外接式的，因為即使我買了內接式的，主機內塞進三顆硬碟對於散熱不是太好！考慮幾個方案：
一、裸式插拔外接盒或閉合式外接盒 + 1TB 硬碟 
這個方案主要是考慮爾後硬碟抽換更新很方便，但是我在想以我們家灰塵這麼多的情況之下，對於外接盒上的硬碟覺得不太好，再加上我可能會懶得拔掉擺在那裡，這樣好像不是太優！
或者你是外接盒外型講究者，我有發現右邊一款 Macally G-S350SU SATA to eSATA/USB 2.0 G5 造型 3.5 吋硬碟外接盒，造型超好看的，超級適合 Mac 迷！你可以再買一顆內接式硬碟裝進去，美觀而且支援 eSATA 哦！
另外像是 NAS 產品，價格來說也是偏高，不過 WD 那台白色書本真的蠻漂亮的！
三、最後，直接買外接式硬碟盒內含硬碟的版本，選項蠻多的，像是 WD、Seagate、Buffalo 等等，最後我選的是 Buffalo Drive Station 1TB曲線版 行動硬碟(HD-CE)，雖然沒有 E-SATA，但我中意的是裡頭有一個功能：電源連動功能，具備電源連動功能，能隨著電腦開關機自動開啟電源或關閉。
我想外接式硬碟實在是沒必要一直開著，可是卻會懶得去關，所以看到這個功能我就蠻喜歡的，價錢合理，外型也蠻好看的！
底下列幾台外接硬碟供大家參考！
內接硬碟也很便宜了，參考參考！
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！