TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
前話，走到第一次領錢這一步，相較於很多部落客達人來說，我算是有夠久的了。
首先，當您累積到最低支付金額的 100 美元，您會在下個月 Google Adsense 的平台裡付款紀錄的頁面看到付款核發的訊息
您可以點選盈餘表的連結，把整個對帳單印下來，或者用紙筆抄下：款項金額、MTCN 付款編號、Google Inc. (地址不用抄)、你申請 Google Adsense 的英文拼寫名字 (地址也不用抄)，準備好你的身份證跟好心情，就可以前往有提供西聯匯款服務的據點。
我是就近選擇國泰世華銀行，一進去先抽「外匯」櫃台的號碼牌，然後服務人員會讓你填一張西聯匯款的匯入匯款單，如果您跟我一樣是領現金的話，填上您的英文拼音名、英文拼音姓，匯款人寫 Google Inc. 即可，地址通通不必填，預期匯款金額填上金額，匯款國家寫 USA，匯款控制號碼則填上付款編號，最底下客戶簽名簽上你的中文大名即可。
然後大概等個 20 – 30 分，服務人員會幫您抽一張「一般收付」櫃台的號碼牌以及把西聯匯款換算出來的台幣金額的表格給您，在「一般收付」櫃台將該張表格交給服務人員就可以領到熱騰騰的現金了。
最後，祝大家領 Google Adsense 愉快。
原來地址可以不用抄啊，我每次都是全寫好累
回覆刪除我本來要寫了，服務小姐跟我說不用寫耶... 好貼心!!
回覆刪除恭喜你收到你的第一個 Google Adsense 款項 =D
回覆刪除一定很有成就感吧?
謝謝啦，有錢賺很開心...
回覆刪除