TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
我很久沒查這東西了，當很多友站部落格都達到 PageRank 5 的時候，印象中我停在 PageRank 4 已經好久了，不過我去年開始應該都有穩住 PageRank 4，很少往下降回 PageRank 3。 公司的網站 也在今年五月改版之後，從原來的 PageRank 6 升到了 PageRank 7。 其實我沒做什麼耶，如果您有興趣的話可以看我以前寫的這篇： [Blogger] 淺談 Blogger SEO (Search Engine Optimization) ，其實最後的關鍵還是要有 持續優質的內容 ，當然也要感謝網友們的支持與收看，幫忙把文章分享出去，當然這也鞭策著我繼續努力寫更多的文章。 老爸網路觀察室有一篇新文章提到「 Google更新搜尋演算法，大幅度影響網頁排名 」，或許就是這次敝站 PageRank 會增加的原因吧。 以新的搜尋演算法的設計，未來保持新資訊的提供變得更為重要，有能力閱讀新知識並分享的人將變得更有價值，Web 3.0 精神。 PageRank 是什麼？ PageRank ， 網頁排名 ，又稱 網頁級別 、 Google左側排名 或 佩奇排名 ，是一種由搜索引擎根據網頁之間相互的超連結計算的技術，而作為網頁排名的要素之一，以Google公司創辦人拉里·佩奇（Larry Page）之姓來命名。此技術通常和搜索引擎優化有關，Google用它來體現網頁的相關性和重要性。Google的創始人拉里·佩奇和謝爾蓋·布林於1998年在史丹福大學發明了這項技術。 PageRank通過網路浩瀚的超連結關係來確定一個頁面的等級。Google把從A頁面到B頁面的連結解釋為A頁面給B頁面投票，Google根據投票來源（甚至來源的來源，即連結到A頁面的頁面）和投票目標的等級來決定新的等級。簡單的說，一個高等級的頁面可以使其他低等級頁面的等級提升。 (From: wiki ) PageRank 查詢工具 http://pagerank.easylife.tw/ http://www.prchecker.info/