TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
學習的本身，是一種從模倣到實踐的歷程。我以前很不愛拍照，也不愛被拍，很不習慣相機的存在。拍不出好照片也許是原因之一，似乎也找不著愛上攝影的理由，簡言之是缺少留下記憶的動力。
第一次拿到單眼，是因為工作，僅管沒有拍照的技術，也缺乏構圖的能力，隨便拍拍研討會活動紀錄也夠了，不過，那時開始，從模倣、觀察別人的作品，機身性能的學習，攝影觀念的學習，到漸漸找到自己喜歡的風格，才發現攝影是很好的創作工具，一張照片，有時遠比萬千文字，更能表達自己的思想。愛上攝影，便是一種實踐的歷程，能引發更深層的追求，除了器材、技巧，最重要的在於個人獨到的觀察，對人文的關懷，眼裡對週遭景觀的感受會變得深刻，出遊的動機也會變得明顯。自我風格的具體呈現，就是你的攝影作品。
我從 486 的窩，發現迷人的攝影生活，486大大用很簡單的文字搭配照片，提點了很多攝影的觀念，喜歡攝影不在迷戀器材先進與否，而在於一張張對著你說話的照片，引人無限遐想，展現著生命力與張力，是會讓人瞪目結舌的。486大大能讓你對於攝影有截然不同的體悟，簡單來說就是「會上癮」啦，所以我現在很享受「家庭攝影師」這份工作，反正由於不太上相，我本來就不愛露臉，甘願做個隱藏版人物。幾個活躍的攝影論壇，也很值得天天拜訪，從別人的作品中，發現自己的死角，是一種 Open Mind 的歷程。
→ Pentax Fans Club
→ 攝影家手札
→ IN硬攝影
拿起相機的同時，你就是創作者，讓別人藉由你的眼，探索你的內心世界。
你好，我的部落格照片都不會很清楚，但你放的都很清楚，想請問你有何訣竅??
回覆刪除您好，我逛了一下您的部落格，發現您是用原圖 1600x1200 上傳後，在 width 設定所要顯示的寬度。
回覆刪除請您試試看，先在您的電腦上將原圖按比例縮小，縮成 640x480，應該就夠您部落格目前的版型使用。
然後再上傳。
謝謝..我會試試...
回覆刪除