TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
Adobe 於 3 月 22 日推出了 Lightroom 3 Beta 2 版，詳細可見 Release Notes 。 簡單介紹如下： 1. 支援新款相機的 RAW 檔 (比 Camera Raw 5.6 還新) 除了其他幾台今年推出的新機，其中支援 Sony Alpha 450 的 RAW 檔就是我一直在等的東西，如果您不升級 Lightroom 3 Beta 2，原來的 Lightroom 2.6 應該之後可以升級 Camera Raw 就可以支援底下的新款相機的 RAW。 Canon EOS 550D (Rebel T2i / Kiss X4 Digital) Olympus E-PL1 Panasonic G2 Panasonic G10 Sony Alpha 450 (A450) 附註：若您電腦已安裝 Lightroom 2 以前的版本，目前安裝 Lightroom 3 Beta 2 並不會取代原來的軟體，而會是另一個獨立的軟體，包括也不能匯入 Lightroom 2 的編目進 Lightroom 3 Beta 2 (因為是 Beta 版的緣故，正式 Release 之後應該可以升級編目版本後匯入 Lightroom 3)，不過原來在 Lightroom 2 裡的 Preset 預設集可以沿用，Lightroom 3 Beta 2 會直接抓到 (因為預設的路徑是相同的)。 2. 支援 Video 影片 3. 介面與功能的更新 匯入圖檔介面上的變得更好看也更好用，另外影像處理功能也有所提升，如銳化、雜訊去除等等，處理速度上仍然蠻快的。 4. 免費下載，可使用至 2010 年 6 月 需申請一個免費的帳號，下載網址： http://labs.adobe.com/technologies/lightroom3/ 5. 可自訂多組浮水印 6. 「發佈服務」，這是我個人認為最值得一提的新功能 內建 Flickr 上傳模組，設定在 Lightroom 的標籤 (Tag) 可以上傳至 Flickr，不同的 Tag 用逗號隔開，最大的好處是 RAW 檔修完可以直接上傳至 Flickr，電腦裡只要留 RAW 檔即可，省下我另存一份 jpeg 的硬碟空間，發佈服務可以像轉存 jpeg 檔一樣進行設定，在發佈之前，讓 Lightroom 幫你加上浮...