TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
產品網址: http://www.adobe.com/products/photoshoplightroom/ 新功能介紹: http://www.adobe.com/products/photoshoplightroom/features/ 正式版試用下載: http://www.adobe.com/products/photoshoplightroom/features/ 正式版試用三十天內付錢買序號,輸入序號之後就是正式版了!原本如果有裝 Lightroom 3 Beta 版的朋友,安裝 LR3 Offical Release 之後就會直接移除 LR 3 Beta 版;另外如果有安裝 LR2,也會在偵測到之後提示您是否升級 LR2 版的舊編目,或者另外建全新的 LR3 編目。 編目升級進行中 更新完進 LR3,原本在 LR2 的編目就匯進 LR3 了,會出現一個驚嘆號提醒這是 LR2 處理的圖,會問你要不要更新至目前的處理版本 (2010)。 連線拍攝 最想玩的是連線拍攝 (Tethered shooting) 的功能,不過好像相機也要支援。 畫面長這樣 如果從增效模組管理員看的話,會看到 Canon 和 Nikon 的連線增效模組,大概目前是支援這兩家的 DSLR 吧。 以前用 Pentax K10D 的時候,原廠有附 Pentax Remote Assistant 3 軟體可以用電腦控制相機並直接在螢幕上看到畫面,還以為這是各家都會有的功能,想不到 Sony 只有 A700 等級以上的相機才支援 (A700、A850、A900),KonicaMinolta 的 D7D 也有這個功能 (D5D 就沒有)。這個東西有一個最大的好處,就是用電腦螢幕看怎麼樣都比用相機的 LCD 大多了!爽度大提升啊!整合進 Lightroom 的好處是,可以直接與你的工作流程 (Workflow) 結合,從拍攝到將照片產出,都可以在 LR 中處理。 連線拍攝 (Tethered shooting) 暫時沒得完,不過有找到一些好玩的東西,改天再另補一篇好了。 感覺功能更強的雜色減少和銳利化 蠻好用的! 另外還有 之前介紹 的浮水印和上傳 Flickr 模組,都算是 LR3 不錯用的新...