TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(上圖來源:Fuji X10 官網截圖)
我們還是先來看看影片吧,第一段是 Fuji X10 的廣告宣傳影片》
(From: http://youtu.be/qttiZkQBq2s)
第二段影片是 Fuji X10 動手玩及介紹》
(From: http://youtu.be/cj25re-1UpM)
規格大致與之前那篇 Rumors 報導無異,詳 Fuji X10 官方正式相關連結:
X100的標價實在太高,X10應該會親民一點吧?有人猜標價在五百美元上下,如果真是如此應該會賣得不錯吧。
回覆刪除Re: Humble Land Gardener <3151811921815564050>
回覆刪除500美金以下會是好價格,不過走中高階消費型的話,X100 被人詬病的自動對焦也得有改善才行。
外型好有RF相機的fu,整個很對味:)
回覆刪除Re: Brett <7170647428117852133>
回覆刪除有做光學觀景窗絕對要加分的!
x10的價錢出來後實在讓人整個心癢癢啦!!!!
回覆刪除我想600USD絕對是可以接受的價格,而且有觀景窗絕對才是拍照的浪漫啊!!
Re: Bboy Fan <2771250859680173159>
回覆刪除"有觀景窗絕對才是拍照的浪漫" 這句話說的太好了!^^
我22號在日本買了,價錢是800-900美金之間!跟之前謠傳的500美金差很大
回覆刪除在日本一般電器行(也就是沒有特別便宜的地方)買,退稅價是66477日圓
回覆刪除Re: Clair <5494841705558792567>
回覆刪除找了一下 amazon,$599.95 & this item ships for FREE with Super Saver Shipping.
from: http://www.amazon.com/Fujifilm-X10-Digital-Camera-f2-0-f2-8/dp/B005KBB79C
不過,不管價錢如何,用得開心順手最重要囉。
Re: Clair <5494841705558792567>
回覆刪除謝謝您的分享。
哇咧 我還以為再日本買最便宜耶 也差太多了
回覆刪除Re: Clair <336121723122249904>
回覆刪除嗯啊,也可能是日幣真的漲很多,另外,網路賣場便宜也是算正常,但真的差不少。