TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
之前很多中文評測網站的對於 Sony 今年初推出的 A450 多有批判，不過，我買了這一台。所以如果您無法認同這台機子沒有錄影功能、沒有 AF Liveview、沒有微笑快門，十足是一台被閹割的機子，您可以不用繼續看下去。
參考網址：Sony Alpha a450出了，號稱一顆電池可拍1050張（無力～）
會進這台，除了今年想開始接觸 Minolta 老鏡，也包括考量未來購入全幅機種的可能，當然更包括我不進 C, N 大家族的怪脾氣。
我曾經提過，目前為止，我並不覺得相機內建錄影功能有什麼了不起，以 Sony 全系列 DSLR 機種都沒有錄影功能來說，除了在策略上是保護 Sony 原有的 DV 產品線，就我看來，專機專用的思考即使不是每個消費者都認同，我仍舊覺得，拍照跟錄影，還是應該一碼歸一碼。當然 Sony 也為了這個策略付出相當大的代價，至少就去年來說，當別人的 DSLR 產品都有價附送錄影功能之後，Sony DSLR 的銷量的確大減，市佔率落後給後起的 M 4/3 新秀，Panasonic。我看過用 DSLR 拍出來的影片，不可否認的，相當有味道，也相當方便，出門只要帶一台，我不是反對多這項功能有什麼不好，純粹是個人不需要，記得我剛剛就叫你別繼續看了，你現在按上一頁還來得及。
當今年 Canon 推出 550D，號稱 1080p 補完，平民版 7D 的誕生，1870 萬的畫素，遠遠將眾家對手的入門機抛諸在後，必須承認的是，消費機種有消費機種的規格走向，異中求同，別家有的，我們家也要有，要不然拿出門一比，別人有這個功能，而我這台卻沒有，我的像素這麼高，你的還是不夠好，一問之下價格還差不多，這不就窘了？所以我說你不要繼續看，因為要比規格不是我這裡想寫的，快按上一頁還來得及。
你有沒有問過自己，拿單眼要幹什麼？跟別人比看誰花的錢多？或者以為拿單眼就肯定拍出好照片？我好喜歡朋友們拿傻瓜底片機或是傻瓜 DC 拍出來的好作品，那種氛圍，那種感受，絕對不是手裡拿著什麼機絲，就能拍得出來的。影片的處理對我目前來說仍舊相當耗時費力，因此我選擇先從靜態的攝影玩起。當然我不是說我拍得多好，我很菜，剛剛就叫你不要看了，因為我可以這麼告訴你，我就是愛亂拍，我就是在紀錄生活，我就是怪咖。
我買 A450，除了機身大小合適，握握感貼近個人需求，沒有 AF Liveview，沒有錄影，機身便宜，某個部份的因素是來自於已消失的 Minolta，我想看著 Sony，有沒有承繼 Minolta 勇於創新的精神，至少 Sony 底子雄厚，我想，大概還禁得起一些市場評價不高，卻是實用而創新的概念。
而我還可以玩玩 Minolta 底片機配上老鏡，享受一下曾經是自動對焦 SLR 開山祖師爺， Minolta 的榮耀。
不直上全幅有一個很重要的考量，是科技，目前來說，高成本開發的全幅單眼，還不是時候，維持高 ISO 的純淨度仍是全幅數位單眼相當困難的工作，我想如果連 Pentax 都出得起全幅的時候，我再考慮要買哪一家的數位全幅也不遲。策略上，如果是先從感光元件著手，再配合影像處理器技術的進步，平價的全幅單眼應該不遠矣，在這之前，前輩說，拍底片吧！
後記，Pentax 645D 如預期地要在今年推出了！這下好玩了。
網路賣場價格參考：
恭喜Jimmy兄入手新機喔！^^
回覆刪除謝謝忙線大，還不敢玩 ZA 鏡，價格很可怕的說！
回覆刪除