TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
別誤會了,我並沒有突然有錢,擁有屬於自己的 Contax。 第一次親手拿到 Contax 的機子,是 Contax N 系列的第一台 Contax N1,配上 Vario-Sonnar 24-85/3.5-4.5,拿在手上的手感真是好極了,機身橡皮塗裝使得握感更優,整個控制界面更是完全不用看說明書就能輕鬆上手。 原本向大姨子商借的是 Contax NX,N1 的簡化版,但大姨子擔心我把持不住,一下子落入無止盡的錢坑,造成家庭的失和,因此決定先借我 Contax 167MT 跟 Sonnar 135mm f/2.8,條件是得寫一篇心得報告。 我想先從 Contax 的品牌介紹起。 Contax 的品牌,是由德國蔡司公司於 1932 年生產 RF 相機所開始使用的品牌;二戰使得東西德分裂,蔡司也一分為二,西德蔡司以 Contax 品牌繼續生產 RF 相機,而東德蔡司則開始生產 M42 接環的 SLR。東西德蔡司之間的品牌之爭,後由西德獲勝,於是東德蔡司改用 Pentacon 和 Praktica 兩個品牌。 1974 年,西德蔡司開始嘗試走鏡頭供應商的路線,為補足電子技術不足的弱點,與日本 Yashica 合作,開始了由日本 Yashica 生產銷售的合作關係,稱 YASHICA CONTAX 時代。1983 年 Kyocera 併購了 Yashica,進入 Kyocera CONTAX 時代。 在日本生產的 Contax,大致有以下幾個系列: 一、手動對焦 SLR:C/Y Mount 二、G 系列:能自動對焦、自動測光,且能交換鏡頭的 RF 相機 三、T 系列:輕便相機 四、645:自動對焦的相機系統,也是 CONTAX 跨足中片幅市場的第一炮 五、N 系列:最後的經典,自動對焦 SLR,全新設計的 N 接環,可以透過轉接環接上所有 645 系列的鏡頭,甚至也出了數位全幅機身,但由於策略錯誤,導致 2005 年宣布停產。 詳細請繼續閱讀,很毒請小心服用!(也請愛用 Google) 酥餅的 Blog (Contax 標籤的文章) 486的小窩:Contax T3 介紹與使用心得 攝影家手札:相機測試:CONTAX G2 http://en.wikipedia.org/wiki/Contax http://www.con...