TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
Voigtlander Vitessa 天線機大約從 1950 年開始生產,不可換鏡的部份可以分為 A、N、L ,前期 A、N 系列機種沒有測光表,一直到 L 才開始有光電池測光的設計, Vitessa T 接在 L 之後,也有光電池測光,改成可換鏡。 A、N、L 這三代固定鏡頭的機種其實也版本眾多,一些是外觀上的差異,像 PC 閃燈孔從鏡頭移到門蓋,機身上有沒有可以掛背帶的耳朵,LOGO 的位置和樣式,也包括相機上使用哪顆鏡頭的差別等等。 說實在,因為沒有測光表,我只能先確定這台 Vitessa 一定是 A 或 N 其中一款,特別是年份接近的 A5 和 N,翻了一下 網路上的資料整理 ,大致上這樣歸類比較快: Vitessa A:連動測距的黃斑區是菱形的,A 的版本眾多,A1 – A4 的 Voigtlander 字樣不在機身前的鏡頭上方,而是在機頂,像 Leica M3 那樣把廠牌和型號都刻在機頂,A5 才將 Voigtlander 廠牌名稱寫在機身前的鏡頭上方。 Vitessa N:連動測距的黃斑區是方形的,自 N 之後都是方形的黃斑區。 Vitessa L:有測光。 Vitessa 簡介 我個人認為,老福所生產的 Vitessa 應該是 135 連動測距相機裡頭最具特色的吧! 天線按壓把過片和上弦兩個動作合在一起,可以從鏡頭旁的連動觀察得出來,當天線按下時,下圖右邊的彈簧會跟著被壓下,然後下圖左邊鏡頭旁的那支 (大姆指位置),就可以按下擊發鏡間快門,這些設計可以看到早年蛇腹相機的縮影,彷彿一個濃縮的蛇腹相機頭被裝在 135 相機這樣。 Vitessa 除了相機漂亮,精緻的機械感,極富趣味的雙開門蛇腹設計以外,我覺得操作上也讓我印象深刻: 一、用右手就能對焦和按快門: 快門旁邊的圓形是對焦距離的指示,在你右手大姆指位置的那個轉輪是對焦用的,所以你可以看著疊影的觀景窗,用大姆指對焦,右手食指按下快門,左手在幹嘛呢,拍照時扶好相機準備等一下用大姆哥按天線過片。 二、開門機制: 因為做了鏡頭可以收進來關門的特殊設計,如果開門不方便的話,一定也會為人詬病。 有兩種開門的方法:門把開蓋和快門開蓋。 門把那個機制設計在兩扇門的下方,要開門時往右邊推 (正面對著相機的時候),門就會彈開,然後你拉開門鏡頭就會伸出來。 過片天線和快門鈕這兩個突起,當天...