TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
ZENIT 122 亂拍第一卷,進度總算來到這裡~
這台相機的介紹,可以先參考這篇。
使用相機:ZENIT 122 + Pentax Super-Takumar 55mm f1.8
使用底片:Fujifilm X-tra 400
沖洗店家:公館五色鳥
這台 ZENIT 122,在拍的時候,發現捲片計數壞了,測光功能也失效,基本上全憑感覺設定光圈和快門速度,所以在沖洗之前,原本就有心理準備可能會有很多曝光不正確的照片,沖洗出來之後,居然沒有這個問題耶,運氣還不賴!不過,ZENIT 的快門有點硬,不太好按,按下快門的瞬間,手震也跟著來那麼一下,晃到的照片蠻多張的,另外,大光圈還控制得不好,景深很淺,散景很有味道。
發現沖出來的底片有些會有一條黑色的邊,不曉得是不是相機內部有什麼東西有問題,還請看得懂的人幫忙解惑一下。
先看照片吧!
#1 殺蚊子利器
#2 想睡的 Angel
#3 把拔這台相機我沒見過哦!
#4 這位是專屬 MD
#5 帽子造型
#6 我發芽了
#7 廚房的門簾,是把兩組混搭在一起,很意外的搭!
#8 我會自己穿鞋!(其實她是想把穿好的鞋子給脫了!)
#9 這散景好迷人
其他照片請至:Flickr ZENIT 122 vol.1
下一台要試的相機:Ricoh KR-5 + Ricoh XR Rikenon 50mm F2
後記(2009.08.02):
這兩天把電池換新,再試了一下捲片,發現測光正常,連計數器也正常,不曉得上次是怎麼了,因為 ZENIT 122 沒有像 Ricoh KR-5 可以關閉測光系統的設計,所以大概是電池耗盡了吧!計數器也是莫名奇妙的好了!哈哈!
請問你知道這台相機的鏡頭 (35mm)若要裝在NIKON 上面,需要買哪個size的轉接環嗎? 因為我也有此相機,不想再花錢買 Nikon 35mm, 想使用此鏡頭轉接到我的D80 手動對焦.. 但一直找不到轉接環的size標準...
回覆刪除若您知道的話,可以麻煩告訴我嗎?
candeething77@hotmail.com
我的理解大概是這樣, Nikon 的機身因為鏡後距的關係, 要轉接 M42 接環的鏡頭的轉接環需要矯正鏡片才能無限遠對焦, 有不少人是會拿 M42 請師父改鏡成 Nikon Ai Mount。
回覆刪除