TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
消息來源:路透社 UPDATE 1-Ricoh set to buy Hoya's Pentax camera business-sources
根據 IDC 的研究,Pentax 是世界上排名第十位的數位相機品牌,佔有 1.5% 的相機市場。
此一交易傳聞將在今日 (7/1) 發表,但似乎都還沒看到,上篇消息來源稱 Hoya 發言人拒絕回應,Ricoh 也無法立即聯繫上。
Ricoh 買下 Pentax 看起來也蠻合乎邏輯的,至少 SLR 這一塊 Ricoh 也曾經採用 Pentax 接環做了不少相機和鏡頭。
但是,Hoya 買下 Pentax 至今不過 4 年不到 (2007),該不會不久之後又拖垮 Ricoh 吧?
那,剛出來的 Pentax Q 產品線,以及之後謠傳會出的 APS-C size 的 EVIL,還會持續嗎?
如果這個消息為真,那麼忙線大所預言的那台 Ricoh Rumors: New GZ-1 該不會就成真了吧!究竟忙線大是大預言家還是內線消息靈通者呢?讓我們拭目以待!
補充:稍後路透社的另一篇報導,似乎是真的:Japan's Hoya to sell Pentax camera business to Ricoh,裡頭提到:兩家公司將舉行記者會,交易將於 10 月份完成。
再補充:路透社消息更新了,是真的,Ricoh 約以 100 億日元買下,附上 Ricoh 發佈的新聞稿。
讚!期待後續發展!
回覆刪除Re: callbusy <3347675626087458205>
回覆刪除哈哈,預言命中,忙線大超神的!
好事一樁
回覆刪除Re: applepeel <8554689669645887295>
回覆刪除^^
我在習武那篇還有留言揑~
回覆刪除Re: applepeel <1037500638308643261>
回覆刪除sorry 沒巡到,已經回了。
嗯...,當初PENTAX相機部門本來就不是HOYA的目標,
回覆刪除被賣掉是早晚的事,並不意外,只是RICOH有實力扶起PENTAX嗎?
Re: Steven <9178062290041001995>
回覆刪除品牌是否有相乘的效應讓 Ricoh 和 Pentax 維持小眾品牌仍有足夠利潤,先不談扶起來,我覺得有一些彼此之間都可能去搶市的產品不要浪廢錢去研發也不會不好,產品線可以整併,至少對 Ricoh 公司來說是能夠得到合併 Pentax 品牌營收的成果,只要 Pentax 不要在 Ricoh 手裡銷量狂跌就可以,這也得看 Ricoh 對 Pentax 的心態和積極程度了。
原來photalks的olympus om1N是你寫的喔,難怪敘事方式跟圖的擺放有似曾相識的感覺(^o^)
回覆刪除Re: applepeel <6962222844638614671>
回覆刪除^^
你可能快被我煩死了~又有問題要問了:
回覆刪除到了晚上幾乎都看不到觀景窗裡的資訊,這是所有老相機的缺點嗎?
有方法克服嗎?
你晚上拍照除了輕便相機外,自動對焦如SF7之類的有幫助嗎?
另外~
還有SP與SPF都是M42接環,兩者差異在哪?對焦屏是哪種?
翻遍你的blog都找不到答案(還是我找的不仔細)!!
以上
Re: applepeel <5547002264049612302>
回覆刪除1. 基本上無解,因為我沒在看觀景窗內的資訊,所以只要能夠全開光圈拍攝的手動機身我都可以接受,當然自動對焦不用太用眼睛看是會輕鬆很多。
2. Spotmatic 我沒玩過,所以沒寫,就我知道的差別大概只在機頂熱靴的支援,Spotmatic F 有熱靴而 Spotmatic 沒有。
了解了,
回覆刪除歹勢一直操你,
謝謝啦!
Re: applepeel <4445848022611589211>
回覆刪除還好啦 ^^
是說pentax到底要不要出全幅機啊?
回覆刪除還有DA 40mm Limited為啥那麼貴XD
Re: applepeel <2131652579658060891>
回覆刪除1. 誰知道,前輩們都等很久了。
2. 一直在漲價,很誇張。